返回首页
最新
我开发了一个免费的工具，可以将您的网站地图提交给谷歌，以便让您的页面被索引。
这个感恩节，让我们感谢那些回馈社会的人。你们真棒！
嘿，HN（来自我11月21日帖子的更新），
我是来自尼日利亚的Matthew，13岁。在对自动炮进行修正后（感谢@saltyaom！），这是PrinceJS的v1.7.7版本。
自发布以来的新变化：
• 包大小：约2.2 kB（经过gzip压缩，经过树摇优化，减少了600字节）
• 速度：在oha上达到21,748请求/秒（-c 100 -z 30s，Bun 1.2.x）——确认的前三名
• 与其他框架对比：Hono 22,124 | Elysia 25,312 | Express 9,325
完整的服务器代码（8行）：
```javascript
import { prince } from "princejs";
const app = prince();
app.get("/", () => "Hello world ");
app.get("/users/:id", (req) => ({ id: req.params.id }));
app.listen(3000);
```
接下来是云虚拟机的基准测试。对包的大小和速度有什么反馈吗？
仓库链接： [https://github.com/MatthewTheCoder1218/princejs](https://github.com/MatthewTheCoder1218/princejs)
安装命令：npm i princejs
Matthew (@Lil_Prince_1218)
关于这些字体的可访问性，我使用NVDA屏幕阅读器进行了测试，它能够像正常文本一样正确读取大约13种字体。更多详细信息请见这里：<a href="https://fontgen.cool/disclaimer" rel="nofollow">https://fontgen.cool/disclaimer</a>
我构建这个工具是为了回答关于大型语言模型（LLM）部署的“假设”问题，而无需启动昂贵的基础设施。
该工具模拟了推理物理学——延迟、带宽饱和和PCIe瓶颈，适用于像DeepSeek-V3（671B）、Mixtral 8x7B、Qwen2.5-MoE和Grok-1这样的超大规模混合专家（MoE）模型。
主要功能：
- 独立的预填充与解码并行配置（TP/PP/SP/DP）
- 硬件建模：H100、B200、A100、NVLink拓扑，IB与RoCE
- 优化：分页KV缓存、双管道、FP8/INT4量化
- 实验性：内存池（TPP，分层存储）和近内存计算——将冷专家和冷/温KV缓存卸载到系统RAM，节点共享或全局共享内存池
实时演示： [https://llm-inference-performance-calculator-1066033662468.us-west1.run.app/](https://llm-inference-performance-calculator-1066033662468.us-west1.run.app/)
该工具使用React、TypeScript、Tailwind和Vite构建。
免责声明：我已经校准了数学模型，但它们并不完美。欢迎反馈和拉取请求（PR）。