最新

ElasticMM 是一个新发布的开源服务系统，专为现代多模态大型语言模型（MLLMs）设计。该研究在 2025 年 NeurIPS 会议上被选为口头报告。 与现有的服务堆栈（如 vLLM，主要针对文本工作负载进行优化）不同，ElasticMM 引入了弹性多模态并行性（EMP），这是一种新的执行范式，能够在不同的推理阶段和模态之间自适应并行性。 论文的主要发现包括： - TTFT（总推理时间）减少高达 4.2 倍 - 在混合多模态工作负载下，吞吐量提高 3.2 倍至 4.5 倍 - 具模态感知的调度、弹性阶段划分、统一前缀缓存和非阻塞编码 论文（OpenReview PDF）： [https://openreview.net/pdf?id=Zd6VyjmN1S](https://openreview.net/pdf?id=Zd6VyjmN1S) GitHub 仓库： [https://github.com/hpdps-group/ElasticMM](https://github.com/hpdps-group/ElasticMM) 期待听到 HN 社区的看法，特别是那些正在构建 LLM/MLLM 推理堆栈或在生产中处理多模态服务的朋友们。

实现这个功能花了一些时间，不过现在我在Axe中已经有了通用函数的工作。附上文档、代码库和网站。

嗨，HN， 在过去的几年里，我一直在多个前端技术栈（如 React、Vue、Angular 等）中工作，但我遇到的一个反复出现的挫折是： 核心 UI 组件，如选择框和通知，每次框架更改时都需要重写。 即使行为和用户体验基本相同，具体实现却与框架紧密耦合，这使得长期使用的 UI 逻辑异常脆弱。 因此，我决定尝试一种不同的方法：将 UI 原语构建为原生 Web 组件，然后根据需要为框架进行封装，而不是重新实现它们。 最终，我构建了两个组件： - SeoSelect — 一个面向生产的选择组件 - 支持大数据集的虚拟滚动 - 多语言模糊搜索（包括韩语、日语和中文输入模式） - 默认支持键盘和屏幕阅读器可访问性 - 零运行时依赖 - SeoToast — 一个轻量级、与框架无关的通知组件 - 多种位置和动画效果 - 重复消息分组 - SSR 安全行为 - 压缩后约 10KB 这两个组件首先作为纯 Web 组件实现，仅在改善开发者体验的情况下添加框架封装。 我并不是想取代框架——这更多是为了测试 UI 原语是否可以在框架生命周期之外存在，同时仍然适用于实际应用。 我非常希望能得到以下方面的反馈： - 在生产中使用过 Web 组件的人 - 构建过跨框架共享设计系统的人 - 遇到过这种方法的局限性或尖锐问题的人 链接： - [SeoSelect](https://www.npmjs.com/package/seo-select) - [SeoToast](https://www.npmjs.com/package/seo-toast) 欢迎提问或讨论权衡利弊。 谢谢！

我开始在X平台上给那些“接触大自然”的人发放徽章，纯粹是为了好玩，结果大多数人都很喜欢！于是我决定为此创建一个完整的网站。<p>流程很简单： - 输入X用户名或网址 - 获取个人资料图片并选择徽章 - 生成一个可以分享的徽章页面，并附有精美的OG图片<p>该网站部署在Vercel上，使用R2和浏览器渲染OG图片及数据存储。