返回首页
最新
我将把 Lightport 开源——这个为 Glama 提供支持的 AI 网关。
<p>GitHub: <a href="https://github.com/glama-ai/lightport" rel="nofollow">https://github.com/glama-ai/lightport</a></p>
<p>在线演示: <a href="https://glama.ai/ai/gateway" rel="nofollow">https://glama.ai/ai/gateway</a></p>
<p>为什么要这样做?</p>
我们将全力投入 MCP 生态系统——这是我们最擅长的领域。开源这个网关既是对帮助我们成长的社区的感谢,也是让我们保持专注的一种方式。
<p>简短的背景故事:</p>
Lightport 最初是 Portkey 的一个分支。我们需要一种方法来使各种 LLM 提供商与 OpenAI 兼容,而 Portkey 提供了一个坚实的基础。但它也包含了许多我们认为不应在这个层面上的高级功能(如保护措施、计费等),这使得在提供商兼容性上进行迭代变得困难。因此,我们对其进行了精简,修复了错误,为 80 多个提供商添加了集成测试,并将其打造成一个可靠、轻量的层,使任何 LLM 提供商都能与 OpenAI 兼容。
<p>接下来会发生什么:</p>
我们将推出更多模块——保护措施、计费、重试、遥测——每个模块都将作为独立的中间件开源。我们将继续在开放环境中维护 Lightport,重点关注 LLM 提供商之间的 OpenAI 兼容性。
<p>对于 Glama 用户:</p>
Glama AI 网关将继续作为一个以隐私为首的网关运行,但我们只会支持一组经过精心挑选的提供商(OpenAI、Anthropic、Google、Grok、Groq、DeepSeek、阿里巴巴、Moonshot 以及其他一些)。对于其他所有提供商,OpenRouter 是一个很好的替代方案。
<p>试试它,挑战它,利用它进行构建。我迫不及待想看到你们的创作。</p>
刚看到这个帖子:<a href="https://news.ycombinator.com/item?id=47920074">https://news.ycombinator.com/item?id=47920074</a><p>这让我想起我们之前做过的一个应用,唯一的目的是为了寻找“无聊”。<p>这个应用并没有成功,但我觉得在这里分享一下会很有趣。<p>这个应用的简要说明是,你可以与随机的人一起加入实时的“无聊”直播间。