最新

在用户等待大型语言模型返回结果时，给他们提供一个游戏。

嗨，HN！<p>我是Glama的创始人。<p>我们正在将Lightport开源——这是为Glama提供支持的AI网关。<p>GitHub: <a href="https://github.com/glama-ai/lightport" rel="nofollow">https://github.com/glama-ai/lightport</a><p>在线演示: <a href="https://glama.ai/ai/gateway" rel="nofollow">https://glama.ai/ai/gateway</a><p>为什么？<p>我们全力投入MCP生态系统——这是我们最擅长的。开源这个网关既是对帮助我们成长的社区的感谢，也是让我们保持专注的一种方式。<p>简短的背景故事：<p>Lightport最初是Portkey的一个分支。我们需要一种方法来使各种大型语言模型（LLM）提供商与OpenAI兼容，而Portkey提供了一个坚实的基础。但它也带来了许多我们认为不属于这一层的高级功能（如保护机制、计费等），这使得在提供商兼容性上进行迭代变得困难。因此，我们对其进行了精简，修复了错误，为80多个提供商添加了集成测试，并将其打造成一个可靠、轻量的层，使任何LLM提供商都能与OpenAI兼容。<p>接下来：<p>更多模块将会推出——保护机制、计费、重试、遥测——每个模块都将作为独立的中间件开源。我们将继续在公开环境中维护Lightport，重点关注各LLM提供商之间的OpenAI兼容性。<p>对于Glama用户：<p>Glama AI网关将继续作为一个以隐私为首的网关运行，但我们只会支持一组经过精心挑选的提供商（OpenAI、Anthropic、Google、Grok、Groq、DeepSeek、阿里巴巴、Moonshot及其他一些）。对于其他所有内容，OpenRouter是一个很好的替代方案。<p>试试它，破坏它，和它一起构建。我迫不及待想看看你们会创造出什么。

我正在开发一个用于构建iOS应用的编码代理。它基于openspec和xcodebuildmcp构建。这个项目是免费的且开源的。