返回首页
一周热榜
哪些AI网关表现良好?我们目前直接使用Anthropic的路由器作为我们的AI代理(在val.town上),但正在考虑添加OpenRouter、Vercel AI Gateway或其他完全不同的选项。
我对网关了解不多,只知道它们似乎是新的VS Code分支(也就是说,大家都在做这个)。我粗略的研究告诉我,OpenRouter拥有最多的模型/提供商,但收取5.5%的按需付费平台费用(我们将推理成本转嫁给客户),并且不支持像提示缓存这样的功能。
我们主要使用Cloudflare,我刚刚了解到他们也有一个AI网关——但到目前为止,我找到的“2026年最佳LLM网关”类型的文章都是由……拥有网关的公司发布的。