我一直在尝试基于代理的功能,其中一件让我感到惊讶的事情是,估算API成本是多么困难。<p>单个用户操作可能会触发从几个到几十个大型语言模型(LLM)调用(工具使用、重试、推理步骤),而基于令牌的定价使得成本差异很大。<p>在定价他们的SaaS时,这里的开发者是如何考虑这些因素的?<p>你们是通过提高利润空间、限制使用,还是建立内部成本跟踪来应对的?<p>我也很好奇,提供可预测定价的AI API服务(比如固定订阅费用)对构建代理工作流的人来说是否真的有用?
返回首页
最新
好奇人们是如何在他们的开发运维(DevOps)/基础设施工作流程中使用人工智能代理的。<p>例如:
• 运行迁移
• 部署服务
• 配置基础设施<p>还是说你们主要将人工智能用于“代码生成”这一领域?<p>同时也想知道是否有人在使用像 Supabase 或 Vercel 这样的工具中的 MCP 服务器。<p>非常想听听你们今天是如何交付的。