最新

我在 Cloudflare Workers 和 Durable Objects 上构建了一个个人 LLM 助手。在开始新对话时，你可以指定一个类别和主题，因此后端会为每个类别/主题维护一个摘要——随着在同一类别/主题下进行更多对话，这个摘要会不断更新。 这个系统没有复杂的 RAG、嵌入或代理魔法，但类别/主题摘要系统确实有效，我发现它非常方便，并且我每天都在生活和工作中使用它。 我开始这个项目是为了熟悉 Durable Objects，并测试我在脑海中埋藏已久的一个想法草稿。在最近失业后，我开始更加专注于这个项目。与朋友们进行测试，并努力使其尽可能简单易懂、易于部署和使用。本周我将其开源，供更多人尝试。 代码库： [https://github.com/kol3x/pawmc](https://github.com/kol3x/pawmc) 一些细节： - 在 Cloudflare 的免费套餐中，默认配置下成本为 $0 - 所有内容都在一个单例 Durable Object 中 - Workers AI 作为默认提供者 - 支持 OpenRouter，以便更稳定的访问和更大的模型（在这里，你需要为令牌付费）

在使用大型语言模型（LLMs）构建时，你们面临哪些问题？