最新

我今天看到了一篇帖子 - https://news.ycombinator.com/item?id=44937991，此外我自己也创建了 https://htmlsync.io。我想知道是否还有其他人选择使用基于Vibe编码的自包含HTML应用来替代他们之前使用的个人工具。 你认为这些以某种形式存在的自包含HTML应用会取代大多数个人工具吗？ 如果不会，你认为最大的限制因素是什么？

大家好！我是 Arindam，Memori 团队的一员（<a href="https://memori.gibsonai.com/" rel="nofollow">https://memori.gibsonai.com/</a>）。 Memori 为 AI 代理添加了一个有状态的记忆引擎，使它们能够保持一致性、回忆过去的工作，并随着时间的推移不断改进。通过 Memori，代理不会在多步骤工作流中迷失方向，不会重复调用工具，也不会忘记用户的偏好。相反，它们建立起类似人类的记忆，使得在多个会话中更加可靠和高效。 我们还准备了一些演示应用（个人日记助手、研究代理和旅行规划器），让您可以看到记忆的实际应用。 目前的语言模型（LLMs）是无状态的——它们在会话之间会忘记一切。这导致了重复的互动、浪费的令牌和不一致的结果。在构建 AI 代理时，这个问题变得更加严重：没有记忆，它们无法从失败中恢复，无法在步骤之间协调，或应用简单的规则，比如“始终编写测试”。 我们意识到，要让 AI 代理在生产环境中正常工作，它们需要记忆。这就是我们构建 Memori 的原因。 Memori 使用多代理架构来捕捉对话、分析对话，并决定哪些记忆需要保持活跃。它支持三种模式： - 意识模式：用于最近、重要上下文的短期记忆。 - 自动模式：在长期记忆中进行动态搜索。 - 组合模式：结合两者以实现快速回忆和深度检索。 在底层，Memori 是以 SQL 为主的。您可以使用 SQLite、PostgreSQL 或 MySQL 来存储记忆，内置全文搜索、版本控制和优化功能。这使得部署变得简单，生产就绪，并且可扩展。 Memori 得益于 GibsonAI 的数据库基础设施，支持： - 即时配置 - 按需自动扩展 - 数据库分支和版本控制 - 查询优化 - 恢复点 这意味着记忆不仅仅是存储的，它是可靠的、高效的，并且能够随着现实工作负载的变化而扩展。 我们已经将 Memori 开源，采用 Apache 2.0 许可证，任何人都可以使用它进行开发。您可以在这里查看 GitHub 仓库：<a href="https://github.com/GibsonAI/memori" rel="nofollow">https://github.com/GibsonAI/memori</a>，探索文档，并加入我们的 Discord 社区。 我们非常希望听到您的想法。请深入代码，尝试演示，并分享反馈，您的意见将帮助我们决定 Memori 的未来发展方向。

嗨，HN， 我对当前云端大语言模型（LLM）推理的工作方式感到沮丧。每次API调用都是从头开始：你需要重新发送整个提示和对话历史，并且每个输入的token都会收费，即使模型之前已经“看过”这些上下文。 这导致了两个主要问题： 1. 性能与成本——不断重新发送输入token是浪费的。 2. 质量损失——因为每次都在新的GPU上重建状态，模型会丢失很多内部上下文，而不仅仅是你的文本。 行业中大多数所谓的“优化”其实只是提示缓存。这对于减少重复输入的成本是有用的，但我们都见过其副作用：输出无法匹配提示中的细微变化，或者模型自信地“跳转”到错误的缓存响应，因为它认为你的查询是近似重复的。 我们在ark-labs.cloud采取了不同的方法： 1. 真正的有状态推理——当你开始一个会话时，所有请求都在同一组GPU上处理，模型的完整内部状态（提示、历史、推理痕迹）在调用之间得以保留。 2. 零输入token成本——因为模型不需要你在每次请求中重新发送输入。你只需为生成的输出付费。 3. 更好的响应，而不仅仅是更便宜的响应——维护内部状态可以提高一致性和推理质量，而不仅仅是节省成本。 从开发者的角度来看，这很简单：启用cookies，API将保持会话活跃（ark_session_id）。没有SDK魔法，没有黑客手段。会话在不活动后会过期以释放资源，但在活跃期间，你与一个实际上能够内部记忆的模型对话，而不仅仅是通过字符串连接提示。 文档链接：[https://ark-labs.cloud/documentation/](https://ark-labs.cloud/documentation/) 我们希望听到你的想法——特别是那些曾经为“为什么我为已经发送的tokens支付10倍费用”这个问题而苦恼的人，或者那些遇到提示与输出不匹配的缓存系统的人。这个方法对你来说有意义吗？