返回首页
最新
为流式AI工具调用构建了这个。大型语言模型(LLMs)以逐字符的方式将函数参数作为JSON流式传输。大多数解析器每次都从头开始重新解析,这导致O(n²)的性能表现,造成用户界面的延迟。
这个工具维护了解析状态,仅处理新字符。实现了真正的O(n)性能,在整个响应过程中保持不可察觉。
这是一个Ruby gem,采用MIT许可证。欢迎反馈。
展示HN:SerenDB – 针对AI代理工作负载优化的Neon PostgreSQL分支
我们对Neon进行了分支,以使数据库操作对AI代理更快、更安全。我们的目标是实现对生产数据的即时实验,并在提示注入攻击影响数据库之前捕捉到这些攻击。开源代码库地址为 [https://github.com/serenorg/serendb](https://github.com/serenorg/serendb)。
当前最酷的功能包括:
1. 时间旅行查询:可以查询数据库在任何时间戳下的状态。示例:`SELECT * FROM orders AS OF TIMESTAMP '2024-01-15 14:30:00'`。这对于调试代理决策和审计代理所看到的数据至关重要。
2. 零扩展与pgvector:内置的向量嵌入在空闲时进入休眠状态。对于处于休眠状态的代理数据库不收取任何费用,必要时自动扩展至16个vCPU。
正在开发中的最酷功能包括:
1. 提示注入检测:通过指纹识别和上下文感知策略,在注入尝试到达数据之前捕捉这些尝试。我们正在扩展Postgres的安全模型,以理解特定于AI的攻击模式。
2. 100毫秒分支创建:在100毫秒内克隆整个生产数据库(相比Neon的500毫秒)。这使得每个代理的分支模式和即时回滚成为可能,非常适合在真实数据上更快地测试多个提示变体。
这还处于早期阶段——我们正在开发托管服务。
技术人员:想知道是否还有其他人遇到“如何安全地在生产数据上测试我的代理”这个问题。欢迎提问关于我们对分支架构的更新或我们提出的上下文安全方法。
网站:[https://serendb.com/](https://serendb.com/)
看起来 MySQL 发布工程的 PGP 签名密钥已经过期,无法找到新的密钥发布。难道只有我一个人遇到这个问题吗?
公钥 rsa4096 2023-10-23 [SC] [已过期: 2025-10-22]
BCA4 3417 C3B4 85DD 128E C6D4 B7B3 B788 A8D3 785C
用户标识 [已过期] MySQL 发布工程 <mysql-build@oss.oracle.com>