1作者: paulmbw5 个月前原帖
嗨,HN! 我是保罗,Traceprompt的创始人。我们正在构建一个开源SDK,它将您的AI代理封装起来,并生成防篡改的审计记录,这样您就可以证明哪个代理在何时使用了哪个模型做了什么。 您可以查看Node SDK(更多语言即将推出):[https://github.com/traceprompt/traceprompt-node](https://github.com/traceprompt/traceprompt-node) 我们创建Traceprompt是因为大型语言模型(LLMs)在各个地方被使用,但缺乏明确的审计和合规计划。通过与其他开发者的研究和讨论,我经常看到金融科技和医疗团队手动将API网关、CloudWatch日志和S3存储桶拼凑在一起,以跟踪提示/响应和保留。这既复杂又昂贵,因为几乎没有不可变性的证明。目前大多数工具(如Langfuse、Heliclone等)专注于LLM的可观察性;很少有工具能够生成合规所需的可验证证据。这正是我们介入的地方。 此外,法规也在朝这个方向发展(例如,欧盟AI法案要求对某些高风险系统进行日志记录,HIPAA要求审计控制,而FINRA/SEC规则推动WORM式保留)。我们的目标是让“证明没有变化”变得无聊。 我们的SDK很简单: 1. 采用BYOK架构与AWS KMS。我们从不查看明文提示/响应;只有您可以解密。其他KMS提供商在我们的路线图上。 2. 仅附加的、哈希链式的日志,并带有公共Merkle锚以供独立验证。代码库:[https://github.com/traceprompt/open-anchors](https://github.com/traceprompt/open-anchors) 3. 审计包:在有人询问“在这个日期和时间发生了什么”时,导出CSV行和证明(及收据)。您也可以验证审计包——如果有一个字节被篡改或一行被恶意行为者删除,验证将失败。 如果您正在考虑“AI审计记录”或在您的路线图上,我很乐意与您交谈。我们可以通过几种方式开始: 1. 查看代码库:审查代码,安装SDK并进行实验;如果有任何问题,请提出问题——[https://github.com/traceprompt/traceprompt-node](https://github.com/traceprompt/traceprompt-node) + [https://github.com/traceprompt/open-anchors](https://github.com/traceprompt/open-anchors) 2. 登陆页面:[https://traceprompt.com](https://traceprompt.com) — 有关集成和定价的详细信息;提供7天免费试用(或2M令牌上限)。 3. 加入我们的Discord:[https://discord.gg/2yUSXDECQk](https://discord.gg/2yUSXDECQk) 4. 预约一次免费的30分钟演示电话:[https://cal.com/traceprompt/traceprompt-intro](https://cal.com/traceprompt/traceprompt-intro) 我们非常希望听到您的反馈,因此我们会在评论区等候!如果您是开发者,我很乐意深入讨论更多技术细节或回答任何问题。如果您在AI审计和合规领域,请与我们联系,因为我们有很多需要学习和探索的内容 :) 谢谢!
1作者: NyxBNC5 个月前原帖
上周我分享了AIMless的代码库,这是我一个有趣的实验,看看我能把“聊天应用,但只有index.html”推得多远。<p>现在它已经上线,地址是 <a href="https:&#x2F;&#x2F;aimless.chat" rel="nofollow">https:&#x2F;&#x2F;aimless.chat</a>,你甚至不需要克隆或双击任何东西。<p>只需打开它,重温你的AIM怀旧情怀。<p>使用说明:<p>主机点击“创建” → 获取一个blob。<p>复制/粘贴blob给你的朋友。<p>朋友粘贴并返回blob。<p>就这样,像在中学时一样进行加密聊天,你的妈妈需要电话线。<p>Github: <a href="https:&#x2F;&#x2F;github.com&#x2F;ImZackAdams&#x2F;AIMless" rel="nofollow">https:&#x2F;&#x2F;github.com&#x2F;ImZackAdams&#x2F;AIMless</a>