最新

大家好， 我一直有一种感觉，基于大型语言模型（LLM）的软件将会面临“恶意行为者”的攻击。LLM在发现安全漏洞方面已经变得非常出色，如果落入坏人之手，可能会对我们依赖的公共基础设施造成严重破坏。不幸的是，我觉得开源软件（OSS）可能会成为第一个“牺牲品”，因为其代码是公开的，容易被识别。 我现在推出了zeroquarry.com，旨在让开源维护者在恶意行为者之前扫描自己的代码。只需提供自己的LLM密钥，我将为接下来的几个月支付托管基础设施、开发成本等。使用前沿模型进行的扫描大多数费用在5到20美元之间。 请查看这个链接以获取演示： [https://youtu.be/bbLYw7j90hA](https://youtu.be/bbLYw7j90hA) 目前，我专注于开源软件，并希望收集对产品的反馈：没有付费选项。您只需提供API密钥，选择模型，然后进行扫描。为了避免滥用，我暂时将扫描次数限制为每月2次，默认每次1个并发扫描。但如果您是开源项目的维护者，希望提高限制，请随时联系我，提供项目的详细信息，我会尽量满足您的需求。我的电子邮件是shane@该域名。 我原本打算推迟发布，但这是我几个月来一直在努力的项目，而最近的神话新闻促使我加快了进度。欢迎在这里或通过上述电子邮件地址提供反馈。

我的同事和我制作了一个小型的 Bash 命令行工具，它会在终端中打印一条随机的软件工程法则。我将它设置在我的 shell 启动时，这样每次打开新 shell 时就会显示一条法则。它从 lawsofsoftwareengineering.com 获取法则并将其缓存到本地。