返回首页
最新
你好,HN,
我在攻防安全领域工作了15年,如果我学到了一件事,那就是每一种新技术——无论多么先进——都会带来独特的可利用漏洞。大型语言模型(LLMs)和自主智能体也不例外。尽管它们看起来像是“魔法”,但从安全的角度来看,它们只是另一种攻击面,具有特定的漏洞,尤其是在定义和执行“技能”的方式上。
我们开发了 skillaudit.sh,因为我想要一个简约、轻量的工具来审计这些新的技能定义,而不需要繁重框架的负担。它专注于大型语言模型安全的实际“攻防”方面。
它审计的内容包括:
- skillaudit-prompt-injection:检测系统提示的覆盖和隐藏在HTML注释中的指令。
- skillaudit-data-exfiltration:监控用于泄露会话秘密到外部端点的模式。
- skillaudit-supply-chain-packages:识别虚构的npm/pip包引用(CWE-494)。
- skillaudit-privilege-escalation:检查未经授权的工具执行或访问级别尝试。
- skillaudit-obfuscation:标记用于绕过过滤器的Base64、Hex或隐藏URL。
该工具仍处于早期阶段,我希望从这个社区获得关于检测模式的反馈。
安全检查: [https://skillaudit.sh/checks](https://skillaudit.sh/checks)
嗨,HN!我是西蒙。我们重新构建了Breadboard,这是一款视觉应用构建器,结合了Figma风格的用户界面设计和Shortcuts风格的逻辑,让您可以直接在画布上构建、预览和发布互动网页应用。
### 它的功能
- 在灵活的画布上以视觉方式设计用户界面——就像Figma一样。
- 使用受Shortcuts启发的视觉指令堆叠编辑器定义应用逻辑。
- 直接在画布上实时预览应用——无需单独的预览窗口。
- 一键发布可工作的网页应用。
### 我们为什么要做这个
- 现代化HyperCard的理念:将布局、行为和即时分享结合在一个地方。
- 减少设计与工作应用之间的摩擦。
- 让简单的网页应用对非开发者更易接触,同时为开发者保留强大功能。
- 为大型语言模型(LLM)集成奠定基础,让用户在设计和开发时能够与AI互动,同时理解发生了什么,即使没有编码经验——正在进行中!
### 尝试一下——无需注册
- 天气预报应用:[https://app.breadboards.io/playgrounds/weather](https://app.breadboards.io/playgrounds/weather)
- 瑞士公共交通:[https://app.breadboards.io/playgrounds/public_transit](https://app.breadboards.io/playgrounds/public_transit)
- 更多信息:[https://breadboards.io](https://breadboards.io)
我非常欢迎任何反馈 :)
这是一个相对简单但有趣的模拟器,基于数学物理中的一个概念——“二维库仑气体”。我最初制作这个模拟器是为了我的学士论文,目的是创造一些漂亮的图像并建立直观感受。最近,我对其进行了重新设计,并借助WebGPU加速提升了性能(在Codex的帮助下,顺利处理了所有的样板代码)。<p>请随意尝试这个模拟器——希望你能更多地了解二维库仑气体,因为这是一个在研究上非常深奥的主题。
例如,像“更倾向于清晰而非巧妙的代码,努力编写可维护、简单且可测试的代码”等绿色领域建议。<p>这种模糊的建议放在 AGENTS.md 文件中是否有意义?如果有,为什么不放在全局文件中呢?