1作者: unknownhad2 天前原帖
提示注入是指用户通过欺骗模型,使其忽略先前的指令,暴露系统提示,禁用安全措施或在预期范围之外行动。<p>我第一次在DEF CON(第31届)决赛中看到这一现象,此后在漏洞赏金报告和研究中也见到了它的利用。<p>这是一个小型的概念验证,类似于“AI防火墙”,能够在几乎没有额外延迟的情况下,检测到注入尝试,防止其到达您的大型语言模型(LLM)。<p>博客文章: https://blog.himanshuanand.com/posts/2025-08-10-detecting-llm-prompt-injection<p>演示/API: https://promptinjection.himanshuanand.com/<p>快速、API友好,并提供测试绕过尝试的用户界面(适合像我这样的CTF爱好者)。欢迎反馈和破解尝试。
13作者: indiehackerman2 天前原帖
我创建了一个工程博客搜索引擎,因为我厌倦了手动检查各个公司的博客以寻找真实的生产案例。 问题:在学习新技术时,最好的见解往往来自于像谷歌、Meta或Stripe等公司如何在生产中实际实施这些技术。然而,这些宝贵的信息分散在数十个独立的工程博客中,无法进行统一搜索。 我所构建的:Engineering.fyi 汇总了大约15家公司的工程博客(如谷歌、Meta、OpenAI、Anthropic、Stripe、Uber等),并使其可以在一个地方进行搜索。你可以按主题、难度级别以及文章是否包含代码示例进行筛选。 技术细节: - 使用 Next.js、SQLite 和 DrizzleORM 构建 - 为每个博客定制的抓取工具(它们的格式各不相同,令人沮丧) - 基本的标签系统,使用内容匹配(仍在改进中) 当前状态:核心搜索功能正常运作。每周添加新的博客,随着索引的更新。 下一步功能(基于早期反馈): - AI 摘要以快速预览文章 - 每周热门工程见解摘要 - 保存/书签文章(正在考虑是否添加账户功能) 有趣的挑战: - 每个博客需要定制的解析逻辑(没有标准格式) - 构建一个准确的标签系统比预期的要困难——最初采用精确匹配,但正在探索更好的方法 我希望能得到以下方面的反馈: - 你认为哪些公司的工程博客最有价值,值得纳入 - AI 摘要是否真的有用,还是只是噪音 - 你目前是如何发现这些公司的工程文章的
4作者: inglor_cz2 天前原帖
你好,我是一名即将年满47岁的开发者,拥有C、C++、Java、PHP、Python和Typescript的经验,自2002年以来一直从事这一领域的工作。 我正在启动一个新项目,希望在编码方面尝试一些人工智能助手。这个项目将是一个Python项目,旨在通过Graph 1.0 API访问微软云。 这个项目的一个优势是,它相对独立,我不需要将2000个来自现有遗留代码库的类提供给它,以便为其提供上下文。 你有什么建议吗? 是否涉及任何暗黑模式,比如实际上无法取消的订阅,这可能会让我不得不取消我的信用卡? 我很乐意听听你的经验和战斗故事。
1作者: bhasinanant2 天前原帖
嗨,HN, 我创建了一个二维码生成器,NitroQR.com。 我一直对“自定义”二维码感到有些失望,因为这通常只是将一个logo覆盖在中心,这依赖于错误纠正来掩盖数据。我想看看视觉信息是否可以成为二维码本身的一部分。 NitroQR允许您将图像或文本消息直接嵌入二维码的数据模块中,这样整个图案都可以成为您设计的一部分,而不仅仅是中间的一个块。 我还在尝试一个实验性功能:生成一个单一的二维码,根据扫描仪的距离解析为不同的URL。 使用该网站无需注册,完全免费。我正在开发一个更高级的自定义功能,但核心功能现在已经上线。 希望您能试用一下,并提供反馈。谢谢!