最新

一些初创公司正在微调开放的语言模型，而不是使用GPT或Gemini。有时这是为了特定语言，有时是为了狭窄的任务。但我发现它们都犯了同样的错误。 通过一个简单的提示（这里不便分享），我让几个“定制”语言模型服务泄露了它们的内部系统提示——例如安全漏洞应对手册和产品行动清单。 例如，SKT A.X 4.0（基于Qwen 2.5）泄露了与最近SKT数据泄露相关的内部指导方针和关于赔偿政策的说明。Vercel的v0模型则泄露了其系统可以生成的行动示例。 关键是：如果基础模型泄露，那么基于它构建的每个服务都是脆弱的，无论你如何微调。我们需要考虑的不仅是服务层面的系统提示加固，还要关注上游改进和开放权重语言模型本身的更强防御。

Visa账户更新器是一项服务，如果您更改了信用卡号码，或者关闭并开设了新的信用卡账户，Visa可以在未征得您同意的情况下将您的新信用卡信息提供给商家，用于订阅服务。 我遇到了一个问题，有一些订阅服务非常难以取消，所以我决定直接取消那张信用卡。我打电话给富国银行，告诉他们给我一个新的信用卡号码，他们照做了，我也就继续我的生活。 下个月，又出现了一堆相同的收费。我再次打电话给他们，他们告诉我关于Visa账户更新器的事。我对这居然是可能的感到非常震惊。我告诉他们我不想参与这个项目，他们告诉我这是Visa处理的，而不是他们的责任。我打电话给Visa，他们告诉我这不是他们处理的，而是富国银行负责。 我再次拨打富国银行的电话，他们告诉我不知道如何退出这个服务。那位女士询问了她的经理，经理也不知道。她花了一些时间查找他们的文档，但没有找到相关信息。她告诉我唯一的办法就是彻底关闭账户，并用新卡创建一个新账户。我感到非常恼火，但还是决定这么做。 下个月，猜怎么着？在我甚至还没有激活信用卡的新账户上，又出现了一堆相同的收费。我再次拨打富国银行的电话，他们继续谈论Visa账户更新器，但没有办法关闭它或解决这个问题。 我现在已经等了两个小时，他们试图找出该如何处理这个问题。我简直不敢相信这居然是合法的，这是我见过的最疯狂的商业行为。我明白在某些情况下这可能很方便，但显然这是一个旨在持续向信用卡收费的骗局。 希望这能帮助下一个人。