374 家企业被 AI"投毒"
有条消息我看完后背一凉。
安全研究者披露了一起针对 ChatGPT、Gemini 和 Google AI Overview 的规模化攻击。他们检测到 374 家企业被"投毒",名单里有达美航空、汉莎航空、美国银行、爱彼迎。
手法说白了不复杂:往 AI 会去抓取的信息源里,塞进看起来很像"权威内容"的假货。等你问 AI"这家公司的客服电话是多少",它会把骗子给的号码告诉你,语气还挺肯定。
这套手法有个正式名字叫 GEO 污染——顺着生成式引擎的抓取逻辑去污染它的答案。
让我更在意的是后面这层。过去二十多年,我们被训练成"搜索结果要自己判断"。现在中间多了一道:AI 先替你判断一遍,再给你一个结论。省事是真省事,但你判断的依据,变成了一个可以被喂的东西。
所以有几件事我改了习惯。凡是涉及电话、链接、账号、转账的,不问 AI 一次就信,去官网或者官方 App 再核一遍。AI 给的"看起来像官网"的链接,先看域名对不对。这些动作花不了两分钟,但能挡掉绝大多数坑。
最后说一句,这不是 AI 的错。工具本身没变坏,是有人专门在钻这个空子。
你平时会问 AI 要客服电话或者网址吗?拿到之后会再核一遍吗?
