谷歌AI被操纵传播错误信息，搜索巨头悄然反击

谷歌的AI正在被操纵。这家搜索巨头正在悄然反击。 20小时前 Thomas Germain Serenity Strull/ BBC/ Getty Images （来源：Serenity Strull/ BBC/ Getty Images） 一次BBC调查揭示了一种简单的方式，让AI聊天机器人向公众传播错误信息。谷歌和其他AI公司现在正试图解决这个问题。

今年二月我做了一件蠢事。我听说有一种简单的方法可以毒化AI聊天机器人，让它们代表你传播谎言。经过一番挖掘，我了解到一些无良公司正在大规模滥用这个问题。于是我决定亲自试一试。

我们发现了例子，ChatGPT、Gemini以及谷歌搜索顶部的AI概览被操纵，在健康和个人财务等严肃话题上给出有偏见的答案。而在短短20分钟内，我就欺骗了ChatGPT和谷歌，让它们告诉公众，我是世界竞吃热狗冠军。这个玩笑很蠢。但问题却很严重。

但这个小把戏确实奏效了。我们的调查以及一直关注此问题的研究人员的工作引发了广泛批评。现在谷歌已经更新了其政策以解决这个问题，并有迹象表明其他AI公司也在跟进。最终，这可能会让AI工具和整个互联网变得更安全一些。

但在更好的系统到位之前，专家表示你有被愚弄的风险。

Thomas Germain/ Google/ BBC

我让谷歌告诉全世界我是热狗竞吃冠军，但人们利用这个技巧操纵AI对更严肃问题的回答（来源：Thomas Germain/ Google/ BBC）

“你应该假设自己正在被操纵，直到他们有更好的系统到位，”搜索引擎优化（SEO）和AI搜索咨询公司Algorythmic的创始人Lily Ray说，“我们正在走向‘唯一正确答案’的世界。以前，谷歌会给你10个蓝色链接，你自己去做研究。但AI只给你一个答案。人们很容易就接受表面价值。你需要小心。”

谷歌告诉我，其政策更新只是对其长期以来所做努力的“澄清”。一位谷歌发言人表示：“我们早就将核心的反垃圾政策保护措施应用到生成式AI搜索功能中——而且我们一直在不断升级反垃圾努力，以领先于新兴策略，甚至在AI兴起之前就已经如此。”

基本上，谷歌说自己什么都没改变。但在幕后，似乎谷歌和其他公司正在加大力度解决这个问题。即便如此，有证据表明人们仍然在用同样的技术欺骗世界上最大的搜索引擎。

问题所在

通常，当你向聊天机器人提问时，AI会基于模型内建的数据生成回答。但有时，ChatGPT、Claude和谷歌的各种AI产品会在互联网上搜索答案。而问题就发生在这里。

据Ray和其他搜索引擎专家称，AI工具常常只从一个网页或社交媒体帖子中提取信息。这使得这些系统容易受到虚假信息的影响。

事实证明，操纵聊天机器人告诉公众的内容可以简单到只发布一篇精心撰写的博客文章，几乎在任何在线平台上。人们发现了这一点，并迅速找到了赚钱的机会。

我通过在我个人网站上发布一篇关于我热狗竞吃能力的文章，证明了这个问题。第二天，来自一些全球最大公司的AI就在散布我的谎言。但我们的调查还发现，同样的技巧被用来淡化对医疗补充剂的健康担忧，或影响谷歌AI提供的关于退休的财务信息。专家表示，这种操纵正在大规模、系统性地发生。

持续关注

Thomas Germain是BBC的高级科技记者。他撰写专栏“持续关注”并共同主持播客“界面”。他的工作揭露了运行你数字生活的隐藏系统，以及你如何在其中更好地生活。

这类有偏见或不准确的信息也可能导致你做出糟糕的决定。它可能影响你如何投票或雇佣哪家水管工。

“在最基本的层面，担忧是经济影响，”运行SEO咨询公司Harps Digital的Harpreet Chatha说，“在更严重的层面，你可能会采纳让病情更重的医疗建议。在法律层面，你可能会得到错误信息，做出在你所在州或国家不合法的事情。”

解决方案？

这不是一个微不足道的问题。全球有超过10亿人经常使用AI聊天机器人，每月有25亿人看到谷歌的AI概览。如果你能颠覆这样一个工具，你就拥有巨大的力量。

但似乎谷歌和其他公司终于意识到了这个问题。

上周，谷歌更新了其垃圾政策，正式确认试图操纵AI回答的行为违反了公司规定。这听起来像是一个小变化，但它表明谷歌正在积极寻找那些试图滥用系统的人，并向他们发出威胁。如果一家公司或网站被发现违反规则，它可能会被降权甚至从谷歌搜索结果中移除。而如果你不在谷歌上，你就如同不存在。

谷歌说我理解错了，什么都没有改变。“上周我们垃圾政策语言的编辑是一个澄清，而不是方法上的任何改变，”谷歌的发言人说。

Ray和Chatha也表示，他们注意到近几个月发生了一些显著变化，表明谷歌和其他公司正在试验解决方案。

例如，Ray说看起来谷歌和ChatGPT可能正在悄悄地将某些公司从其AI回答中移除，如果它们怀疑这些公司在自我宣传。“所以，如果你发布一个列表，说你是最佳热狗竞吃者，他们就不会包含你的名字，”Ray说，“他们可能仍然引用你的文章，但你会被排除在考虑之外。”

我个人注意到一些例子，谷歌和其他AI工具在回答中增加了更多标签，让你知道聊天机器人对其答案没有信心。其他人也注意到ChatGPT和Claude（Anthropic公司制作的AI）已经开始明确告诉你，它们正试图根除某些查询回复中的垃圾信息。Ray说她注意到谷歌增加了更多警示，建议你在询问与某些购买决策相关的问题时，去查看第三方评论。

当我询问时，这些公司都不承认这些变化。

OpenAI和Anthropic拒绝评论。谷歌的发言人没有回答我关于此事的提问。

无论如何，Chatha怀疑这样的变化是否足够。“谷歌在玩打地鼠游戏，”他说，“他们宣布（政策更新）来威慑人们，但策略只会转移。”

他已经看到这种情况发生。随着谷歌严厉打击操纵性博客文章，公司正在寻找更微妙的宣传方式。“你可以对一家公司的网站进行处罚，”他说，“但没有什么能阻止他们付钱给20个YouTube网红说他们的产品是最好的。”

而现在，谷歌的AI正在引用YouTube视频。循环继续。

眼下，操纵者很可能会领先一步。Ray说最好的防御是记住AI到底是什么：一个自信地给你一个答案的工具，无论对错。仅仅因为看起来是一个大型科技公司在对你说话，而不是某个随机网站，并不意味着你应该相信。

——

欲了解更多BBC的科学、技术、环境与健康故事，请关注我们的Facebook和Instagram。