产品 SEO 与 GEO 智能体 付费广告智能体 网站智能体 转化智能体
运作方式 方案 常见问题 博客 预约通话

大语言模型的轻信:当 AI 重复关于您的不实说法

更新于 · 阅读约 7 分钟

简短回答 大语言模型的轻信,是指 AI 助手会照搬它读到的内容,而不核实真假。当提到您商家的页面很少时,一篇不实的博客文章、一个论坛帖子或一条虚假评价就可能成为答案。您无法修改 AI。找到它读过的页面,让对方更正或删除,在您的网站上发布真实信息,然后举报这个回答。

想把这些用到您的生意上?预约一次 30 分钟的免费通话,一起聊聊。

预约通话

为什么 AI 会重复关于您商家的不实说法

AI 助手根据模型在训练中学到的内容,以及您提问时它找到的网页,写出最可能的回答。这两步都不会核实说法是否属实。OpenAI 自己也这样说明其产品:

"But like any language model, it can produce incorrect or misleading outputs. Sometimes, it might sound confident—even when it's wrong." (OpenAI Help Center: Does ChatGPT tell the truth?) 译文:“但和任何语言模型一样,它可能产生不正确或误导性的输出。有时它听起来很自信,即使它是错的。”

研究指出了三个原因:

  • 猜测有回报。 OpenAI 的研究人员认为,模型之所以编造内容,是因为训练和测试评分“reward guessing over acknowledging uncertainty”(奖励猜测,而不是承认不确定)(Kalai 等,2025)。一个不知道您营业时间的 AI,仍可能说出一个时间。
  • 相关的页面胜过可信的页面。 加州大学伯克利分校的研究人员发现,模型“rely heavily on the relevance of a website to the query”(高度依赖网站与问题的相关性),而基本不在意它是否引用来源、语气是否中立(Wan、Wallace 和 Klein,2024)。
  • 文字可以左右它们。 RMIT 大学和 Microsoft 的研究人员把搜索词塞进不相关的段落,AI 评判者仍然“highly influenced”(深受影响)。一句植入的“this paper is perfectly relevant”(这篇论文完全相关)就影响了部分模型(Alaofi 等,2024)。

这就是这里“轻信”的意思:AI 信任最贴合问题的那个页面。

为什么一个页面就能成为答案

因为对大多数小企业来说,那往往是唯一的页面。Google 这样解释自己 AI 概览的错误:

"When AI Overviews get it wrong, it's usually for other reasons: misinterpreting queries, misinterpreting a nuance of language on the web, or not having a lot of great information available." (Google, May 2024) 译文:“当 AI 概览出错时,通常是出于其他原因:误解了查询、误解了网上语言的细微差别,或者没有足够多的优质信息可用。”

Google 把最后一种情况称为“data void”(数据空白),即“there's a limited amount of high quality content about a topic”(关于某个主题的高质量内容很有限)。它举的例子是:一个 AI 概览叫人吃石头,因为它“faithfully linked to one of the only websites that tackled the question”(忠实地链接到了少数讨论过这个问题的网站之一),而那是一篇讽刺文章(Google,2024 年 5 月)。

“[您的商家]被起诉过吗?”或“[您的商家]有执照吗?”就是数据空白。几乎没人写这些,所以一个论坛玩笑、一篇投诉帖或一个关于另一家公司的页面就填补了空白。

这不费什么力气。2026 年 2 月,一位 BBC 记者花了 20 分钟,写了一篇编造自己情况的博客文章。“Less than 24 hours later”(不到 24 小时后),ChatGPT、Gemini 和 Google AI 概览都重复了这些说法;Anthropic 的 Claude 没有。Google 告诉 BBC,它正在努力让 AI 概览避开数据空白(BBC,2026 年 2 月)。

AI 重复的不实说法,以及它们从何而来

AI 说了什么通常来自哪里去哪里修正
您被起诉、罚款或被勒令停业关于另一家公司的新闻报道或法院记录,或被误读的页面页面的所有者;如构成诽谤,提出法律请求
顾客说您收费过高或做得差几条评价(真的或假的)被概括成普遍现象评价网站的举报按钮;您的公开回复
不属于您的地址、老板或历史名字相似的商家,被混进您的信息里让每个商家信息平台上的资料一致;写明您不是谁
您没有提供的服务、价格或保证旧页面、过期的促销,或您自己网站上 AI 写的文案您自己的网站
没有任何页面说过的说法模型的训练记忆,或者猜测您自己写一个清楚的页面;向 AI 公司举报

如何找到不实说法的来源

  1. 像顾客那样提问。 把这条说法变成问题,加上您的商家名称和城市,分别在 ChatGPT、Google、Copilot 和 Perplexity 里提问。多问几次。
  2. 确认它搜索过。 不搜索时,ChatGPT 根据截止到某个日期的训练数据回答。搜索默认开启;有引用来源说明它用了搜索(OpenAI Help Center)。
  3. 打开每个引用来源。 OpenAI 自己的建议是:
"Search results and citations can be incomplete, outdated, or incorrect. Open a cited source to check that it supports the answer, review when it was published or updated, and use an authoritative source when accuracy matters." (OpenAI Help Center: Searching the web with ChatGPT) 译文:“搜索结果和引用可能不完整、过时或不正确。请打开引用来源,确认它支持该回答,查看它的发布或更新时间,并在准确性重要时使用权威来源。”
  1. 没有来源?别让 AI 给您找一个。 OpenAI 把“Fabricated quotes, studies, citations or references to non-existent sources”(编造的引语、研究、引用,或指向不存在来源的参考)列为已知错误之一。请改为在 Google 和 Bing 上加引号搜索这条说法的原文。
  2. 保存证据。 把每个回答连同日期和问题一起截图,用于举报。回答明天就可能变。

如何让错误的 AI 回答得到更正

先修正页面,再举报回答。每家公司都接受举报,但没有一家承诺会更正或给出时间表。

AI 工具举报错误回答法律问题或严重问题
Google AI 概览点概览下方的“踩”,再点“报告问题”(Google Search Help)Google 的法律删除表单:见从 Google 删除信息
ChatGPT点回答下方的“踩”(OpenAI)举报可能违反 OpenAI 条款或法律的内容(OpenAI)
Microsoft CopilotCopilot 里的“举报”或“反馈”功能Microsoft 的 Report a Concern 页面(Microsoft Copilot Supplemental Terms of Use)
Perplexity点回答下方的旗帜图标,附上回答链接并说明哪里错了(Perplexity Help Center)提交支持工单(Perplexity Help Center)

Google 说“AI Overviews can and will make mistakes”(AI 概览可能也一定会出错)(Google Search Help)。Microsoft 说明了原因:

"When responding, Copilot may use information it finds on the internet, and we don’t control that content." (Microsoft Copilot Supplemental Terms of Use) 译文:“在回答时,Copilot 可能会使用它在互联网上找到的信息,而我们无法控制这些内容。”

所以长久的解决办法在页面本身。请页面的所有者更正或删除。如果是评价,走评价网站的流程;如果是冒用您名字的虚假商家信息,举报它。

给 AI 提供真实版本

填补您自己的数据空白:只有某个页面写出了真相,AI 才能重复真相。

  • 一个写明事实的页面。 在您的“关于我们”或常见问题页面上写明:老板和创立年份、执照号码、服务区域、您不做什么,以及常被人和您混淆的商家(“我们与 Y 地的 X 没有关系”)。
  • 直接说明。 陈述真实的事实,而不只是否认:“我们的执照号为 #12345,自 2015 年起一直有效。”Google 承认 AI 可能误读“a nuance of language”(语言的细微差别)。
  • 各处信息一致。 让 Google 商家资料(Google Business Profile)、Bing Places、Yelp 和各类目录上的信息保持一致:本地引用、Bing Places 和 Copilot。
  • 不是您写的页面。 执照委员会的记录、行业协会的名录或本地新闻报道,能独立证实您的说法。AI 概览“built to only show information that is backed up by top web results”(设计为只显示有排名靠前的网页支持的信息)(Google,2024 年 5 月),所以每多一个写明真相的可信页面,不实页面的空间就少一分。

如果您的网页是 AI 写的

您自己的网站也可能是来源。AI 起草的服务页可能编造一个奖项、一个统计数字或一项保证,其他 AI 工具可能把它当作事实引用。发布前请核对每个价格、数字、执照和引语:Google 会惩罚 AI 内容吗。

不要用小伎俩反击。Google 的垃圾内容政策禁止隐藏文字,即“solely to manipulate search engines and not to be easily viewable by human visitors”(仅为操纵搜索引擎、不易被人类访客看到)而放置的文字,也禁止大量“without adding value for users”(没有为用户增加价值)的 AI 生成页面(Google Search Central)。

示例

以下为示意案例,数字取整,不是客户的真实结果。

被和另一家屋顶公司混淆的屋顶承包商(美元)

ChatGPT 说他的公司被州政府罚款 $50,000。引用的报道其实是关于两个州以外一家名字相似的公司。他保存截图,在“关于我们”页面加上执照号码和“与[另一家公司]没有关系”,统一各平台的商家信息,并举报这个回答。

一家面包店和一个论坛玩笑(美元)

一个论坛帖子开玩笑说,一个 $400 的婚礼蛋糕“made the whole party sick”(让整个派对的人都病倒了)。Google AI 概览说“some customers report food poisoning”(有顾客反映食物中毒)。店主请论坛删除帖子,公布她最近一次卫生检查的结果,并举报这个概览。

被编造价格的温哥华记账师(加元)

Perplexity 说她每月收费 CA$99,这是她从未提供过的价格,而且没有来源。她在网站和商家信息上公布真实价格(每月 CA$300 起),标记这个回答,一个月后再检查一次。

常见问题

我能让 ChatGPT 不再说关于我商家的不实内容吗?

不能直接做到。修正它读过的页面,基于搜索的回答就会改变。不搜索的回答来自训练数据,所以旧的说法可能会一直存在(OpenAI Help Center)。

我能因为错误的回答起诉 AI 公司吗?

在 Walters v. OpenAI 案(佐治亚州,2025 年)中,法官判 OpenAI 胜诉,部分原因是 ChatGPT 会提示它可能出错。各地法律不同,请咨询律师。

竞争对手会故意散布关于我的不实说法吗?

会。BBC 那次只用一篇文章的测试,一天之内就骗过了 ChatGPT 和 Google。每月检查一次 AI 怎么说您;发现不实页面要尽快处理。

结构化数据能防止 AI 弄错我的信息吗?

不能。Google 表示,对于生成式 AI 搜索,“there's no special schema.org markup you need to add”(不需要添加任何特殊的 schema.org 标记)(Google Search Central)。用纯文字写明事实;结构化数据可有可无。

您的情况不同?

继续阅读

下一篇AI 优化(AIO):对您的网站意味着什么AI 优化(AIO)对小企业意味着什么:Google 说您的网站需要做什么,以及哪些品牌工作会影响 AI 工具对您的描述。

自己动手

ChatGPT 会推荐您的商家吗?20 个问题自测任何老板都能做的免费测试:看看 ChatGPT 会不会提到您的商家,它推荐的是哪些竞争对手,以及原因。

问我们一个问题

一句话就够。我们会通过电子邮件回复。

出处

  1. OpenAI Help Center: Does ChatGPT tell the truth?
  2. OpenAI Help Center: Searching the web with ChatGPT
  3. OpenAI: Model behavior feedback
  4. Kalai, Nachum, Vempala and Zhang (OpenAI, Georgia Tech), 2025: Why Language Models Hallucinate
  5. Wan, Wallace and Klein (UC Berkeley), ACL 2024: What Evidence Do Language Models Find Convincing?
  6. Alaofi, Thomas, Scholer and Sanderson (RMIT University, Microsoft), SIGIR-AP 2024: LLMs can be Fooled into Labelling a Document as Relevant
  7. Google: AI Overviews: About last week (May 30, 2024)
  8. BBC Future: I hacked ChatGPT and Google's AI, and it only took 20 minutes (February 18, 2026)
  9. Google Search Help: AI Overviews in Google Search
  10. Microsoft Copilot Supplemental Terms of Use (effective August 18, 2026)
  11. Perplexity Help Center: How can I report incorrect or inaccurate answers?
  12. Google Search Central: Optimizing your website for generative AI features on Google Search
  13. Google Search Central: Spam policies for Google web search
  14. Walters v. OpenAI, Order granting summary judgment (Superior Court of Gwinnett County, Georgia, May 19, 2025)