AI 摘要工具:工作原理,以及什么时候可以信任
简短回答 AI 摘要工具缩短长文本有两种方式:照搬最重要的句子(抽取式),或者重新写句子(生成式)。ChatGPT、Gemini 这类聊天机器人是重新写,读起来更顺,但可能加上原文根本没说过的细节。把摘要用来快速分拣。采取行动之前,把每个数字、名字、日期和“不”字都与原文核对一遍。
想把这些用到您的生意上?预约一次 30 分钟的免费通话,一起聊聊。
预约通话AI 摘要工具是怎么工作的?
它们做的是两件事之一。抽取式摘要从您的文本中挑出最关键的句子,原封不动地展示出来。生成式摘要读完文本后,写出新的、更短的句子,尽量表达同样的意思。
Microsoft 在其摘要服务的文档中对两者都下了定义:
"Extractive summarization: Produces a summary by extracting salient sentences within the source text, together the positioning information of these sentences." (Microsoft Learn: What is summarization?) 译文:“抽取式摘要:通过抽取原文中的关键句子来生成摘要,并附上这些句子的位置信息。”
"Abstractive summarization: Generates a summary with concise, coherent sentences or words that aren't verbatim extract sentences from the original source." (Microsoft Learn: What is summarization?) 译文:“生成式摘要:用简洁、连贯的句子或词语生成摘要,这些内容并非逐字摘自原文的句子。”
可以把抽取式想成荧光笔,把生成式想成同事转述一场会议。您熟悉的聊天机器人,比如 ChatGPT、Gemini 和 Copilot,默认都用生成式。
| 抽取式 | 生成式 | |
|---|---|---|
| 您得到的是 | 从原文照搬的真实句子 | AI 写的新句子 |
| 读起来像 | 零散的重点摘录 | 通顺的段落或要点列表 |
| 常见错误 | 漏掉了关键的那句话,或引文脱离上下文 | 说了原文没说的话,或把数字、名字、“不”字弄错 |
| 核对难度 | 容易:在原文中搜索每一句 | 较难:每个说法都要回原文查看 |
| 在哪里见到 | 一些摘要应用、“关键句”模式 | ChatGPT、Gmail 中的 Gemini、Copilot、大多数摘要应用 |
区别之所以重要,是因为两者出错的方式不同。抽取式摘要会因为漏掉内容而误导您,生成式摘要会因为添加内容而误导您。
AI 摘要可以信任吗?
可以相信它告诉您一份文件讲的是什么、您是否需要去读。凡是您要签字、付款、给客户报价或放到网站上的内容,都不要只凭摘要。
厂商自己也这么说。Microsoft 在其摘要工具的限制说明页中提醒,用新句子改写输入内容可能会丢失信息:
"However, there can be information or accuracy loss." (Microsoft Learn: Characteristics and limitations for summarization) 译文:“不过,可能会出现信息丢失或准确性下降。”
Gmail 中的 Gemini 可以把很长的邮件往来浓缩成要点。Google 在它的帮助页中写道:“Gemini features may suggest inaccurate or inappropriate information.”(Gemini 功能可能会给出不准确或不恰当的信息。)(Gmail Help: Collaborate with Gemini in Gmail)
研究解释了原因。2020 年 Google Research 一项针对生成式摘要模型的研究发现,这些模型“are highly prone to hallucinate content that is unfaithful to the input document”(非常容易幻觉出与输入文档不符的内容),研究中的人工评审在每个受测系统的摘要里都发现了编造内容(Maynez et al., 2020)。这里的“幻觉”是指 AI 很有把握地说出原文里没有的东西。预训练模型写出的摘要比旧模型更忠实,但没有一个完全没有编造内容。
长文件还有第二个风险。2023 年一项由斯坦福大学牵头的研究发现,语言模型对长输入开头和结尾的信息利用得最好,而当关键事实位于中间时,表现会“significantly degrades”(显著下降)(Liu et al., 2023)。这项研究测试的是问答,不是摘要,但道理相通:30 页合同第 14 页上的一个条款,最可能被漏掉。
AI 摘要会犯哪些错误?
有五种错误反复出现。了解它们,您就知道该查哪里。
| 错误 | 表现 | 在哪里核对 |
|---|---|---|
| 编造细节 | 邮件只是询价,摘要却说“客户批准了报价” | 每个会引发行动的说法 |
| 数字或日期错误 | $1,500 变成 $15,000;“30 天”变成“3 天” | 每个数字、截止日期和百分比 |
| 丢掉“不”字或条件 | 原文说“仅限 14 天内且未使用”,摘要却说“可以退款” | 不、除非、仅、除外、如果等字眼 |
| 张冠李戴 | 一位客户的投诉安到了另一位头上,或把承诺算到了错误的一方 | 通话记录和邮件往来中的名字及“谁说了什么” |
| 漏掉中间部分 | 摘要涵盖了开头和结尾,却跳过了关键章节 | 长文件:自己浏览中间几页 |
抽取式工具无法编造措辞,所以它们的错误大多是像最后一行那样的遗漏。生成式工具这五种都可能犯。
怎样发现 AI 摘要中的错误?
让每个要点都能追溯到原文,然后抽查风险高的部分。通常五分钟就够。
- 要求给出原句。 在提示词中加上:“每个要点后面,引用文本中支持它的那句话。”这样生成式摘要就变得像抽取式摘要一样可以核对。
- 搜索每句引文。 在原文中按 Ctrl+F(Mac 上是 Cmd+F)。如果某句引文不能逐字找到,就把这个要点当作未经证实。
- 核对高风险字眼。 每个数字、日期、金额、名字,以及每个“不”“除非”“仅”“除外”。
- 追问遗漏了什么。 “关于取消、费用或截止日期,原文说了哪些你没写进去的内容?”第二轮追问常常能找回被跳过的中间部分。
- 凡有约束力的内容,读原文。 合同、租约、保险条款、税务通知、监管机构来函,以及任何与健康相关的内容。把摘要当作告诉您该读哪里的地图,而不是替代品。
把长文件分成几个部分,逐段做摘要,也有帮助,因为这样就没有关键事实埋在一大段输入的中间。
哪些工作可以放心交给摘要工具?
核对力度要与风险匹配。出错的代价越低,需要核实的就越少。
| 工作 | 出错的风险 | 需要核对多少 |
|---|---|---|
| 归纳 200 条客户评价的主题 | 低:您只是在找规律 | 每个主题读 5–10 条背后的评价 |
| 一串 40 封的邮件往来 | 中:可能漏掉谁同意了什么 | 核对名字、日期和每项承诺 |
| 销售或服务通话记录 | 中:错误的记录会发给客户或施工队 | 发送前核对价格、日期和下一步安排 |
| 行业报告或竞争对手的网页 | 中:您可能转述错误的数字 | 每个要引用的数字都在原文中找到 |
| 合同、租约、保单或官方通知 | 高:涉及法律或金钱条款 | 读原文;摘要只用来定位章节 |
关于评价主题,可以看看评价如何影响购买决定:网上评价与购买决定。
应该用哪款 AI 摘要工具?
先用您已经有的。大多数老板不需要单独的摘要应用。
- 邮箱自带: Gmail 中的 Gemini 可以把一串邮件浓缩成要点。Google 表示它“requires an eligible Google Workspace or Google AI plan”(需要符合条件的 Google Workspace 或 Google AI 方案)(Gmail Help)。
- 通用聊天机器人: ChatGPT、Gemini 或 Copilot。粘贴文本或上传文件,按您要的格式让它做摘要。上面的提示词技巧在这些工具里都适用。
- 专用摘要工具: 一键总结文章很方便,但背后通常是同类模型,只是界面更简单,对格式和核对的控制更少。
无论选哪个,都要弄清楚您粘贴进去的内容会怎样处理。Google 对 Workspace 的说法是:
"Workspace does not use customer data for training models without customer's prior permission or instruction." (Google Workspace: Generative AI Privacy Hub) 译文:“未经客户事先许可或指示,Workspace 不会使用客户数据训练模型。”
OpenAI 帮助中心表示,个人 ChatGPT Free、Plus 和 Pro 账户默认会分享对话用于改进模型,而 Business、Enterprise 和 Edu 工作区默认不用于训练(OpenAI Help Center: Data controls in ChatGPT)。如果用的是个人账户,粘贴客户邮件或合同之前,先关闭“Improve the model for everyone”(为所有人改进模型)。患者信息另有规定:请看 ChatGPT 符合 HIPAA 吗?
示例
一家屋顶公司和一份供应商合同
老板把一份 22 页的供应商协议粘贴进聊天机器人。摘要写着“30 天账期,提前付款享 2% 折扣”。让它引用原句后,聊天机器人给出了折扣那句话,但一搜索就找到了完整条款:折扣只适用于超过 $10,000 的订单。老板在签字前把第 9–15 页完整读了一遍。
一家牙科诊所和 300 条 Google 评价
诊所经理导出评价,让 AI 列出前五大投诉主题,每个附两条引文。排在第一的是“等待时间长”。她读了引用的评价,又多读了十条;这个主题站得住,于是她在员工会议上提了出来。总共用时 20 分钟,而不是一个下午。
一家清洁公司和通话记录
一款 AI 工具把一通 30 分钟的报价电话总结为“每周清洁,每次 $150”。老板给客户发邮件前核对了通话文字记录:客户要的是每两周一次。改正只花了一分钟;报错价可能会丢掉这单生意。
常见问题
抽取式摘要和生成式摘要有什么区别?
抽取式原样照搬原文中最重要的句子。生成式写出新句子来复述意思,读起来更顺,但可能引入原文中没有的错误。
AI 摘要工具会编造内容吗?
生成式的会。针对这类系统的研究在每个受测模型的输出中都发现了编造内容,Google 和 Microsoft 也都提醒,它们的摘要可能不准确。
把客户文件粘贴进 AI 摘要工具安全吗?
取决于账户。Google 和 OpenAI 的企业方案默认不会用您的内容训练模型;个人 ChatGPT 账户则会,除非您关闭该设置。
AI 能总结多长的文件?
因工具和方案而异。无论上限是多少,长输入的准确度都会下降,尤其是中间部分的事实,所以长文件要分段总结。
可以把 AI 摘要发布到我的网站上吗?
可以,前提是每个事实都已与原文核对过。您发布的任何内容都是您的说法,不是工具的。关于如何让 AI 文本准确并符合您的语气,请看 AI 内容创作。
您的情况不同?
- 为自己网页顶部写摘要:TL;DR 摘要。
- 用聊天机器人做摘要以外的营销工作:用 ChatGPT 做营销。
- 处理患者或健康信息:ChatGPT 符合 HIPAA 吗?
- 把客户说的话变成能获得排名、被 AI 引用的网页:SEO 与 GEO。