AI 摘要工具:運作方式,以及何時可以信任
簡短回答 AI 摘要工具縮短長文有兩種方式:照搬最重要的句子(擷取式),或重新寫句子(生成式)。ChatGPT、Gemini 這類聊天機器人是重新寫,讀起來較順,但可能加上原文根本沒說過的細節。把摘要用來快速分類。採取行動之前,把每個數字、名字、日期和「不」字都與原文核對一遍。
想把這些用在您的生意上?預約一次 30 分鐘的免費通話,一起聊聊。
預約通話AI 摘要工具是怎麼運作的?
它們做的是兩件事之一。擷取式摘要從您的文字中挑出最關鍵的句子,原封不動地呈現。生成式摘要讀完文字後,寫出新的、更短的句子,盡量表達同樣的意思。
Microsoft 在其摘要服務的文件中對兩者都下了定義:
"Extractive summarization: Produces a summary by extracting salient sentences within the source text, together the positioning information of these sentences." (Microsoft Learn: What is summarization?) 譯文:「擷取式摘要:透過擷取原文中的關鍵句子來產生摘要,並附上這些句子的位置資訊。」
"Abstractive summarization: Generates a summary with concise, coherent sentences or words that aren't verbatim extract sentences from the original source." (Microsoft Learn: What is summarization?) 譯文:「生成式摘要:以簡潔、連貫的句子或詞語產生摘要,這些內容並非逐字擷取自原文的句子。」
可以把擷取式想成螢光筆,把生成式想成同事轉述一場會議。您熟悉的聊天機器人,例如 ChatGPT、Gemini 和 Copilot,預設都是生成式。
| 擷取式 | 生成式 | |
|---|---|---|
| 您得到的是 | 從原文照搬的真實句子 | AI 寫的新句子 |
| 讀起來像 | 零散的重點摘錄 | 通順的段落或重點清單 |
| 常見錯誤 | 漏掉關鍵的那句話,或引文脫離上下文 | 說了原文沒說的話,或把數字、名字、「不」字弄錯 |
| 核對難度 | 容易:在原文中搜尋每一句 | 較難:每個說法都要回原文查看 |
| 在哪裡看到 | 一些摘要應用程式、「關鍵句」模式 | ChatGPT、Gmail 中的 Gemini、Copilot、大多數摘要應用程式 |
區別之所以重要,是因為兩者出錯的方式不同。擷取式摘要會因為漏掉內容而誤導您,生成式摘要會因為添加內容而誤導您。
AI 摘要可以信任嗎?
可以相信它告訴您一份文件在講什麼、您是否需要去讀。凡是您要簽名、付款、給客戶報價或放到網站上的內容,都不要只憑摘要。
廠商自己也這麼說。Microsoft 在其摘要工具的限制說明頁中提醒,用新句子改寫輸入內容可能會遺失資訊:
"However, there can be information or accuracy loss." (Microsoft Learn: Characteristics and limitations for summarization) 譯文:「不過,可能會發生資訊遺失或準確度下降。」
Gmail 中的 Gemini 可以把很長的郵件往來濃縮成重點。Google 在它的說明頁中寫道:「Gemini features may suggest inaccurate or inappropriate information.」(Gemini 功能可能會提供不準確或不恰當的資訊。)(Gmail Help: Collaborate with Gemini in Gmail)
研究解釋了原因。2020 年 Google Research 一項針對生成式摘要模型的研究發現,這些模型「are highly prone to hallucinate content that is unfaithful to the input document」(非常容易幻覺出與輸入文件不符的內容),研究中的人工評審在每個受測系統的摘要裡都發現了捏造內容(Maynez et al., 2020)。這裡的「幻覺」是指 AI 很有把握地說出原文裡沒有的東西。預訓練模型寫出的摘要比舊模型更忠實,但沒有一個完全沒有捏造內容。
長文件還有第二個風險。2023 年一項由史丹佛大學主導的研究發現,語言模型對長輸入開頭和結尾的資訊利用得最好,而當關鍵事實位於中間時,表現會「significantly degrades」(顯著下降)(Liu et al., 2023)。這項研究測試的是問答,不是摘要,但道理相通:30 頁合約第 14 頁上的一個條款,最可能被漏掉。
AI 摘要會犯哪些錯誤?
有五種錯誤反覆出現。了解它們,您就知道該查哪裡。
| 錯誤 | 表現 | 在哪裡核對 |
|---|---|---|
| 捏造細節 | 郵件只是詢價,摘要卻說「客戶核准了報價」 | 每個會引發行動的說法 |
| 數字或日期錯誤 | $1,500 變成 $15,000;「30 天」變成「3 天」 | 每個數字、截止日期和百分比 |
| 漏掉「不」字或條件 | 原文說「僅限 14 天內且未使用」,摘要卻說「可以退款」 | 不、除非、僅、除外、如果等字眼 |
| 張冠李戴 | 一位客戶的投訴被安到另一位頭上,或把承諾算到錯誤的一方 | 通話紀錄和郵件往來中的名字及「誰說了什麼」 |
| 漏掉中間部分 | 摘要涵蓋了開頭和結尾,卻跳過關鍵章節 | 長文件:自己瀏覽中間幾頁 |
擷取式工具無法捏造措辭,所以它們的錯誤大多是像最後一列那樣的遺漏。生成式工具這五種都可能犯。
怎樣找出 AI 摘要中的錯誤?
讓每個重點都能追溯到原文,然後抽查風險高的部分。通常五分鐘就夠。
- 要求附上原句。 在提示詞中加上:「每個重點後面,引用文字中支持它的那句話。」這樣生成式摘要就變得像擷取式摘要一樣可以核對。
- 搜尋每句引文。 在原文中按 Ctrl+F(Mac 上是 Cmd+F)。如果某句引文無法逐字找到,就把這個重點視為未經證實。
- 核對高風險字眼。 每個數字、日期、金額、名字,以及每個「不」「除非」「僅」「除外」。
- 追問遺漏了什麼。 「關於取消、費用或截止日期,原文說了哪些你沒寫進去的內容?」第二輪追問常常能找回被跳過的中間部分。
- 凡有約束力的內容,讀原文。 合約、租約、保險條款、稅務通知、監管機關來函,以及任何與健康相關的內容。把摘要當作告訴您該讀哪裡的地圖,而不是替代品。
把長文件分成幾個部分,逐段做摘要,也有幫助,因為這樣就沒有關鍵事實埋在一大段輸入的中間。
哪些工作可以放心交給摘要工具?
核對力度要與風險相稱。出錯的代價越低,需要核實的就越少。
| 工作 | 出錯的風險 | 需要核對多少 |
|---|---|---|
| 歸納 200 則客戶評論的主題 | 低:您只是在找規律 | 每個主題讀 5–10 則背後的評論 |
| 一串 40 封的郵件往來 | 中:可能漏掉誰同意了什麼 | 核對名字、日期和每項承諾 |
| 銷售或服務通話紀錄 | 中:錯誤的紀錄會寄給客戶或施工團隊 | 寄出前核對價格、日期和下一步安排 |
| 產業報告或競爭對手的網頁 | 中:您可能轉述錯誤的數字 | 每個要引用的數字都在原文中找到 |
| 合約、租約、保單或官方通知 | 高:涉及法律或金錢條款 | 讀原文;摘要只用來定位章節 |
關於評論主題,可以看看評論如何影響購買決定:網路評論與購買決定。
應該用哪款 AI 摘要工具?
先用您已經有的。大多數老闆不需要另外的摘要應用程式。
- 郵件內建: Gmail 中的 Gemini 可以把一串郵件濃縮成重點。Google 表示它「requires an eligible Google Workspace or Google AI plan」(需要符合資格的 Google Workspace 或 Google AI 方案)(Gmail Help)。
- 通用聊天機器人: ChatGPT、Gemini 或 Copilot。貼上文字或上傳檔案,按您要的格式請它做摘要。上面的提示詞技巧在這些工具裡都適用。
- 專用摘要工具: 一鍵摘要文章很方便,但背後通常是同類模型,只是介面更簡單,對格式和核對的控制更少。
無論選哪個,都要弄清楚您貼進去的內容會如何處理。Google 對 Workspace 的說法是:
"Workspace does not use customer data for training models without customer's prior permission or instruction." (Google Workspace: Generative AI Privacy Hub) 譯文:「未經客戶事先許可或指示,Workspace 不會使用客戶資料訓練模型。」
OpenAI 說明中心表示,個人 ChatGPT Free、Plus 和 Pro 帳戶預設會分享對話以改進模型,而 Business、Enterprise 和 Edu 工作區預設不用於訓練(OpenAI Help Center: Data controls in ChatGPT)。如果用的是個人帳戶,貼上客戶郵件或合約之前,先關閉「Improve the model for everyone」(為所有人改進模型)。病患資訊另有規定:請看 ChatGPT 符合 HIPAA 嗎?
範例
一家屋頂公司和一份供應商合約
老闆把一份 22 頁的供應商協議貼進聊天機器人。摘要寫著「30 天付款期,提前付款享 2% 折扣」。請它引用原句後,聊天機器人列出了折扣那句話,但一搜尋就找到完整條款:折扣只適用於超過 $10,000 的訂單。老闆在簽名前把第 9–15 頁完整讀了一遍。
一家牙醫診所和 300 則 Google 評論
診所經理匯出評論,請 AI 列出前五大投訴主題,每個附兩則引文。排第一的是「等候時間長」。她讀了引用的評論,又多讀了十則;這個主題站得住,於是她在員工會議上提出來。總共花了 20 分鐘,而不是一個下午。
一家清潔公司和通話紀錄
一款 AI 工具把一通 30 分鐘的報價電話摘要為「每週清潔,每次 $150」。老闆寄郵件給客戶前核對了通話逐字稿:客戶要的是每兩週一次。修正只花了一分鐘;報錯價可能會丟掉這筆生意。
常見問題
擷取式摘要和生成式摘要有什麼區別?
擷取式原樣照搬原文中最重要的句子。生成式寫出新句子來重述意思,讀起來較順,但可能引入原文中沒有的錯誤。
AI 摘要工具會捏造內容嗎?
生成式的會。針對這類系統的研究在每個受測模型的輸出中都發現了捏造內容,Google 和 Microsoft 也都提醒,它們的摘要可能不準確。
把客戶文件貼進 AI 摘要工具安全嗎?
取決於帳戶。Google 和 OpenAI 的企業方案預設不會用您的內容訓練模型;個人 ChatGPT 帳戶則會,除非您關閉該設定。
AI 能摘要多長的文件?
依工具和方案而異。無論上限是多少,長輸入的準確度都會下降,尤其是中間部分的事實,所以長文件要分段摘要。
可以把 AI 摘要發布到我的網站上嗎?
可以,前提是每個事實都已與原文核對過。您發布的任何內容都是您的說法,不是工具的。關於如何讓 AI 文字準確並符合您的語氣,請看 AI 內容創作。
您的情況不同?
- 為自己網頁頂端撰寫摘要:TL;DR 摘要。
- 用聊天機器人做摘要以外的行銷工作:用 ChatGPT 做行銷。
- 處理病患或健康資訊:ChatGPT 符合 HIPAA 嗎?
- 把客戶說的話變成能取得排名、被 AI 引用的網頁:SEO 與 GEO。