產品 SEO 與 GEO 代理 付費廣告代理 網站代理 轉換代理
運作方式 方案 常見問題 部落格 預約通話

Claude 和 Gemini 新聞:小型企業該學到的教訓

更新於 · 閱讀約 5 分鐘

簡短回答 Claude Cowork 說明了:能編輯您檔案的 AI 代理,也能刪除它們,而且 Anthropic 提醒它可能誤解指示。Gemini 的 Personal Intelligence 說明了:只要您開啟,AI 現在就能讀取您的 Gmail 和相簿。教訓是:給代理一份副本,保留備份並開著核准,客戶資料不要放在個人帳戶裡。

想把這些用在您的生意上?預約一次 30 分鐘的免費通話,一起聊聊。

預約通話

一張表看懂發生了什麼

2026 年 1 月的兩次發表,改變了 AI 能碰觸的範圍。一個直接操作您的檔案,另一個讀取您的個人 Google 資料。

Claude CoworkGemini Personal Intelligence
推出2026 年 1 月 12 日,以研究預覽版向 Mac 上的 Claude Max 訂閱用戶推出(Anthropic 發表文章);現已涵蓋所有付費方案(Claude 說明中心)2026 年 1 月 14 日,針對美國付費訂閱用戶的測試版(Google 部落格)
做什麼在您選定的資料夾裡工作:讀取、編輯、建立,也能刪除檔案連結 Gmail、相簿、YouTube 和搜尋,讓回答用上您自己的資料
出了什麼問題或有何改變使用者回報檔案遺失;研究人員證明隱藏指示能讓它上傳檔案2026 年 3 月開放給美國免費使用者(Google 部落格)
教訓能編輯的代理,也能破壞您連結了什麼,AI 就能讀什麼

Claude Cowork 出了什麼問題?

Cowork 做的正是開發商說它能做的事:操作檔案,有時操作錯了檔案。它從來不是唯讀工具。Anthropic 的發表文章說得很直白:

"Claude can take potentially destructive actions (such as deleting local files) if it's instructed to." (Anthropic launch post, January 12, 2026) 譯文:「如果收到指示,Claude 可能會執行具破壞性的操作(例如刪除本機檔案)。」

同一篇文章也提醒,Claude「might misinterpret your instructions」(可能誤解您的指示)。接著發生了三件事:

  • 檔案被刪。 2026 年 2 月,一位創投家說,他請 Cowork 整理太太的桌面,結果它刪除了一個存有約 15 年家庭照片的資料夾。根據 AI 事件資料庫(AI Incident Database)的紀錄,他透過 iCloud 復原功能找回了照片。另一個廣為流傳的「遺失 11 GB」故事,源頭是社群貼文,沒有任何第一手來源證實。
  • 隱藏指示。 資安公司 PromptArmor 證明,一份含有隱形文字的文件,能讓 Cowork 把資料夾裡最大的檔案上傳到攻擊者的帳戶。它的報告寫道:「At no point in this process is human approval required.」(整個過程中任何環節都不需要人工核准。)這種攻擊叫提示詞注入(prompt injection):把指令藏在 AI 會讀取的內容裡。
  • 新的防護措施。 Anthropic 的說明中心現在表示,刪除需要您點擊確認:
"Cowork requires your explicit permission before permanently deleting any files." (Claude Help Center: Use Claude Cowork safely) 譯文:「Cowork 在永久刪除任何檔案之前,都需要您明確允許。」

這項防護只管刪除。同一頁面也說,在「Skip all approvals」(略過所有核准)模式下,「nothing checks its actions」(沒有任何機制會檢查它的操作)。

怎樣讓 AI 代理安全地處理您的檔案?

像對待第一天上班的新員工一樣:給一份工作副本,而不是辦公室鑰匙。Anthropic 自己的建議是:

"Consider creating a dedicated working folder for Claude rather than granting broad access, and keep backups of important files." (Claude Help Center: Use Claude Cowork safely) 譯文:「考慮為 Claude 建立一個專用的工作資料夾,而不是授予大範圍存取權限,並為重要檔案保留備份。」
步驟怎麼做為什麼
1. 給它一份副本只把這項工作需要的檔案複製到一個新資料夾出錯只影響副本,不影響原檔
2. 先備份確認今天的雲端或硬碟備份已經完成iCloud 會保留已刪除檔案 30 天;「you permanently remove」(您永久移除)的檔案無法復原(Apple iCloud 使用手冊)
3. 開著核准處理真正的業務檔案時,絕不使用「Skip all approvals」每一步執行前您都看得到
4. 機密資料不放進去資料夾裡不放報稅單、銀行對帳單、密碼或客戶身分證件Anthropic 建議共用資料夾中避免放「financial documents」(財務文件)
5. 刪除前先檢查請它列出打算刪除的內容,您審閱後再決定「整理一下」對您和對 AI 的意思不一樣

這些步驟適用於任何代理,不只是 Claude:ChatGPT 代理、Copilot,或您的網站負責人安裝的工具都一樣。想了解什麼是代理,請看代理式 AI 詳解。

什麼是 Gemini Personal Intelligence?

它讓 Gemini 讀取您的 Gmail、Google 相簿、YouTube 和搜尋紀錄,來回答與您生活相關的問題。在您開啟之前,它是關閉的:

"Connecting your apps is off by default: you choose to turn it on, decide exactly which apps to connect, and can turn it off anytime." (Google, January 14, 2026) 譯文:「連結應用程式預設為關閉:由您選擇是否開啟、決定要連結哪些應用程式,而且可以隨時關閉。」

截至 2026 年 11 月,還需要知道:

  • 誰能用。 一開始只針對美國付費訂閱用戶。自 2026 年 3 月 17 日起,美國使用者可在搜尋的 AI 模式中免費使用,Gemini 應用程式也在陸續推出(Google 部落格)。
  • 加拿大。 Google 加拿大的 Gemini 網頁表示,它正以測試版推出,「globally, except for the European Economic Area」(遍及全球,歐洲經濟區除外),瑞士、英國和奈及利亞也不在其中。
  • 僅限個人帳戶。 Google 表示它「not for Workspace business, enterprise or education users」(不適用於 Workspace 商務版、企業版或教育版使用者)。
  • 訓練。 Google 表示 Gemini「doesn't train directly on your Gmail inbox or Google Photos library」(不會直接用您的 Gmail 收件匣或 Google 相簿媒體庫進行訓練)。
  • 出錯。 Google 提醒可能出現「over-personalization」(過度個人化),也就是模型把不相關的主題連在一起。

Gemini 的個人化對小型企業代表什麼?

有兩點實際影響。

如果您用個人 Gmail 經營業務,客戶郵件也在讀取範圍內。 這項功能只在個人帳戶上運作。比如一位水電師傅的報價、發票和客戶地址都在個人 Gmail 裡,一旦連結 Gmail,Gemini 就能讀取全部內容。這件事要刻意做決定。很多老闆正因為這一點,把客戶相關工作放在獨立的企業帳戶裡。

您的客戶現在看到的是為他們量身打造的回答。 一位連結了 Gmail 的屋主,得到的 Gemini 回答可能受到過去訂單和郵件的影響。所以您手機上看到的 AI 回答,和您的客戶看到的並不一樣。個人化 AI 搜尋說明了在這種情況下如何檢查您的能見度。

範例

一位記帳員替收據重新命名

一位記帳員想把 2,000 份收據 PDF 依日期和廠商重新命名。她把檔案複製到一個新資料夾,確認昨晚的備份已完成,並開著核准。代理提議刪除 40 份「重複檔案」;她發現其中 6 份其實是檔名相同、各自獨立的 $250 發票,於是拒絕了。原檔始終沒有風險。

一位用個人 Gmail 的承包商

一位屋頂承包商所有業務都用個人 Gmail,並付費訂閱了 Google AI 方案。在把 Gmail 連結到 Gemini 之前,他把客戶郵件移到企業帳戶,只連結了相簿和 YouTube。他照樣可以用 Gemini 問個人問題,而客戶地址不會混進來。

常見問題

Claude Cowork 會未經允許刪除檔案嗎?

有使用者回報發生了意料之外的刪除,Anthropic 在推出時也提醒過 Claude 可能刪除檔案、誤解指示。它的說明中心現在表示,永久刪除需要您點擊「Allow」(允許)。

Claude Cowork 用來處理業務檔案安全嗎?

在有限制的情況下可以:專用資料夾、做好備份、開著核准、不放機密檔案。Anthropic 自己也說,提示詞注入的風險「non-zero」(不是零)。

Gemini Personal Intelligence 預設是開啟的嗎?

不是。Google 表示連結應用程式預設為關閉,由您選擇要連結哪些應用程式。

我的企業 Google Workspace 帳戶能用 Personal Intelligence 嗎?

不能。Google 表示它適用於個人 Google 帳戶,不適用於 Workspace 商務版、企業版或教育版帳戶。

我應該停用 AI 代理嗎?

不必。給它最小的工作和最小的資料夾,並保留備份。AI 代理工具與聊天機器人可以幫您決定先交給它什麼。

您的情況不同?

繼續閱讀

下一篇AI 新功能:為什麼美國總是先用到為什麼 Google、Meta 和 Apple 的 AI 功能先在美國推出,加拿大和歐盟現在要等多久,以及美國以外的商家在等待期間能做什麼。

問我們一個問題

一句話就夠了。我們會以電子郵件回覆。

出處

  1. Anthropic: Cowork, Claude Code for the rest of your work (January 12, 2026, archived copy)
  2. Claude Help Center: Use Claude Cowork safely
  3. AI Incident Database: Incident 1441, Claude Cowork allegedly deleted family photo folder
  4. PromptArmor: Claude Cowork exfiltrates files (January 2026)
  5. Apple iCloud User Guide: Recover deleted files on iCloud.com
  6. Google: Gemini introduces Personal Intelligence (January 14, 2026)
  7. Google: Bringing the power of Personal Intelligence to more people (March 17, 2026)
  8. Google Gemini (Canada): Personal Intelligence overview