Claude 和 Gemini 新聞:小型企業該學到的教訓
簡短回答 Claude Cowork 說明了:能編輯您檔案的 AI 代理,也能刪除它們,而且 Anthropic 提醒它可能誤解指示。Gemini 的 Personal Intelligence 說明了:只要您開啟,AI 現在就能讀取您的 Gmail 和相簿。教訓是:給代理一份副本,保留備份並開著核准,客戶資料不要放在個人帳戶裡。
想把這些用在您的生意上?預約一次 30 分鐘的免費通話,一起聊聊。
預約通話一張表看懂發生了什麼
2026 年 1 月的兩次發表,改變了 AI 能碰觸的範圍。一個直接操作您的檔案,另一個讀取您的個人 Google 資料。
| Claude Cowork | Gemini Personal Intelligence | |
|---|---|---|
| 推出 | 2026 年 1 月 12 日,以研究預覽版向 Mac 上的 Claude Max 訂閱用戶推出(Anthropic 發表文章);現已涵蓋所有付費方案(Claude 說明中心) | 2026 年 1 月 14 日,針對美國付費訂閱用戶的測試版(Google 部落格) |
| 做什麼 | 在您選定的資料夾裡工作:讀取、編輯、建立,也能刪除檔案 | 連結 Gmail、相簿、YouTube 和搜尋,讓回答用上您自己的資料 |
| 出了什麼問題或有何改變 | 使用者回報檔案遺失;研究人員證明隱藏指示能讓它上傳檔案 | 2026 年 3 月開放給美國免費使用者(Google 部落格) |
| 教訓 | 能編輯的代理,也能破壞 | 您連結了什麼,AI 就能讀什麼 |
Claude Cowork 出了什麼問題?
Cowork 做的正是開發商說它能做的事:操作檔案,有時操作錯了檔案。它從來不是唯讀工具。Anthropic 的發表文章說得很直白:
"Claude can take potentially destructive actions (such as deleting local files) if it's instructed to." (Anthropic launch post, January 12, 2026) 譯文:「如果收到指示,Claude 可能會執行具破壞性的操作(例如刪除本機檔案)。」
同一篇文章也提醒,Claude「might misinterpret your instructions」(可能誤解您的指示)。接著發生了三件事:
- 檔案被刪。 2026 年 2 月,一位創投家說,他請 Cowork 整理太太的桌面,結果它刪除了一個存有約 15 年家庭照片的資料夾。根據 AI 事件資料庫(AI Incident Database)的紀錄,他透過 iCloud 復原功能找回了照片。另一個廣為流傳的「遺失 11 GB」故事,源頭是社群貼文,沒有任何第一手來源證實。
- 隱藏指示。 資安公司 PromptArmor 證明,一份含有隱形文字的文件,能讓 Cowork 把資料夾裡最大的檔案上傳到攻擊者的帳戶。它的報告寫道:「At no point in this process is human approval required.」(整個過程中任何環節都不需要人工核准。)這種攻擊叫提示詞注入(prompt injection):把指令藏在 AI 會讀取的內容裡。
- 新的防護措施。 Anthropic 的說明中心現在表示,刪除需要您點擊確認:
"Cowork requires your explicit permission before permanently deleting any files." (Claude Help Center: Use Claude Cowork safely) 譯文:「Cowork 在永久刪除任何檔案之前,都需要您明確允許。」
這項防護只管刪除。同一頁面也說,在「Skip all approvals」(略過所有核准)模式下,「nothing checks its actions」(沒有任何機制會檢查它的操作)。
怎樣讓 AI 代理安全地處理您的檔案?
像對待第一天上班的新員工一樣:給一份工作副本,而不是辦公室鑰匙。Anthropic 自己的建議是:
"Consider creating a dedicated working folder for Claude rather than granting broad access, and keep backups of important files." (Claude Help Center: Use Claude Cowork safely) 譯文:「考慮為 Claude 建立一個專用的工作資料夾,而不是授予大範圍存取權限,並為重要檔案保留備份。」
| 步驟 | 怎麼做 | 為什麼 |
|---|---|---|
| 1. 給它一份副本 | 只把這項工作需要的檔案複製到一個新資料夾 | 出錯只影響副本,不影響原檔 |
| 2. 先備份 | 確認今天的雲端或硬碟備份已經完成 | iCloud 會保留已刪除檔案 30 天;「you permanently remove」(您永久移除)的檔案無法復原(Apple iCloud 使用手冊) |
| 3. 開著核准 | 處理真正的業務檔案時,絕不使用「Skip all approvals」 | 每一步執行前您都看得到 |
| 4. 機密資料不放進去 | 資料夾裡不放報稅單、銀行對帳單、密碼或客戶身分證件 | Anthropic 建議共用資料夾中避免放「financial documents」(財務文件) |
| 5. 刪除前先檢查 | 請它列出打算刪除的內容,您審閱後再決定 | 「整理一下」對您和對 AI 的意思不一樣 |
這些步驟適用於任何代理,不只是 Claude:ChatGPT 代理、Copilot,或您的網站負責人安裝的工具都一樣。想了解什麼是代理,請看代理式 AI 詳解。
什麼是 Gemini Personal Intelligence?
它讓 Gemini 讀取您的 Gmail、Google 相簿、YouTube 和搜尋紀錄,來回答與您生活相關的問題。在您開啟之前,它是關閉的:
"Connecting your apps is off by default: you choose to turn it on, decide exactly which apps to connect, and can turn it off anytime." (Google, January 14, 2026) 譯文:「連結應用程式預設為關閉:由您選擇是否開啟、決定要連結哪些應用程式,而且可以隨時關閉。」
截至 2026 年 11 月,還需要知道:
- 誰能用。 一開始只針對美國付費訂閱用戶。自 2026 年 3 月 17 日起,美國使用者可在搜尋的 AI 模式中免費使用,Gemini 應用程式也在陸續推出(Google 部落格)。
- 加拿大。 Google 加拿大的 Gemini 網頁表示,它正以測試版推出,「globally, except for the European Economic Area」(遍及全球,歐洲經濟區除外),瑞士、英國和奈及利亞也不在其中。
- 僅限個人帳戶。 Google 表示它「not for Workspace business, enterprise or education users」(不適用於 Workspace 商務版、企業版或教育版使用者)。
- 訓練。 Google 表示 Gemini「doesn't train directly on your Gmail inbox or Google Photos library」(不會直接用您的 Gmail 收件匣或 Google 相簿媒體庫進行訓練)。
- 出錯。 Google 提醒可能出現「over-personalization」(過度個人化),也就是模型把不相關的主題連在一起。
Gemini 的個人化對小型企業代表什麼?
有兩點實際影響。
如果您用個人 Gmail 經營業務,客戶郵件也在讀取範圍內。 這項功能只在個人帳戶上運作。比如一位水電師傅的報價、發票和客戶地址都在個人 Gmail 裡,一旦連結 Gmail,Gemini 就能讀取全部內容。這件事要刻意做決定。很多老闆正因為這一點,把客戶相關工作放在獨立的企業帳戶裡。
您的客戶現在看到的是為他們量身打造的回答。 一位連結了 Gmail 的屋主,得到的 Gemini 回答可能受到過去訂單和郵件的影響。所以您手機上看到的 AI 回答,和您的客戶看到的並不一樣。個人化 AI 搜尋說明了在這種情況下如何檢查您的能見度。
範例
一位記帳員替收據重新命名
一位記帳員想把 2,000 份收據 PDF 依日期和廠商重新命名。她把檔案複製到一個新資料夾,確認昨晚的備份已完成,並開著核准。代理提議刪除 40 份「重複檔案」;她發現其中 6 份其實是檔名相同、各自獨立的 $250 發票,於是拒絕了。原檔始終沒有風險。
一位用個人 Gmail 的承包商
一位屋頂承包商所有業務都用個人 Gmail,並付費訂閱了 Google AI 方案。在把 Gmail 連結到 Gemini 之前,他把客戶郵件移到企業帳戶,只連結了相簿和 YouTube。他照樣可以用 Gemini 問個人問題,而客戶地址不會混進來。
常見問題
Claude Cowork 會未經允許刪除檔案嗎?
有使用者回報發生了意料之外的刪除,Anthropic 在推出時也提醒過 Claude 可能刪除檔案、誤解指示。它的說明中心現在表示,永久刪除需要您點擊「Allow」(允許)。
Claude Cowork 用來處理業務檔案安全嗎?
在有限制的情況下可以:專用資料夾、做好備份、開著核准、不放機密檔案。Anthropic 自己也說,提示詞注入的風險「non-zero」(不是零)。
Gemini Personal Intelligence 預設是開啟的嗎?
不是。Google 表示連結應用程式預設為關閉,由您選擇要連結哪些應用程式。
我的企業 Google Workspace 帳戶能用 Personal Intelligence 嗎?
不能。Google 表示它適用於個人 Google 帳戶,不適用於 Workspace 商務版、企業版或教育版帳戶。
我應該停用 AI 代理嗎?
不必。給它最小的工作和最小的資料夾,並保留備份。AI 代理工具與聊天機器人可以幫您決定先交給它什麼。
您的情況不同?
- 在 Claude、Gemini 和 ChatGPT 之間選一個用於工作: 請看最適合企業的 AI 模型。
- 想知道 AI 回答有沒有提到您的企業: 請看個人化 AI 搜尋或 SEO 與 GEO 代理。
- 想讓 AI 修改您的網站: 請看網站代理。