产品 SEO 与 GEO 智能体 付费广告智能体 网站智能体 转化智能体
运作方式 方案 常见问题 博客 预约通话

Claude 和 Gemini 新闻:小企业该吸取的教训

更新于 · 阅读约 5 分钟

简短回答 Claude Cowork 说明:能编辑您文件的 AI 智能体,也能删除它们,而且 Anthropic 提醒它可能误解指令。Gemini 的 Personal Intelligence 说明:只要您开启,AI 现在就能读取您的 Gmail 和相册。教训是:给智能体一份副本,保留备份并开着审批,客户数据不要放在个人账户里。

想把这些用到您的生意上?预约一次 30 分钟的免费通话,一起聊聊。

预约通话

一张表看懂发生了什么

2026 年 1 月的两次发布,改变了 AI 能接触的范围。一个直接操作您的文件,另一个读取您的个人 Google 数据。

Claude CoworkGemini Personal Intelligence
发布2026 年 1 月 12 日,作为研究预览版向 Mac 上的 Claude Max 订阅用户推出(Anthropic 发布文章);现已覆盖所有付费套餐(Claude 帮助中心)2026 年 1 月 14 日,面向美国付费订阅用户的测试版(Google 博客)
做什么在您选定的文件夹里工作:读取、编辑、新建,也能删除文件连接 Gmail、相册、YouTube 和搜索,让回答用上您自己的数据
出了什么问题或有何变化用户反映文件丢失;研究人员证明隐藏指令能让它上传文件2026 年 3 月向美国免费用户开放(Google 博客)
教训能编辑的智能体,也能破坏您连接了什么,AI 就能读什么

Claude Cowork 出了什么问题?

Cowork 做的正是开发者说它能做的事:操作文件,有时操作错了文件。它从来不是只读工具。Anthropic 的发布文章说得很直白:

"Claude can take potentially destructive actions (such as deleting local files) if it's instructed to." (Anthropic launch post, January 12, 2026) 译文:“如果收到指令,Claude 可能会执行具有破坏性的操作(例如删除本地文件)。”

同一篇文章还提醒,Claude “might misinterpret your instructions”(可能误解您的指令)。随后发生了三件事:

  • 文件被删。 2026 年 2 月,一位风险投资人说,他让 Cowork 整理妻子的桌面,结果它删除了一个存有约 15 年家庭照片的文件夹。据 AI 事件数据库(AI Incident Database)记录,他通过 iCloud 恢复功能找回了照片。另一个广为流传的“丢失 11 GB”的故事,源头是社交媒体帖子,没有任何一手来源证实。
  • 隐藏指令。 安全公司 PromptArmor 证明,一份带有隐形文字的文档,能让 Cowork 把文件夹里最大的文件上传到攻击者的账户。它的报告写道:“At no point in this process is human approval required.”(整个过程中任何环节都不需要人工批准。)这种攻击叫提示词注入(prompt injection):把指令藏在 AI 会读取的内容里。
  • 新的防护措施。 Anthropic 的帮助中心现在说,删除需要您点击确认:
"Cowork requires your explicit permission before permanently deleting any files." (Claude Help Center: Use Claude Cowork safely) 译文:“Cowork 在永久删除任何文件之前,都需要您明确允许。”

这项防护只管删除。同一页面还说,在“Skip all approvals”(跳过所有审批)模式下,“nothing checks its actions”(没有任何东西会检查它的操作)。

怎样让 AI 智能体安全地处理您的文件?

像对待第一天上班的新员工一样:给一份工作副本,而不是办公室钥匙。Anthropic 自己的建议是:

"Consider creating a dedicated working folder for Claude rather than granting broad access, and keep backups of important files." (Claude Help Center: Use Claude Cowork safely) 译文:“考虑为 Claude 创建一个专用的工作文件夹,而不是授予大范围访问权限,并为重要文件保留备份。”
步骤怎么做为什么
1. 给它一份副本只把这项任务需要的文件复制到一个新文件夹出错只影响副本,不影响原件
2. 先备份确认今天的云端或硬盘备份已经完成iCloud 会保留已删除文件 30 天;“you permanently remove”(您永久删除)的文件无法恢复(Apple iCloud 用户指南)
3. 开着审批处理真实业务文件时,绝不使用“Skip all approvals”每一步执行前您都能看到
4. 敏感资料不放进去文件夹里不放报税表、银行对账单、密码或客户身份证件Anthropic 建议共享文件夹中避免放“financial documents”(财务文件)
5. 删除前先检查让它列出打算删除的内容,您审核后再定“整理一下”对您和对 AI 的含义不一样

这些步骤适用于任何智能体,不只是 Claude:ChatGPT 智能体、Copilot,或者您的网站负责人安装的工具都一样。想了解什么是智能体,请看智能体 AI 详解。

什么是 Gemini Personal Intelligence?

它让 Gemini 读取您的 Gmail、Google 相册、YouTube 和搜索记录,来回答与您生活相关的问题。在您开启之前,它是关闭的:

"Connecting your apps is off by default: you choose to turn it on, decide exactly which apps to connect, and can turn it off anytime." (Google, January 14, 2026) 译文:“连接应用默认是关闭的:由您选择是否开启、决定具体连接哪些应用,并且可以随时关闭。”

截至 2026 年 11 月,还需要了解:

  • 谁能用。 最初只面向美国付费订阅用户。自 2026 年 3 月 17 日起,美国用户可在搜索的 AI 模式中免费使用,Gemini 应用也在逐步推出(Google 博客)。
  • 加拿大。 Google 加拿大的 Gemini 页面说,它正以测试版形式推出,“globally, except for the European Economic Area”(覆盖全球,欧洲经济区除外),瑞士、英国和尼日利亚也不在其列。
  • 仅限个人账户。 Google 说它“not for Workspace business, enterprise or education users”(不适用于 Workspace 商业版、企业版或教育版用户)。
  • 训练。 Google 说 Gemini “doesn't train directly on your Gmail inbox or Google Photos library”(不会直接用您的 Gmail 收件箱或 Google 相册图库进行训练)。
  • 出错。 Google 提醒可能出现“over-personalization”(过度个性化),即模型把不相关的话题联系在一起。

Gemini 的个性化对小企业意味着什么?

有两点实际影响。

如果您用个人 Gmail 经营业务,客户邮件也在读取范围内。 这项功能只在个人账户上运行。比如一位水管工的报价、发票和客户地址都在个人 Gmail 里,一旦连接 Gmail,Gemini 就能读取全部内容。这件事要有意识地做决定。很多老板正因为这一点,把客户相关工作放在单独的企业账户里。

您的客户现在看到的是为他们量身定制的回答。 一位连接了 Gmail 的房主,得到的 Gemini 回答可能受过去订单和邮件的影响。所以您手机上看到的 AI 回答,和您的客户看到的并不一样。个性化 AI 搜索介绍了在这种情况下如何检查您的可见度。

示例

一位记账员给收据重命名

一位记账员想把 2,000 份收据 PDF 按日期和供应商重命名。她把文件复制到一个新文件夹,确认昨晚的备份已完成,并开着审批。智能体提议删除 40 份“重复文件”;她发现其中 6 份其实是文件名相同、各自独立的 $250 发票,于是拒绝了。原件始终没有风险。

一位用个人 Gmail 的承包商

一位屋顶承包商所有业务都用个人 Gmail,并付费订阅了 Google AI 套餐。在把 Gmail 连接到 Gemini 之前,他把客户邮件转移到企业账户,只连接了相册和 YouTube。他照样可以用 Gemini 问个人问题,而客户地址不会掺进来。

常见问题

Claude Cowork 会未经允许删除文件吗?

有用户反映发生了意料之外的删除,Anthropic 在发布时也提醒过 Claude 可能删除文件、误解指令。它的帮助中心现在说,永久删除需要您点击“Allow”(允许)。

Claude Cowork 用来处理业务文件安全吗?

有限制地使用可以安全:专用文件夹、做好备份、开着审批、不放敏感文件。Anthropic 自己也说,提示词注入的风险“non-zero”(不为零)。

Gemini Personal Intelligence 默认开启吗?

不是。Google 说连接应用默认是关闭的,由您选择连接哪些应用。

我的企业 Google Workspace 账户能用 Personal Intelligence 吗?

不能。Google 说它适用于个人 Google 账户,不适用于 Workspace 商业版、企业版或教育版账户。

我应该停用 AI 智能体吗?

不必。给它最小的任务和最小的文件夹,并保留备份。AI 智能体工具与聊天机器人可以帮您决定先交给它什么。

您的情况不同?

继续阅读

下一篇AI 新功能:为什么美国总是先用上为什么 Google、Meta 和 Apple 的 AI 功能先在美国推出,加拿大和欧盟现在要等多久,以及美国以外的商家在等待期间能做什么。

问我们一个问题

一句话就够。我们会通过电子邮件回复。

出处

  1. Anthropic: Cowork, Claude Code for the rest of your work (January 12, 2026, archived copy)
  2. Claude Help Center: Use Claude Cowork safely
  3. AI Incident Database: Incident 1441, Claude Cowork allegedly deleted family photo folder
  4. PromptArmor: Claude Cowork exfiltrates files (January 2026)
  5. Apple iCloud User Guide: Recover deleted files on iCloud.com
  6. Google: Gemini introduces Personal Intelligence (January 14, 2026)
  7. Google: Bringing the power of Personal Intelligence to more people (March 17, 2026)
  8. Google Gemini (Canada): Personal Intelligence overview