如何审核 AI 工具:团队使用前的安全检查清单
简短回答 员工使用 AI 工具前,先查清它能生成什么、靠什么防止滥用、是否用您的数据训练、输出是否由人审批,以及监管机构是否对它采取过行动。责任在您的企业,而不在工具:加拿大隐私监管机构驳回了 X 和 xAI 关于“Grok 的用户承担主要责任”的说法。
想把这些用到您的生意上?预约一次 30 分钟的免费通话,一起聊聊。
预约通话如何审核 AI 工具:8 项检查
团队里任何人在工作中使用新的 AI 工具之前,先做这些检查。大多数只需在供应商的网站和设置页面上花十分钟。
| # | 检查 | 通过 | 危险信号 |
|---|---|---|---|
| 1 | 它能生成什么? | 写明拒绝生成哪些内容(假人物、露骨图片、虚假评价) | “没有限制”“无审查”或“火辣”模式 |
| 2 | 真人照片 | 禁止或限制编辑未同意者的照片 | 任何人都能上传并修改任何人的照片 |
| 3 | 监管行动 | 没有进行中的调查或认定 | 隐私监管机构或美国联邦贸易委员会(FTC)对其采取过行动 |
| 4 | 您的数据 | 商业版默认不用您的数据训练 | 在免费版里粘贴客户数据 |
| 5 | 审批 | 任何内容发布、发送或花钱前都由人审批,并有日志记录它做了什么 | 它自行发帖、发邮件或修改广告,没有关闭开关,也没有记录 |
| 6 | 安全证明 | 有近期的 SOC 2 报告或类似审计,可应要求提供 | 只说“我们非常重视安全”,拿不出任何证明 |
| 7 | 它的宣传 | 清楚说明能做什么、不能做什么 | 承诺收入、排名,或“取代您的律师” |
| 8 | 退出 | 可以导出您的成果并删除您的数据 | 没有删除选项,或数据“无限期”保留 |
第 1、2 或 3 项不通过,就到此为止。其余几项通常可以通过设置、付费版或给员工定一条规则来解决。
哪些版本会用您的对话训练,见小企业的 AI 工具。哪些步骤需要人来审批,见AI 营销中的人工监督。
Grok 的图片编辑出了什么问题?
xAI 在 X 上推出了一个图片工具,任何人都能编辑真人的照片,限制很弱,几天之内就被滥用。这是近来最能说明第 1 到第 3 项检查用途的案例。
时间线,来自加拿大隐私监管机构的调查结论(OPC:PIPEDA Findings #2026-004):
| 日期 | 发生了什么 |
|---|---|
| 2025 年 7 月 | xAI 推出图片生成与编辑模型 Grok Imagine |
| 2025 年 12 月 23–24 日 | X 上的图片出现“Edit Image”(编辑图片)按钮,包括其他用户的照片 |
| 2025 年 12 月 28 日 | 滥用增多,X 启动危机处理流程 |
| 截至 2026 年 1 月 8 日 | 监管机构引用的新闻报道称,每小时生成超过 6,000 张性化深度伪造图片 |
| 2026 年 1 月 8 日 | @Grok 账号被禁止生成真人的性化深度伪造图片;其图片生成功能仅限付费订阅用户 |
| 2026 年 1 月 14 日 | 深度伪造禁令扩展到 X 上的 Grok 和独立的 Grok 应用,覆盖包括付费用户在内的所有用户 |
| 2026 年 1 月 26 日 | 欧盟委员会依据《数字服务法》(DSA)展开正式调查(European Commission) |
| 2026 年 6 月 11 日 | 加拿大隐私监管机构认定 X Corp. 和 xAI 违反联邦隐私法(OPC) |
加拿大的调查结论读起来就像一份被跳过的检查清单。两家公司告诉监管机构,它们不核实图片中人物是否同意。隐私影响评估(上线前对隐私风险所做的书面审查)“only updated to include Grok Imagine in March 2026”(直到 2026 年 3 月才更新纳入 Grok Imagine),比上线晚了八个月。监管机构称超过十天才作出回应是“an insufficient and untimely response”(不充分且不及时的回应),并建议两家公司在其所有产品上暂停 Grok Imagine。截至报告发布时,此事“not resolved”(尚未解决)。
欧盟委员会从另一个角度审视同一失误:X 在部署 Grok 功能之前是否评估了风险,包括“manipulated sexually explicit images”(经篡改的露骨色情图片)(European Commission,2026 年 1 月 26 日)。
AI 工具造成损害时,谁来负责?
用它来发布、发送或做决定的企业。不是工具,也不只是输入提示词的那个人。
两家公司辩称“users bear primary responsibility for the content that they generate”(用户对其生成的内容承担主要责任)。加拿大隐私监管机构不同意:工具是这两家公司开发、托管和部署的,所以它们要负责(OPC:PIPEDA Findings #2026-004)。当您在企业中使用 AI 时,同样的逻辑也适用于您。加拿大各隐私监管机构用一句话说明了这一点:
"Know that accountability for decisions rests with the organization, and not with any kind of automated system used to support the decision-making process." (OPC: Principles for responsible, trustworthy and privacy-protective generative AI technologies) 译文:“要知道,决策的责任在于组织,而不在于任何用来辅助决策的自动化系统。”
美国对营销中的 AI 也是同样的说法:
"Using AI tools to trick, mislead, or defraud people is illegal." (FTC, September 25, 2024) 译文:“利用 AI 工具欺骗、误导或诈骗他人是违法的。”
FTC 的那次集中执法包括 DoNotPay,它自称“the world's first robot lawyer”(全球首个机器人律师)。设第 7 项检查,是因为夸大工具能力的供应商,也可能夸大工具的安全性。
要问供应商的问题
用书面形式提问,并保存答复。好的供应商每个问题都能用一句话回答,或给出一个页面链接。
- 您的工具会拒绝生成什么?发布前如何测试这一点?
- 它能编辑真人照片吗?有什么措施防止有人使用客户或员工的照片?
- 你们会用我们输入或上传的内容训练模型吗?能关闭吗?在我们的版本上是否默认关闭?
- 我们的数据存放在哪里、保存多久?能删除吗?
- 每一项输出能否先等人审批,再发布、发送或花钱?
- 能看一份近期的 SOC 2 报告吗?(根据 AICPA,SOC 2 是对公司在安全性、可用性、处理完整性、保密性或隐私方面控制措施的独立审计。)
- 有没有监管机构调查过你们或你们的 AI 模型提供商?
- 如果您的工具以我们的名义生成了违法或虚假的内容,你们的条款规定由谁承担费用?
然后用工具名称加上“investigation”“privacy commissioner”和“FTC”搜索一下。
我的企业使用的 AI 工具适用哪些法律?
工具供应商对它的监管机构负责;您对自己发布的内容负责。以下是最可能涉及小企业的规定。
| 地区 | 规定 | 对您意味着什么 |
|---|---|---|
| 美国 | 适用于 AI 的《联邦贸易委员会法》(FTC,2024):“no AI exemption from the laws on the books”(现行法律对 AI 没有豁免) | AI 生成的广告、评价和宣传,必须和其他内容一样真实 |
| 美国 | 《TAKE IT DOWN 法案》,2025 年 5 月 19 日签署(Public Law 119-12) | 明知而发布未经同意的真人 AI“数字伪造”私密图片是联邦罪行;平台必须在 48 小时内删除被举报的图片 |
| 加拿大 | 联邦私营部门隐私法《个人信息保护和电子文件法》(PIPEDA)(OPC,2026) | 使用他人的个人信息,包括其照片,通常需要有效同意 |
| 欧盟 | 《数字服务法》(European Commission,2026) | 对在线平台施加风险义务,对 X 这样的最大平台最严格;它约束平台,而不是作为用户的您 |
以上是规定的内容,不是法律建议。涉及患者数据,见ChatGPT 符合 HIPAA 吗?
示例
一家美发沙龙挑选 AI 修图工具
店主想修饰客户的前后对比照。工具 A 有“无限制”模式,对真人照片只字不提。工具 B 每月 $20,禁止修改衣着或身形的编辑,并说明不用上传内容训练。她选了工具 B,而且仍然只上传签过照片授权书的客户照片。
一家承包商的办公室经理试用免费聊天机器人
她把 40 位客户的姓名和地址粘贴到免费版里,用来起草跟进邮件。第 4 项检查不通过:许多免费版除非手动关闭,否则对话可能被用于训练。老板把团队换到商业版,并定了一条规则:免费工具里不放任何客户信息。
一家会计师事务所在报税季前审核 AI 智能体
供应商以书面形式回答了全部八个问题,提供了 SOC 2 报告,而且每封邮件都要等审批。有一个答复不理想:取消服务后数据还会保留 90 天。事务所签了约,在隐私政策中注明这 90 天,并设了提醒:如果日后停用,就要求删除数据。
常见问题
我的企业用 Grok 安全吗?
加拿大隐私监管机构在 2026 年 6 月认定,Grok 的图片工具违反了联邦隐私法。其他用途,请针对您的版本做这八项检查。
每个 AI 供应商都需要提供 SOC 2 报告吗?
不需要。工具存有客户、患者或财务数据时才要。对于只起草帖子的工具,第 1、4、5 项更重要。
我的员工可以用 AI 编辑真人照片吗?
只限本人同意的人,且只用于其同意的用途。在美国,明知而发布未经同意的 AI 私密图片是联邦罪行。
免费 AI 工具可以用于工作吗?
用来起草不含客户或员工信息的内容没问题。涉及个人信息,请使用默认不以您的数据训练的商业版。
您的情况不同?
- 还在决定要不要用 AI 工具、用哪些:小企业的 AI 工具。
- 决定哪些 AI 步骤需要人来审批:AI 营销中的人工监督。
- 想了解 AI 在营销上做不到什么:AI 营销的局限。
- 处理患者消息的医疗诊所:ChatGPT 符合 HIPAA 吗?
- 在试用期审核 AI SEO 智能体:AI SEO 智能体审核:8 项检查。
- 想让内容和商家信息在内置审批的流程中处理:SEO 与 GEO 智能体。