AI 安全风险:小企业真正面对的是什么
简短回答 小企业面对三种 AI 安全风险:客户或公司数据被粘贴进可能保存或用其训练的 AI 工具;诈骗者用 AI 伪造声音、视频和邮件;拥有您账户权限的 AI 智能体做错操作或被人诱骗。大多数应对办法都不贵:企业版套餐、回拨核实规则和有限的权限。
想把这些用到您的生意上?预约一次 30 分钟的免费通话,一起聊聊。
预约通话哪些 AI 安全风险真正会落到小企业身上?
三种。您读到的大多数 AI 安全问题(模型被盗、训练数据被投毒)是开发 AI 的公司要操心的,而不是使用 AI 的牙科诊所或屋顶承包商要操心的。
| 风险 | 怎么发生 | 第一步应对 |
|---|---|---|
| 数据外泄 | 有人把客户资料、合同或密码粘贴进免费的 AI 聊天工具 | 使用关闭训练的企业版套餐,再加一份“绝不粘贴”清单 |
| AI 制造的诈骗 | 克隆的声音、伪造的视频通话或毫无破绽的邮件,要求员工付款或提供登录信息 | 任何付款之前,先打您已有的号码回拨核实 |
| 智能体出错 | 能访问您网站或广告账户的 AI 工具做错了事,或听从了隐藏的指令 | 最低权限、支出上限、重大改动由您批准 |
顺序有讲究。数据外泄每天都在悄悄发生。诈骗造成的损失最大。智能体出错是新问题,您交出去的权限越多,风险越大。
威胁有多大?
对大公司来说很大,而诈骗这部分会波及每个人。IBM 的 2026 年研究显示,全球数据泄露的平均成本为 499 万美元,“a 12% increase over last year and a record high”(比去年增加 12%,创历史新高),并报告 AI 驱动的攻击增加了 56%,“led by AI deepfake impersonations and AI-enabled malware”(以 AI 深度伪造冒充和 AI 辅助的恶意软件为主)(IBM:2026 年数据泄露成本报告)。这个平均值来自较大的机构;小公司的泄露成本较低,但仍可能把公司拖垮。
FBI 的数字离您更近。2025 年,其互联网犯罪投诉中心(IC3)收到超过 22,000 起提到 AI 的投诉,损失超过 8.93 亿美元;而在所有报告中,商业电子邮件诈骗(冒充老板或供应商发来要钱的假邮件)造成的损失超过 30 亿美元(FBI IC3:2025 年互联网犯罪报告)。FBI 也指出,这些诈骗只有一部分用到 AI:企业报告因涉及 AI 的邮件诈骗损失超过 3,000 万美元。
我的业务数据在 ChatGPT 等 AI 工具里安全吗?
取决于套餐。在 OpenAI 的个人套餐上,除非您关闭,否则您的聊天内容可能成为训练材料:
"When you use our services for individuals (Free, Plus, Pro), we may use your content to train our models." (OpenAI Help Center) 译文:“当您使用我们面向个人的服务(Free、Plus、Pro)时,我们可能会使用您的内容来训练我们的模型。”
关闭方法在“设置 > 数据控制”(Settings > Data controls)中:关掉“Improve the model for everyone”(为所有人改进模型)。企业版套餐正好相反:“By default, we don't use inputs or outputs from ChatGPT Business, ChatGPT Enterprise, ChatGPT Edu, or our API to improve our models”(默认情况下,我们不会使用 ChatGPT Business、ChatGPT Enterprise、ChatGPT Edu 或我们 API 的输入或输出来改进模型)(OpenAI 帮助中心;OpenAI:企业隐私)。
训练只是数据外泄的途径之一。工具本身也可能被入侵,或把聊天记录存在其他国家(见中国 AI 模型)。加拿大网络安全机构给出了简单的规则:
"Avoid providing PII or sensitive corporate data as part of the queries or prompts." (Canadian Centre for Cyber Security) 译文:“避免在查询或提示词中提供 PII 或敏感的公司数据。”
PII 指个人身份信息(personally identifiable information):姓名、地址、电话号码、健康或账户信息。在美国,病人数据另有一套规则;见ChatGPT 符合 HIPAA 吗?
最大的漏洞通常是员工使用没人批准过的免费工具,常被称为影子 AI(shadow AI)。一页批准使用的工具清单,加一份“绝不粘贴”清单,就能堵住大部分漏洞。
犯罪分子怎么用 AI 对付小企业?
他们用 AI 冒充您信任的人。FBI 警告,犯罪分子用 AI “generate short audio clips containing a loved one's voice”(生成含有亲人声音的短音频),以及 “generate videos for real time video chats with alleged company executives”(生成视频,用于冒充公司高管进行实时视频聊天)(FBI IC3,2024 年 12 月)。同一份警告说,AI 让他们能更快地写出可信的信息、发给更多人,所以过去的破绽(拼写错误、措辞奇怪)已经没有了。
对小企业来说,常见目标是:
- 付款。 “供应商”发邮件告知新的银行账户,或“老板”打电话给记账员要求紧急电汇。
- 登录信息。 一条很像真的信息要求员工“确认”广告账户、网站或邮箱密码。
- 声誉。 关于您公司的虚假评价或伪造视频。
应对办法是流程,不是软件。定一条规则:任何新的付款信息或紧急的要钱请求,都要打您已有的号码回拨核实,绝不打信息里给的号码。FBI 建议家人之间约定一个暗号;办公室也可以这样做。为邮箱、银行、广告和网站账户开启多重身份验证(在密码之外再加验证码或应用确认);美国网络安全和基础设施安全局(CISA)说它 “can make you much more secure”(能让您安全得多)(CISA:不止是密码)。
让 AI 智能体进入我的账户,可能出什么问题?
AI 智能体是能自己采取行动的软件,比如修改您的网站或调整广告预算(见智能体 AI)。可能出两类问题。
它做出错误判断。 安全组织 OWASP 称之为“excessive agency”(过度代理),并列出三个原因:“excessive functionality; excessive permissions; excessive autonomy”(功能过多;权限过大;自主性过高)(OWASP:LLM06:2025)。说白了:它能做的太多、能碰的太多,或者不问就动手。
它被人诱骗。 提示词注入(prompt injection)指藏在 AI 读取内容里的指令。OWASP 解释,间接提示词注入发生在 “when an LLM accepts input from external sources, such as websites or files”(大语言模型接收来自外部来源的输入时,例如网站或文件)(OWASP:LLM01:2025)。一个网页、一条评价或一封邮件里,可能藏着让您的智能体把数据发到别处的文字。防御手段在进步,但还不完善。开发 Claude 的 Anthropic 写道,即使攻击成功率只有 1%,也 “still represents meaningful risk”(仍然构成实质风险)(Anthropic,2025 年 11 月)。
OWASP 的应对办法可以直接套用到老板身上:
- 给工具单独的登录账户,权限设到能完成工作的最低一级,绝不用您的所有者账户。
- 在平台层面限制它能花的钱(每日预算、账户支出上限),不能只在工具里设。
- 重大操作由您亲自批准。 OWASP:“require a human to approve high-impact actions before they are taken”(高影响的操作在执行前须经人工批准)。
- 每周查看更改记录,并撤销已停用工具的权限。
哪些工作值得交出去,见哪些交给自动化,哪些由人负责。
给 AI 供应商权限之前,应该问什么?
五个问题基本够用:
- 我的数据会被用来训练模型吗?能书面确认关闭吗?
- 你们用哪个 AI 模型?我的数据存在哪里?
- 这个工具到底能改什么?我能限制它吗?
- 哪些操作需要我批准?这份清单我能自己定吗?
- 我能看到每次更改的记录并撤销吗?
对任何一个问题含糊其辞,本身就是答案。挑选营销智能体时更完整的清单,见AI SEO 智能体评估:8 项检查。
示例
记账员接到“老板”的电话
声音听起来没错,要求今天向一家新供应商转账 9,000 美元。办公室规定:每个新收款方都要打老板存档的号码回拨核实。真老板根本没打过电话。没有任何损失。
诊所前台使用免费版 ChatGPT
她把病人的邮件粘贴进去起草回复。训练是开着的,而这些数据属于健康信息。诊所改用企业版套餐,粘贴前删除姓名,并且在合规检查完成之前,病人回复一律不经过 AI 工具。
承包商把 AI 工具连到自己的广告账户
他给的是标准权限,不是管理员权限,并在广告平台上设了每日 50 美元的预算上限。工具建议把某个广告系列的支出翻倍,然后等他批准。即使出错,上限也能把损失控制得很小。
常见问题
AI 工具会盗取我的密码吗?
它自己很少会。风险在于员工把密码粘贴进聊天,或者一封 AI 写的钓鱼信息把他们引到假的登录页面。
付费的 AI 套餐比免费的更安全吗?
在训练这方面,是的:OpenAI 的企业版套餐默认不用您的数据训练。付费的个人套餐(Plus、Pro)和免费版一样,除非您选择关闭,否则可能会用。
小企业应该禁止使用 AI 工具吗?
禁令通常只会让使用转到看不见的地方。批准几款使用企业版套餐的工具,再明确规定什么不能粘贴,效果更好。
我需要专门的 AI 安全软件吗?
以小企业的规模,很少需要。多重身份验证登录、有限的权限、付款回拨核实规则,再加一份简短的书面政策,就能覆盖主要风险。
您的情况不同?
- 您在美国处理病人或健康数据:ChatGPT 符合 HIPAA 吗?
- 您在考虑更便宜的海外 AI 模型:中国 AI 模型。
- 您想先了解智能体能做什么、不能做什么:智能体 AI 详解。
- 您在为营销挑选 AI 智能体:AI SEO 智能体评估清单。
- 您希望有人帮您管理广告账户:付费广告智能体。