AI 智能体安全:如何限制 AI 智能体能动的范围
简短回答 给每个 AI 智能体单独的登录账号,只给完成它那一项工作所需的最低权限,限制它能花的钱和能发的消息,并要求它在做任何无法撤销的事之前先问您:付款、删除、新建广告系列、群发邮件、添加用户。不要让同一个智能体同时读取外部内容、看到私密数据并自主行动。
想把这些用到您的生意上?预约一次 30 分钟的免费通话,一起聊聊。
预约通话如何限制 AI 智能体能动的范围?
给每个智能体设三道限制:它能接触什么、能改什么、什么时候必须停下来问您。安全行业把第一条叫作“最小权限”(least privilege):在能完成工作的前提下,给最少的访问权限。
| 限制 | 含义 | 怎么设置 |
|---|---|---|
| 接触 | 只碰工作需要的账户和数据 | 单独的登录账号,作为用户添加;不共用所有者密码 |
| 修改 | 能完成工作的最低角色 | 先给只读;只在必须操作的地方给编辑权限 |
| 询问 | 任何代价大或无法撤销的事都要人批准 | 在工具里设审批步骤,再加上花费和发送上限 |
OWASP GenAI 安全项目(OWASP GenAI Security Project)是一个非营利的安全社区,它把这个问题叫作“过度代理”(excessive agency),并归结为三个原因:功能太多、权限太大、自主性太强(不经核查就行动)。它的修复清单第一条就是:
"Limit the extensions that LLM agents are allowed to call to only the minimum necessary." (OWASP: LLM06:2025 Excessive Agency) 译文:“将 LLM 智能体可以调用的扩展限制在必要的最小范围内。”
LLM(大语言模型)是 ChatGPT、Claude 和 Gemini 背后的引擎。“扩展”或“工具”是一种连接,让它能读取或修改另一个系统,比如您的广告账户或邮箱。如果您刚接触智能体,请先看智能体 AI 详解。
为什么给智能体的权限要比给新员工的还少?
因为智能体会被人一眼就会忽略的文字骗到,而且它犯错的速度和它干活一样快。主要的手法是提示词注入(prompt injection):把指令藏在智能体读取的邮件、评价或网页里。Claude 的开发商 Anthropic 这样描述它:
"adversarial instructions hidden within the content that AI models process" (Anthropic, November 2025) 译文:“隐藏在 AI 模型所处理内容中的恶意指令”
它举的例子是一封邮件,指令“embedded in white text, invisible to you but processed by the agent”(用白色文字嵌入,您看不见,但智能体会处理)。即使它的防御措施已把针对其浏览器智能体的攻击成功率降到约 1%,Anthropic 仍表示这个比例“still represents meaningful risk”(仍是不可忽视的风险)(同一来源)。没有任何设置能消除这个风险。权限越小,被骗的智能体能造成的损失就越小:没有删除按钮的智能体,无论读到什么,都删不了您的文件。
三选二规则(Rule of Two):检验任何智能体的快速测试
Meta 在 2025 年 10 月发布了一个简单的测试。在一次会话中,智能体最多只能拥有以下三种能力中的两种(Meta AI: Agents Rule of Two):
- 它读取您无法控制的内容:客户邮件、网页、评价、上传的文件。
- 它能看到私密数据或敏感系统:客户名单、付款信息、管理设置。
- 它能修改东西或对外发送消息:发布、花钱、发邮件、删除。
有些总结把第三种能力说成智能体“自主学习”。Meta 原文并没有这么说;它指的是改变状态或对外沟通。如果一项工作确实需要三种能力都具备,Meta 表示智能体“should not be permitted to operate autonomously”(不应被允许自主运行),需要人工批准或其他可靠的核查。
| 智能体的工作 | 外部内容 | 私密数据 | 会行动 | 结论 |
|---|---|---|---|---|
| 起草 Google 评价回复,由您发布 | 是 | 否 | 否 | 可以单独运行 |
| 读取您的广告报告并提出修改建议 | 否 | 是 | 否 | 可以单独运行 |
| 回复网站聊天并预约到您的日历 | 是 | 是 | 是 | 需要审批或严格限制 |
| 读取您的邮箱并自行回复 | 是 | 是 | 是 | 需要审批 |
逐个账户:该给什么权限级别
只要平台允许,就把智能体作为单独的用户添加。这样您能看到它做了什么、修改它的角色,也能直接把它移除,而不必重设您的密码。
| 账户 | 起始角色 | 原因 |
|---|---|---|
| Google Ads | 只读 | 能“view campaigns”(查看广告系列)和运行报告,但不能编辑(Google Ads Help) |
| Google Ads,必须操作时 | 标准 | 能“edit campaigns”(编辑广告系列),但也能“edit billing information”(编辑结算信息);不能添加用户(同一来源) |
| Google Ads | 绝不给管理员 | 管理员能“give account access, change access levels”(授予账户访问权限、更改访问级别)(同一来源) |
| Google 商家资料(Google Business Profile) | 管理者,绝不给所有者 | 管理者不能添加或移除用户,也不能删除商家资料(Business Profile Help) |
| 邮件 | 只能写草稿,或用单独的发件地址 | 发错给整个名单的邮件无法撤回 |
| 网站 | 如果您的建站工具有页面编辑角色,就给它,而不是管理员 | 让设置、用户和删除网站都不在它的权限内 |
| 银行、支付和工资系统 | 不给访问权限 | 没有任何营销工作需要它 |
注意 Google Ads 的一个坑:标准权限包含编辑结算信息。如果您担心这点,就让智能体保持只读,让它把修改清单交给您来执行。
钱也要设上限。在 Google Ads 中,一个广告系列某一天最多可以花到平均每日预算的两倍,但每月扣费上限是“30.4 times your average daily budget for most campaigns”(对大多数广告系列而言,为平均每日预算的 30.4 倍)(Google Ads Help: About average daily budgets)。所以您设的预算就是智能体的花费上限。把它定在一个您在糟糕的月份也能接受亏掉的数字。让 AI 调配广告预算的更多内容,请看用 AI 智能体管理广告支出。
哪些事 AI 智能体绝不能不经您就做?
任何无法撤销的事、任何涉及资金的事,以及任何改变谁有访问权限的事。OpenAI 为企业搭建智能体写的指南是这样说的:
"Actions that are sensitive, irreversible, or have high stakes should trigger human oversight until confidence in the agent's reliability grows." (OpenAI: A practical guide to building agents) 译文:“敏感、不可逆或高风险的操作应触发人工监督,直到对智能体可靠性的信心增强为止。”
它举的例子是取消订单、大额退款和付款。对小企业的营销来说,清单是这样的:
- 付款、退款、更改结算信息或提高预算。
- 上线新的广告系列或开通新的广告平台。
- 删除网页、广告系列、联系人或文件。
- 一次给超过寥寥几人发邮件或短信。
- 添加、移除或更改用户和密码。
- 发布任何涉及价格、保证、医疗、法律或财务说法,或对客户作出承诺的内容。
- 回复愤怒的客户或公开投诉。
其他事都可以放手让它做,只要您事后能看到记录。
如何设置审批又不拖慢一切
把每个操作的风险评一次级,然后让低风险的自动运行。OpenAI 建议把每个工具评为低、中、高风险,“based on factors like read-only vs. write access, reversibility, required account permissions, and financial impact”(依据只读还是可写、能否撤销、所需账户权限和财务影响等因素)(同一指南)。
| 风险 | 例子 | 规则 |
|---|---|---|
| 低 | 读取报告、起草帖子、推荐关键词 | 自动运行 |
| 中 | 暂停一个关键词、发布已批准草稿的更新、回复 5 星评价 | 自动运行,您每周检查日志 |
| 高 | 花钱、删除、群发、发布声明、更改用户 | 等您点头 |
再加两道刹车:速率限制,即每小时最多执行多少个操作(出自 OWASP 清单);以及失败次数限制。OpenAI 建议限制重试次数,智能体一再失败时把工作交给人。然后每周看一遍活动日志,就像您会翻一翻新员工的已发送邮件一样。要决定哪些工作值得自动化,请看AI 营销自动化:该自动化什么,什么由人负责。
智能体出错时谁负责?
您。智能体以您的名义行事,广告、邮件和宣传声明的相关规定同样适用于它发布的内容。美国联邦贸易委员会(FTC)在 2024 年打击欺骗性 AI 骗局的行动中表示:
"The FTC's enforcement actions make clear that there is no AI exemption from the laws on the books." (FTC, September 2024) 译文:“FTC 的执法行动清楚表明,现行法律没有 AI 豁免。”
这也是面向客户的声明要列入“绝不能单独做”清单的又一个原因。
示例
一家水管工公司的广告智能体
智能体在 Google Ads 中只有只读权限,平均每日预算 $50,所以一个月最多花约 $1,520(50 × 30.4)。每周一它发来一份浪费钱的搜索字词清单;老板用五分钟批准并执行。它读到的任何内容都不能让它多花钱。
一家牙科诊所的评价回复
智能体在商家资料中是管理者,不是所有者,所以不能移除用户或删除商家信息。它自己给 4 星和 5 星评价发感谢回复。低于 4 星的评价则作为草稿交给诊所经理,因为回复有关患者治疗的评价可能会泄露健康信息。
一家园林公司的邮件智能体
智能体撰写每月电子报,并把它作为发给 2,000 位联系人的草稿载入。老板读过后亲自点击发送。智能体从不掌握发件密码。
常见问题
我能直接把自己的登录账号给智能体用吗?
最好不要。您无法区分它的操作和您的操作,也无法单独降低它的权限;而且一旦该工具被攻破,您拥有全部权限的密码就会泄露。
只读权限够用吗?
通常够用。它能找出浪费、起草修改并写报告,由您来执行。等它连续几周建议都正确,再给编辑权限。
写好提示词就能保证智能体安全吗?
有帮助,但智能体读到的文字可能会盖过它。权限和上限由平台强制执行,所以即使智能体被骗,它们依然有效。
我应该多久检查一次智能体做了什么?
新智能体每周一次,有了良好记录后每月一次。停用该工具的当天就撤销它的访问权限。
您的情况不同?
- 您的智能体自己调配广告预算:用 AI 智能体管理广告支出和付费广告智能体。
- 它在您的 Google 商家资料上发帖:安全地自动发布 Google 商家资料帖子。
- 它接电话或回复聊天并预约订单:小企业的 AI 接待员。
- 它发送陌生开发邮件或短信:在反垃圾信息法范围内用 AI 做陌生开发。
- 您经营诊所,智能体会接触患者数据:诊所网站上的 Meta 像素和 Google Analytics。
- 您还在聊天机器人和智能体之间犹豫:AI 智能体工具与聊天机器人对比。