AI 代理安全:如何限制 AI 代理能碰的範圍
簡短回答 給每個 AI 代理專屬的登入帳號,只給完成它那一項工作所需的最低存取層級,限制它能花的錢和能發的訊息,並要求它在做任何無法復原的事之前先問您:付款、刪除、建立新廣告活動、大量寄信、新增使用者。不要讓同一個代理同時讀取外部內容、看到私密資料又自行行動。
想把這些用在您的生意上?預約一次 30 分鐘的免費通話,一起聊聊。
預約通話如何限制 AI 代理能碰的範圍?
為每個代理設三道限制:它能接觸什麼、能改什麼、什麼時候必須停下來問您。資安人員把第一條稱為「最小權限」(least privilege):在能完成工作的前提下,給最少的存取權。
| 限制 | 意思 | 怎麼設定 |
|---|---|---|
| 接觸 | 只碰工作需要的帳戶和資料 | 專屬的登入帳號,以使用者身分加入;不共用擁有者密碼 |
| 修改 | 能完成工作的最低角色 | 先給唯讀;只在必須動手的地方給編輯權限 |
| 詢問 | 任何代價高或無法復原的事都要由人核准 | 在工具中設定核准步驟,再加上花費與寄送上限 |
OWASP GenAI 安全專案(OWASP GenAI Security Project)是一個非營利的資安社群,它把這個問題稱為「過度代理」(excessive agency),並歸因於三點:功能太多、權限太大、自主性太高(不經檢查就行動)。它的修正清單第一條是:
"Limit the extensions that LLM agents are allowed to call to only the minimum necessary." (OWASP: LLM06:2025 Excessive Agency) 譯文:「將 LLM 代理可呼叫的擴充功能限制在必要的最小範圍。」
LLM(大型語言模型)是 ChatGPT、Claude 和 Gemini 背後的引擎。「擴充功能」或「工具」是一種連線,讓它能讀取或修改另一個系統,例如您的廣告帳戶或收件匣。如果您剛接觸代理,請先看代理式 AI 說明。
為什麼給代理的權限要比給新員工的還少?
因為代理會被人一眼就略過的文字騙到,而且它犯錯的速度和它做事一樣快。主要的手法是提示注入(prompt injection):把指令藏在代理讀取的電子郵件、評論或網頁裡。開發 Claude 的 Anthropic 這樣描述它:
"adversarial instructions hidden within the content that AI models process" (Anthropic, November 2025) 譯文:「隱藏在 AI 模型所處理內容中的惡意指令」
它舉的例子是一封電子郵件,指令「embedded in white text, invisible to you but processed by the agent」(以白色文字嵌入,您看不到,但代理會處理)。即使它的防禦措施已把針對其瀏覽器代理的攻擊成功率降到約 1%,Anthropic 仍表示這個比例「still represents meaningful risk」(仍代表不容忽視的風險)(同一來源)。沒有任何設定能消除這個風險。權限越小,被騙的代理能造成的損害就越小:沒有刪除按鈕的代理,不管讀到什麼,都刪不了您的檔案。
三選二規則(Rule of Two):檢驗任何代理的快速測試
Meta 在 2025 年 10 月發表了一個簡單的測試。在一次工作階段中,代理最多只能擁有下列三種能力中的兩種(Meta AI: Agents Rule of Two):
- 它讀取您無法掌控的內容:客戶電子郵件、網頁、評論、上傳的檔案。
- 它能看到私密資料或敏感系統:客戶名單、付款資料、管理設定。
- 它能修改東西或對外傳送訊息:發布、花錢、寄信、刪除。
有些摘要把第三種能力說成代理「自己學習」。Meta 原文並沒有這樣說;它指的是改變狀態或對外溝通。如果一項工作真的需要三種能力,Meta 表示代理「should not be permitted to operate autonomously」(不應被允許自主運作),需要人工核准或其他可靠的檢查。
| 代理的工作 | 外部內容 | 私密資料 | 會行動 | 結論 |
|---|---|---|---|---|
| 草擬 Google 評論回覆,由您發布 | 是 | 否 | 否 | 可以單獨執行 |
| 讀取您的廣告報表並提出修改建議 | 否 | 是 | 否 | 可以單獨執行 |
| 回覆網站聊天並預約到您的行事曆 | 是 | 是 | 是 | 需要核准或嚴格限制 |
| 讀取您的收件匣並自行回信 | 是 | 是 | 是 | 需要核准 |
逐一帳戶:該給哪種存取層級
只要平台允許,就把代理以獨立使用者的身分加入。這樣您能看到它做了什麼、調整它的角色,也能直接把它移除,不必重設您的密碼。
| 帳戶 | 起始角色 | 原因 |
|---|---|---|
| Google Ads | 唯讀 | 可以「view campaigns」(查看廣告活動)並執行報表,但不能編輯(Google Ads Help) |
| Google Ads,必須動手時 | 標準 | 可以「edit campaigns」(編輯廣告活動),但也能「edit billing information」(編輯帳單資訊);不能新增使用者(同一來源) |
| Google Ads | 絕不給管理員 | 管理員可以「give account access, change access levels」(授予帳戶存取權、變更存取層級)(同一來源) |
| Google 商家檔案(Google Business Profile) | 管理員,絕不給擁有者 | 管理員不能新增或移除使用者,也不能刪除商家檔案(Business Profile Help) |
| 電子郵件 | 只能存草稿,或使用另一個寄件地址 | 寄錯給整份名單的信無法收回 |
| 網站 | 如果您的網站建置工具有頁面編輯角色,就給這個,不給系統管理員 | 讓設定、使用者和刪除網站都在它的權限之外 |
| 銀行、金流和薪資 | 不給存取權 | 沒有任何行銷工作需要它 |
注意 Google Ads 的陷阱:標準存取權包含編輯帳單資訊。如果您擔心這點,就讓代理維持唯讀,讓它把修改清單交給您來套用。
金額也要設上限。在 Google Ads 中,廣告活動某一天最多可花到平均每日預算的兩倍,但每月收費上限是「30.4 times your average daily budget for most campaigns」(大多數廣告活動為平均每日預算的 30.4 倍)(Google Ads Help: About average daily budgets)。所以您設定的預算就是代理的花費上限。把它定在一個您在糟糕的月份也能接受賠掉的數字。關於讓 AI 調度廣告預算,請看用 AI 代理管理廣告支出。
哪些事 AI 代理絕不能不經您就做?
任何無法復原的事、任何動到錢的事,以及任何改變誰有存取權的事。OpenAI 為企業建置代理所寫的指南是這樣說的:
"Actions that are sensitive, irreversible, or have high stakes should trigger human oversight until confidence in the agent's reliability grows." (OpenAI: A practical guide to building agents) 譯文:「敏感、不可逆或高風險的動作應觸發人工監督,直到對代理可靠性的信心提高為止。」
它舉的例子是取消訂單、大額退款和付款。對小型企業的行銷來說,清單如下:
- 付款、退款、變更帳單資訊或調高預算。
- 上線新的廣告活動或啟用新的廣告平台。
- 刪除網頁、廣告活動、聯絡人或檔案。
- 一次寄電子郵件或簡訊給超過少數幾個人。
- 新增、移除或變更使用者和密碼。
- 發布任何提到價格、保證、醫療、法律或財務主張,或對客戶作出承諾的內容。
- 回覆憤怒的客戶或公開投訴。
其他事都可以放手讓它做,只要您事後看得到紀錄。
如何設定核准又不拖慢一切
把每個動作的風險評一次等級,然後讓低風險的自動執行。OpenAI 建議把每個工具評為低、中、高風險,「based on factors like read-only vs. write access, reversibility, required account permissions, and financial impact」(依據唯讀或可寫入、能否復原、所需帳戶權限及財務影響等因素)(同一份指南)。
| 風險 | 例子 | 規則 |
|---|---|---|
| 低 | 讀取報表、草擬貼文、建議關鍵字 | 自動執行 |
| 中 | 暫停一個關鍵字、發布已核准草稿的更新、回覆 5 星評論 | 自動執行,您每週檢查紀錄 |
| 高 | 花錢、刪除、大量寄送、發布主張、變更使用者 | 等您同意 |
再加兩道煞車:頻率限制,也就是每小時最多執行幾個動作(出自 OWASP 清單);以及失敗次數限制。OpenAI 建議限制重試次數,代理一再失敗時就把工作交給人。然後每週看一次活動紀錄,就像您會瀏覽新員工的寄件備份一樣。要決定哪些工作值得自動化,請看AI 行銷自動化:該自動化什麼,什麼由人負責。
代理出錯時誰負責?
您。代理以您的名義行事,廣告、電子郵件和宣傳主張的相關規定同樣適用於它發布的內容。美國聯邦貿易委員會(FTC)在 2024 年打擊欺騙性 AI 詐騙的行動中表示:
"The FTC's enforcement actions make clear that there is no AI exemption from the laws on the books." (FTC, September 2024) 譯文:「FTC 的執法行動清楚表明,現行法律沒有 AI 豁免。」
這也是面向客戶的主張要列入「絕不能單獨做」清單的另一個原因。
範例
一家水電行的廣告代理
代理在 Google Ads 中只有唯讀權限,平均每日預算 $50,所以一個月最多約 $1,520(50 × 30.4)。每週一它送來一份浪費錢的搜尋字詞清單;老闆花五分鐘核准並套用。它讀到的任何內容都無法讓它多花錢。
一間牙醫診所的評論回覆
代理在商家檔案中是管理員,不是擁有者,所以不能移除使用者或刪除商家資訊。它自行回覆 4 星和 5 星評論的感謝。低於 4 星的評論則以草稿交給診所經理,因為回覆有關病人治療的評論可能會洩露健康資訊。
一家園藝公司的電子郵件代理
代理撰寫每月電子報,並把它存成寄給 2,000 位聯絡人的草稿。老闆讀過後親自按下寄出。代理從不握有寄件密碼。
常見問題
我可以直接把自己的登入帳號給代理用嗎?
最好不要。您無法分辨它的動作和您的動作,也無法單獨降低它的權限;而且一旦該工具遭入侵,您擁有完整權限的密碼就會外洩。
唯讀權限夠用嗎?
通常夠用。它能找出浪費、草擬修改並寫報表,由您來套用。等它連續幾週建議都正確,再給編輯權限。
寫好提示就能確保代理安全嗎?
有幫助,但代理讀到的文字可能會蓋過它。權限和上限由平台強制執行,所以即使代理被騙,它們依然有效。
我應該多久檢查一次代理做了什麼?
新代理每週一次,累積良好紀錄後每月一次。停用該工具的當天就移除它的存取權。
您的情況不同?
- 您的代理會自行調度廣告預算:用 AI 代理管理廣告支出與付費廣告代理。
- 它會在您的 Google 商家檔案發文:安全地自動發布 Google 商家檔案貼文。
- 它接電話或回覆聊天並預約工作:小型企業的 AI 接待員。
- 它寄送陌生開發信或簡訊:在反垃圾訊息法規範內用 AI 做陌生開發。
- 您經營診所,代理會接觸病人資料:診所網站上的 Meta 像素與 Google Analytics。
- 您還在聊天機器人和代理之間猶豫:AI 代理工具與聊天機器人比較。