產品 SEO 與 GEO 代理 付費廣告代理 網站代理 轉換代理
運作方式 方案 常見問題 部落格 預約通話

AI 代理安全:如何限制 AI 代理能碰的範圍

更新於 · 閱讀約 8 分鐘

簡短回答 給每個 AI 代理專屬的登入帳號,只給完成它那一項工作所需的最低存取層級,限制它能花的錢和能發的訊息,並要求它在做任何無法復原的事之前先問您:付款、刪除、建立新廣告活動、大量寄信、新增使用者。不要讓同一個代理同時讀取外部內容、看到私密資料又自行行動。

想把這些用在您的生意上?預約一次 30 分鐘的免費通話,一起聊聊。

預約通話

如何限制 AI 代理能碰的範圍?

為每個代理設三道限制:它能接觸什麼、能改什麼、什麼時候必須停下來問您。資安人員把第一條稱為「最小權限」(least privilege):在能完成工作的前提下,給最少的存取權。

限制意思怎麼設定
接觸只碰工作需要的帳戶和資料專屬的登入帳號,以使用者身分加入;不共用擁有者密碼
修改能完成工作的最低角色先給唯讀;只在必須動手的地方給編輯權限
詢問任何代價高或無法復原的事都要由人核准在工具中設定核准步驟,再加上花費與寄送上限

OWASP GenAI 安全專案(OWASP GenAI Security Project)是一個非營利的資安社群,它把這個問題稱為「過度代理」(excessive agency),並歸因於三點:功能太多、權限太大、自主性太高(不經檢查就行動)。它的修正清單第一條是:

"Limit the extensions that LLM agents are allowed to call to only the minimum necessary." (OWASP: LLM06:2025 Excessive Agency) 譯文:「將 LLM 代理可呼叫的擴充功能限制在必要的最小範圍。」

LLM(大型語言模型)是 ChatGPT、Claude 和 Gemini 背後的引擎。「擴充功能」或「工具」是一種連線,讓它能讀取或修改另一個系統,例如您的廣告帳戶或收件匣。如果您剛接觸代理,請先看代理式 AI 說明。

為什麼給代理的權限要比給新員工的還少?

因為代理會被人一眼就略過的文字騙到,而且它犯錯的速度和它做事一樣快。主要的手法是提示注入(prompt injection):把指令藏在代理讀取的電子郵件、評論或網頁裡。開發 Claude 的 Anthropic 這樣描述它:

"adversarial instructions hidden within the content that AI models process" (Anthropic, November 2025) 譯文:「隱藏在 AI 模型所處理內容中的惡意指令」

它舉的例子是一封電子郵件,指令「embedded in white text, invisible to you but processed by the agent」(以白色文字嵌入,您看不到,但代理會處理)。即使它的防禦措施已把針對其瀏覽器代理的攻擊成功率降到約 1%,Anthropic 仍表示這個比例「still represents meaningful risk」(仍代表不容忽視的風險)(同一來源)。沒有任何設定能消除這個風險。權限越小,被騙的代理能造成的損害就越小:沒有刪除按鈕的代理,不管讀到什麼,都刪不了您的檔案。

三選二規則(Rule of Two):檢驗任何代理的快速測試

Meta 在 2025 年 10 月發表了一個簡單的測試。在一次工作階段中,代理最多只能擁有下列三種能力中的兩種(Meta AI: Agents Rule of Two):

  1. 它讀取您無法掌控的內容:客戶電子郵件、網頁、評論、上傳的檔案。
  2. 它能看到私密資料或敏感系統:客戶名單、付款資料、管理設定。
  3. 它能修改東西或對外傳送訊息:發布、花錢、寄信、刪除。

有些摘要把第三種能力說成代理「自己學習」。Meta 原文並沒有這樣說;它指的是改變狀態或對外溝通。如果一項工作真的需要三種能力,Meta 表示代理「should not be permitted to operate autonomously」(不應被允許自主運作),需要人工核准或其他可靠的檢查。

代理的工作外部內容私密資料會行動結論
草擬 Google 評論回覆,由您發布是否否可以單獨執行
讀取您的廣告報表並提出修改建議否是否可以單獨執行
回覆網站聊天並預約到您的行事曆是是是需要核准或嚴格限制
讀取您的收件匣並自行回信是是是需要核准

逐一帳戶:該給哪種存取層級

只要平台允許,就把代理以獨立使用者的身分加入。這樣您能看到它做了什麼、調整它的角色,也能直接把它移除,不必重設您的密碼。

帳戶起始角色原因
Google Ads唯讀可以「view campaigns」(查看廣告活動)並執行報表,但不能編輯(Google Ads Help)
Google Ads,必須動手時標準可以「edit campaigns」(編輯廣告活動),但也能「edit billing information」(編輯帳單資訊);不能新增使用者(同一來源)
Google Ads絕不給管理員管理員可以「give account access, change access levels」(授予帳戶存取權、變更存取層級)(同一來源)
Google 商家檔案(Google Business Profile)管理員,絕不給擁有者管理員不能新增或移除使用者,也不能刪除商家檔案(Business Profile Help)
電子郵件只能存草稿,或使用另一個寄件地址寄錯給整份名單的信無法收回
網站如果您的網站建置工具有頁面編輯角色,就給這個,不給系統管理員讓設定、使用者和刪除網站都在它的權限之外
銀行、金流和薪資不給存取權沒有任何行銷工作需要它

注意 Google Ads 的陷阱:標準存取權包含編輯帳單資訊。如果您擔心這點,就讓代理維持唯讀,讓它把修改清單交給您來套用。

金額也要設上限。在 Google Ads 中,廣告活動某一天最多可花到平均每日預算的兩倍,但每月收費上限是「30.4 times your average daily budget for most campaigns」(大多數廣告活動為平均每日預算的 30.4 倍)(Google Ads Help: About average daily budgets)。所以您設定的預算就是代理的花費上限。把它定在一個您在糟糕的月份也能接受賠掉的數字。關於讓 AI 調度廣告預算,請看用 AI 代理管理廣告支出。

哪些事 AI 代理絕不能不經您就做?

任何無法復原的事、任何動到錢的事,以及任何改變誰有存取權的事。OpenAI 為企業建置代理所寫的指南是這樣說的:

"Actions that are sensitive, irreversible, or have high stakes should trigger human oversight until confidence in the agent's reliability grows." (OpenAI: A practical guide to building agents) 譯文:「敏感、不可逆或高風險的動作應觸發人工監督,直到對代理可靠性的信心提高為止。」

它舉的例子是取消訂單、大額退款和付款。對小型企業的行銷來說,清單如下:

  • 付款、退款、變更帳單資訊或調高預算。
  • 上線新的廣告活動或啟用新的廣告平台。
  • 刪除網頁、廣告活動、聯絡人或檔案。
  • 一次寄電子郵件或簡訊給超過少數幾個人。
  • 新增、移除或變更使用者和密碼。
  • 發布任何提到價格、保證、醫療、法律或財務主張,或對客戶作出承諾的內容。
  • 回覆憤怒的客戶或公開投訴。

其他事都可以放手讓它做,只要您事後看得到紀錄。

如何設定核准又不拖慢一切

把每個動作的風險評一次等級,然後讓低風險的自動執行。OpenAI 建議把每個工具評為低、中、高風險,「based on factors like read-only vs. write access, reversibility, required account permissions, and financial impact」(依據唯讀或可寫入、能否復原、所需帳戶權限及財務影響等因素)(同一份指南)。

風險例子規則
低讀取報表、草擬貼文、建議關鍵字自動執行
中暫停一個關鍵字、發布已核准草稿的更新、回覆 5 星評論自動執行,您每週檢查紀錄
高花錢、刪除、大量寄送、發布主張、變更使用者等您同意

再加兩道煞車:頻率限制,也就是每小時最多執行幾個動作(出自 OWASP 清單);以及失敗次數限制。OpenAI 建議限制重試次數,代理一再失敗時就把工作交給人。然後每週看一次活動紀錄,就像您會瀏覽新員工的寄件備份一樣。要決定哪些工作值得自動化,請看AI 行銷自動化:該自動化什麼,什麼由人負責。

代理出錯時誰負責?

您。代理以您的名義行事,廣告、電子郵件和宣傳主張的相關規定同樣適用於它發布的內容。美國聯邦貿易委員會(FTC)在 2024 年打擊欺騙性 AI 詐騙的行動中表示:

"The FTC's enforcement actions make clear that there is no AI exemption from the laws on the books." (FTC, September 2024) 譯文:「FTC 的執法行動清楚表明,現行法律沒有 AI 豁免。」

這也是面向客戶的主張要列入「絕不能單獨做」清單的另一個原因。

範例

一家水電行的廣告代理

代理在 Google Ads 中只有唯讀權限,平均每日預算 $50,所以一個月最多約 $1,520(50 × 30.4)。每週一它送來一份浪費錢的搜尋字詞清單;老闆花五分鐘核准並套用。它讀到的任何內容都無法讓它多花錢。

一間牙醫診所的評論回覆

代理在商家檔案中是管理員,不是擁有者,所以不能移除使用者或刪除商家資訊。它自行回覆 4 星和 5 星評論的感謝。低於 4 星的評論則以草稿交給診所經理,因為回覆有關病人治療的評論可能會洩露健康資訊。

一家園藝公司的電子郵件代理

代理撰寫每月電子報,並把它存成寄給 2,000 位聯絡人的草稿。老闆讀過後親自按下寄出。代理從不握有寄件密碼。

常見問題

我可以直接把自己的登入帳號給代理用嗎?

最好不要。您無法分辨它的動作和您的動作,也無法單獨降低它的權限;而且一旦該工具遭入侵,您擁有完整權限的密碼就會外洩。

唯讀權限夠用嗎?

通常夠用。它能找出浪費、草擬修改並寫報表,由您來套用。等它連續幾週建議都正確,再給編輯權限。

寫好提示就能確保代理安全嗎?

有幫助,但代理讀到的文字可能會蓋過它。權限和上限由平台強制執行,所以即使代理被騙,它們依然有效。

我應該多久檢查一次代理做了什麼?

新代理每週一次,累積良好紀錄後每月一次。停用該工具的當天就移除它的存取權。

您的情況不同?

繼續閱讀

下一篇AI 助理與資料:哪些可以給,哪些要保密每項 AI 任務需要的最少資料、應授予的最低帳戶角色,以及哪些內容絕不能輸入 ChatGPT、Gemini 或 Claude。

問我們一個問題

一句話就夠了。我們會以電子郵件回覆。

出處

  1. OWASP GenAI Security Project: LLM06:2025 Excessive Agency
  2. Meta AI: Agents Rule of Two (October 2025)
  3. OpenAI: A practical guide to building agents
  4. Anthropic: Mitigating the risk of prompt injections in browser use (November 2025)
  5. Google Ads Help: About access levels in your Google Ads account
  6. Google Ads Help: About average daily budgets
  7. Google Business Profile Help: Manage your Business Profile owners & managers
  8. FTC: FTC Announces Crackdown on Deceptive AI Claims and Schemes (2024)