AI 安全風險:小型企業真正面對的是什麼
簡短回答 小型企業面對三種 AI 安全風險:客戶或公司資料被貼進可能保存或用來訓練的 AI 工具;詐騙者用 AI 偽造聲音、影片和電子郵件;擁有您帳戶權限的 AI 代理做錯操作或被人誘騙。大多數因應方法都不貴:企業版方案、回撥確認規則和有限的權限。
想把這些用在您的生意上?預約一次 30 分鐘的免費通話,一起聊聊。
預約通話哪些 AI 安全風險真正會落到小型企業身上?
三種。您讀到的大多數 AI 安全問題(模型被竊、訓練資料遭下毒)是開發 AI 的公司要操心的,而不是使用 AI 的牙醫診所或屋頂承包商要操心的。
| 風險 | 怎麼發生 | 第一步因應 |
|---|---|---|
| 資料外洩 | 有人把客戶資料、合約或密碼貼進免費的 AI 聊天工具 | 使用關閉訓練的企業版方案,再加一份「絕不貼上」清單 |
| AI 製造的詐騙 | 複製的聲音、偽造的視訊通話或毫無破綻的電子郵件,要求員工付款或提供登入資訊 | 任何付款之前,先打您原有的號碼回撥確認 |
| 代理出錯 | 能存取您網站或廣告帳戶的 AI 工具做錯了事,或聽從了隱藏的指令 | 最低權限、支出上限、重大變更由您核准 |
順序有其道理。資料外洩每天都在悄悄發生。詐騙造成的損失最大。代理出錯是新問題,您交出去的權限越多,風險越大。
威脅有多大?
對大公司來說很大,而詐騙這部分會波及每個人。IBM 的 2026 年研究顯示,全球資料外洩的平均成本為 499 萬美元,「a 12% increase over last year and a record high」(比去年增加 12%,創歷史新高),並指出 AI 驅動的攻擊增加了 56%,「led by AI deepfake impersonations and AI-enabled malware」(以 AI 深偽冒充和 AI 輔助的惡意軟體為主)(IBM:2026 年資料外洩成本報告)。這個平均值來自較大的機構;小公司的外洩成本較低,但仍可能把公司拖垮。
FBI 的數字離您更近。2025 年,其網路犯罪投訴中心(IC3)收到超過 22,000 件提到 AI 的投訴,損失超過 8.93 億美元;而在所有報告中,商業電子郵件詐騙(冒充老闆或供應商寄來要錢的假郵件)造成的損失超過 30 億美元(FBI IC3:2025 年網路犯罪報告)。FBI 也指出,這些詐騙只有一部分用到 AI:企業回報因涉及 AI 的電子郵件詐騙損失超過 3,000 萬美元。
我的業務資料放在 ChatGPT 等 AI 工具裡安全嗎?
取決於方案。在 OpenAI 的個人方案上,除非您關閉,否則您的對話內容可能成為訓練材料:
"When you use our services for individuals (Free, Plus, Pro), we may use your content to train our models." (OpenAI Help Center) 譯文:「當您使用我們針對個人的服務(Free、Plus、Pro)時,我們可能會使用您的內容來訓練我們的模型。」
關閉方式在「設定 > 資料控制」(Settings > Data controls)中:關掉「Improve the model for everyone」(為所有人改進模型)。企業版方案正好相反:「By default, we don't use inputs or outputs from ChatGPT Business, ChatGPT Enterprise, ChatGPT Edu, or our API to improve our models」(預設情況下,我們不會使用 ChatGPT Business、ChatGPT Enterprise、ChatGPT Edu 或我們 API 的輸入或輸出來改進模型)(OpenAI 說明中心;OpenAI:企業隱私)。
訓練只是資料外洩的途徑之一。工具本身也可能遭入侵,或把對話紀錄存放在其他國家(見中國 AI 模型)。加拿大網路安全機構給出了簡單的規則:
"Avoid providing PII or sensitive corporate data as part of the queries or prompts." (Canadian Centre for Cyber Security) 譯文:「避免在查詢或提示詞中提供 PII 或敏感的公司資料。」
PII 指個人識別資訊(personally identifiable information):姓名、地址、電話號碼、健康或帳戶資料。在美國,病患資料另有一套規則;見ChatGPT 符合 HIPAA 嗎?
最大的漏洞通常是員工使用沒人核准過的免費工具,常被稱為影子 AI(shadow AI)。一頁核准使用的工具清單,加一份「絕不貼上」清單,就能堵住大部分漏洞。
犯罪分子如何用 AI 對付小型企業?
他們用 AI 冒充您信任的人。FBI 警告,犯罪分子用 AI「generate short audio clips containing a loved one's voice」(產生含有親人聲音的短音訊),以及「generate videos for real time video chats with alleged company executives」(產生影片,用於冒充公司高階主管進行即時視訊聊天)(FBI IC3,2024 年 12 月)。同一份警告說,AI 讓他們能更快寫出可信的訊息、發給更多人,所以過去的破綻(拼字錯誤、措辭奇怪)已經不見了。
對小型企業來說,常見目標是:
- 付款。 「供應商」寄電子郵件告知新的銀行帳戶,或「老闆」打電話給記帳人員要求緊急電匯。
- 登入資訊。 一則看起來很真的訊息要求員工「確認」廣告帳戶、網站或電子郵件密碼。
- 聲譽。 關於您公司的假評論或偽造影片。
因應方法是流程,不是軟體。訂一條規則:任何新的付款資訊或緊急的要錢請求,都要打您原有的號碼回撥確認,絕不打訊息裡給的號碼。FBI 建議家人之間約定一個暗號;辦公室也可以這樣做。為電子郵件、銀行、廣告和網站帳戶開啟多重要素驗證(在密碼之外再加驗證碼或 App 確認);美國網路安全暨基礎設施安全局(CISA)說它「can make you much more secure」(能讓您安全得多)(CISA:不只是密碼)。
讓 AI 代理進入我的帳戶,可能出什麼問題?
AI 代理是能自行採取行動的軟體,例如修改您的網站或調整廣告預算(見代理式 AI)。可能出兩類問題。
它做出錯誤判斷。 安全組織 OWASP 稱之為「excessive agency」(過度代理),並列出三個原因:「excessive functionality; excessive permissions; excessive autonomy」(功能過多;權限過大;自主性過高)(OWASP:LLM06:2025)。白話說:它能做的太多、能碰的太多,或者不問就動手。
它被人誘騙。 提示詞注入(prompt injection)指藏在 AI 讀取內容裡的指令。OWASP 解釋,間接提示詞注入發生在「when an LLM accepts input from external sources, such as websites or files」(大型語言模型接收來自外部來源的輸入時,例如網站或檔案)(OWASP:LLM01:2025)。一個網頁、一則評論或一封電子郵件裡,可能藏著讓您的代理把資料傳到別處的文字。防禦手段在進步,但還不完善。開發 Claude 的 Anthropic 寫道,即使攻擊成功率只有 1%,也「still represents meaningful risk」(仍構成實質風險)(Anthropic,2025 年 11 月)。
OWASP 的因應方法可以直接套用到老闆身上:
- 給工具獨立的登入帳號,權限設在能完成工作的最低一級,絕不用您的擁有者帳號。
- 在平台層級限制它能花的錢(每日預算、帳戶支出上限),不能只在工具裡設定。
- 重大操作由您親自核准。 OWASP:「require a human to approve high-impact actions before they are taken」(高影響的操作在執行前須經人工核准)。
- 每週查看變更紀錄,並移除已停用工具的權限。
哪些工作值得交出去,見哪些交給自動化,哪些由人負責。
給 AI 廠商權限之前,應該問什麼?
五個問題大致就夠了:
- 我的資料會被用來訓練模型嗎?能以書面確認關閉嗎?
- 你們用哪個 AI 模型?我的資料存放在哪裡?
- 這個工具到底能改什麼?我能限制它嗎?
- 哪些操作需要我核准?這份清單我能自己設定嗎?
- 我能看到每次變更的紀錄並復原嗎?
對任何一個問題含糊其辭,本身就是答案。挑選行銷代理時更完整的清單,見AI SEO 代理評估:8 項檢查。
範例
記帳人員接到「老闆」的電話
聲音聽起來沒錯,要求今天匯款 9,000 美元給一家新廠商。辦公室規定:每個新收款人都要打老闆存檔的號碼回撥確認。真正的老闆根本沒打過電話。沒有任何損失。
診所櫃檯使用免費版 ChatGPT
她把病患的電子郵件貼進去草擬回覆。訓練是開著的,而這些資料屬於健康資訊。診所改用企業版方案,貼上前刪除姓名,並且在合規檢查完成之前,病患回覆一律不經過 AI 工具。
承包商把 AI 工具連到自己的廣告帳戶
他給的是標準權限,不是管理員權限,並在廣告平台上設定每日 50 美元的預算上限。工具建議把某個廣告活動的支出加倍,然後等他核准。即使出錯,上限也能把損失控制得很小。
常見問題
AI 工具會竊取我的密碼嗎?
它本身很少會。風險在於員工把密碼貼進聊天,或者一則 AI 寫的釣魚訊息把他們引到假的登入頁面。
付費的 AI 方案比免費的更安全嗎?
在訓練這方面,是的:OpenAI 的企業版方案預設不會用您的資料訓練。付費的個人方案(Plus、Pro)和免費版一樣,除非您選擇關閉,否則可能會用。
小型企業應該禁止使用 AI 工具嗎?
禁令通常只會讓使用轉到看不見的地方。核准幾款使用企業版方案的工具,再明確規定什麼不能貼上,效果更好。
我需要專門的 AI 安全軟體嗎?
以小型企業的規模,很少需要。多重要素驗證登入、有限的權限、付款回撥確認規則,再加一份簡短的書面政策,就能涵蓋主要風險。
您的情況不同?
- 您在美國處理病患或健康資料:ChatGPT 符合 HIPAA 嗎?
- 您在考慮更便宜的海外 AI 模型:中國 AI 模型。
- 您想先了解代理能做什麼、不能做什麼:代理式 AI 詳解。
- 您在為行銷挑選 AI 代理:AI SEO 代理評估清單。
- 您希望有人幫您管理廣告帳戶:付費廣告代理。