如何審查 AI 工具:團隊使用前的安全檢查清單
簡短回答 員工使用 AI 工具前,先查清它能產生什麼、靠什麼防止濫用、是否用您的資料訓練、輸出是否由人核准,以及主管機關是否對它採取過行動。責任在您的企業,而不在工具:加拿大隱私監管機關駁回了 X 和 xAI 關於「Grok 的使用者負主要責任」的說法。
想把這些用在您的生意上?預約一次 30 分鐘的免費通話,一起聊聊。
預約通話如何審查 AI 工具:8 項檢查
團隊裡任何人在工作中使用新的 AI 工具之前,先做這些檢查。大多數只需在供應商的網站和設定頁面上花十分鐘。
| # | 檢查 | 通過 | 警訊 |
|---|---|---|---|
| 1 | 它能產生什麼? | 寫明拒絕產生哪些內容(假人物、露骨圖片、假評論) | 「沒有限制」「無審查」或「辣味」模式 |
| 2 | 真人照片 | 禁止或限制編輯未同意者的照片 | 任何人都能上傳並修改任何人的照片 |
| 3 | 主管機關行動 | 沒有進行中的調查或認定 | 隱私監管機關或美國聯邦貿易委員會(FTC)對其採取過行動 |
| 4 | 您的資料 | 商業方案預設不用您的資料訓練 | 在免費方案裡貼上客戶資料 |
| 5 | 核准 | 任何內容發布、寄出或花錢前都由人核准,並有紀錄顯示它做了什麼 | 它自行發文、寄電子郵件或修改廣告,沒有關閉開關,也沒有紀錄 |
| 6 | 安全證明 | 有近期的 SOC 2 報告或類似稽核,可應要求提供 | 只說「我們非常重視安全」,拿不出任何證明 |
| 7 | 它的宣稱 | 清楚說明能做什麼、不能做什麼 | 保證收入、排名,或「取代您的律師」 |
| 8 | 退出 | 可以匯出您的成果並刪除您的資料 | 沒有刪除選項,或資料「無限期」保留 |
第 1、2 或 3 項不通過,就到此為止。其餘幾項通常可以透過設定、付費方案或給員工定一條規則來解決。
哪些方案會用您的對話訓練,見小型企業的 AI 工具。哪些步驟需要人來核准,見AI 行銷中的人工監督。
Grok 的圖片編輯出了什麼問題?
xAI 在 X 上推出了一個圖片工具,任何人都能編輯真人的照片,限制很弱,幾天之內就被濫用。這是近來最能說明第 1 到第 3 項檢查用途的案例。
時間軸,來自加拿大隱私監管機關的調查結論(OPC:PIPEDA Findings #2026-004):
| 日期 | 發生了什麼 |
|---|---|
| 2025 年 7 月 | xAI 推出圖片生成與編輯模型 Grok Imagine |
| 2025 年 12 月 23–24 日 | X 上的圖片出現「Edit Image」(編輯圖片)按鈕,包括其他使用者的照片 |
| 2025 年 12 月 28 日 | 濫用增多,X 啟動危機處理程序 |
| 截至 2026 年 1 月 8 日 | 監管機關引用的新聞報導指出,每小時產生超過 6,000 張性化深度偽造圖片 |
| 2026 年 1 月 8 日 | @Grok 帳號被禁止產生真人的性化深度偽造圖片;其圖片生成功能僅限付費訂閱者 |
| 2026 年 1 月 14 日 | 深度偽造禁令擴及 X 上的 Grok 和獨立的 Grok 應用程式,涵蓋包括付費者在內的所有使用者 |
| 2026 年 1 月 26 日 | 歐盟執委會依據《數位服務法》(DSA)展開正式調查(European Commission) |
| 2026 年 6 月 11 日 | 加拿大隱私監管機關認定 X Corp. 和 xAI 違反聯邦隱私法(OPC) |
加拿大的調查結論讀起來就像一份被跳過的檢查清單。兩家公司告訴監管機關,它們不核實圖片中人物是否同意。隱私影響評估(上線前對隱私風險所做的書面審查)「only updated to include Grok Imagine in March 2026」(直到 2026 年 3 月才更新納入 Grok Imagine),比上線晚了八個月。監管機關稱超過十天才回應是「an insufficient and untimely response」(不充分且不及時的回應),並建議兩家公司在其所有產品上暫停 Grok Imagine。截至報告發布時,此事「not resolved」(尚未解決)。
歐盟執委會從另一個角度檢視同一失誤:X 在部署 Grok 功能之前是否評估了風險,包括「manipulated sexually explicit images」(經竄改的露骨色情圖片)(European Commission,2026 年 1 月 26 日)。
AI 工具造成損害時,誰來負責?
用它來發布、寄出或做決定的企業。不是工具,也不只是輸入提示詞的那個人。
兩家公司主張「users bear primary responsibility for the content that they generate」(使用者對其產生的內容負主要責任)。加拿大隱私監管機關不同意:工具是這兩家公司開發、託管和部署的,所以它們要負責(OPC:PIPEDA Findings #2026-004)。當您在企業中使用 AI 時,同樣的邏輯也適用於您。加拿大各隱私監管機關用一句話說明了這一點:
"Know that accountability for decisions rests with the organization, and not with any kind of automated system used to support the decision-making process." (OPC: Principles for responsible, trustworthy and privacy-protective generative AI technologies) 譯文:「要知道,決策的責任在於組織,而不在於任何用來輔助決策的自動化系統。」
美國對行銷中的 AI 也是同樣的說法:
"Using AI tools to trick, mislead, or defraud people is illegal." (FTC, September 25, 2024) 譯文:「利用 AI 工具欺騙、誤導或詐騙他人是違法的。」
FTC 的那次集中執法包括 DoNotPay,它自稱「the world's first robot lawyer」(全球第一位機器人律師)。設第 7 項檢查,是因為誇大工具能力的供應商,也可能誇大工具的安全性。
要問供應商的問題
用書面方式提問,並保存回覆。好的供應商每個問題都能用一句話回答,或附上一個網頁連結。
- 您的工具會拒絕產生什麼?發布前如何測試這一點?
- 它能編輯真人照片嗎?有什麼措施防止有人使用客戶或員工的照片?
- 你們會用我們輸入或上傳的內容訓練模型嗎?能關閉嗎?在我們的方案上是否預設關閉?
- 我們的資料存放在哪裡、保存多久?能刪除嗎?
- 每一項輸出能否先等人核准,再發布、寄出或花錢?
- 能看一份近期的 SOC 2 報告嗎?(根據 AICPA,SOC 2 是對公司在安全性、可用性、處理完整性、機密性或隱私方面控制措施的獨立稽核。)
- 有沒有主管機關調查過你們或你們的 AI 模型供應商?
- 如果您的工具以我們的名義產生了違法或不實的內容,你們的條款規定由誰負擔費用?
然後用工具名稱加上「investigation」「privacy commissioner」和「FTC」搜尋一下。
我的企業使用的 AI 工具適用哪些法律?
工具供應商對它的主管機關負責;您對自己發布的內容負責。以下是最可能涉及小型企業的規定。
| 地區 | 規定 | 對您代表什麼 |
|---|---|---|
| 美國 | 適用於 AI 的《聯邦貿易委員會法》(FTC,2024):「no AI exemption from the laws on the books」(現行法律對 AI 沒有豁免) | AI 產生的廣告、評論和宣稱,必須和其他內容一樣真實 |
| 美國 | 《TAKE IT DOWN 法案》,2025 年 5 月 19 日簽署(Public Law 119-12) | 明知而發布未經同意的真人 AI「數位偽造」私密影像是聯邦罪行;平台必須在 48 小時內移除被檢舉的影像 |
| 加拿大 | 聯邦私部門隱私法《個人資訊保護及電子文件法》(PIPEDA)(OPC,2026) | 使用他人的個人資訊,包括其照片,通常需要有效同意 |
| 歐盟 | 《數位服務法》(European Commission,2026) | 對線上平台課以風險義務,對 X 這類最大型平台最嚴格;它約束的是平台,而不是身為使用者的您 |
以上是規定的內容,不是法律建議。涉及病患資料,見ChatGPT 符合 HIPAA 嗎?
範例
一家美髮沙龍挑選 AI 修圖工具
店主想修飾客人的前後對比照。工具 A 有「無限制」模式,對真人照片隻字未提。工具 B 每月 $20,禁止修改衣著或身形的編輯,並說明不用上傳內容訓練。她選了工具 B,而且仍然只上傳簽過照片授權書的客人照片。
一家承包商的辦公室經理試用免費聊天機器人
她把 40 位客戶的姓名和地址貼到免費方案裡,用來草擬後續追蹤的電子郵件。第 4 項檢查不通過:許多免費方案除非手動關閉,否則對話可能被用於訓練。老闆把團隊換到商業方案,並定了一條規則:免費工具裡不放任何客戶資料。
一家會計師事務所在報稅季前審查 AI 代理
供應商以書面方式回答了全部八個問題,提供了 SOC 2 報告,而且每封電子郵件都要等核准。有一個回覆不理想:取消服務後資料還會保留 90 天。事務所簽了約,在隱私權政策中註明這 90 天,並設了提醒:如果日後停用,就要求刪除資料。
常見問題
我的企業用 Grok 安全嗎?
加拿大隱私監管機關在 2026 年 6 月認定,Grok 的圖片工具違反了聯邦隱私法。其他用途,請針對您的方案做這八項檢查。
每個 AI 供應商都需要提供 SOC 2 報告嗎?
不需要。工具存有客戶、病患或財務資料時才要。對於只草擬貼文的工具,第 1、4、5 項更重要。
我的員工可以用 AI 編輯真人照片嗎?
只限本人同意的人,且只用於其同意的用途。在美國,明知而發布未經同意的 AI 私密影像是聯邦罪行。
免費 AI 工具可以用於工作嗎?
用來草擬不含客戶或員工資料的內容沒問題。涉及個人資訊,請使用預設不以您的資料訓練的商業方案。
您的情況不同?
- 還在決定要不要用 AI 工具、用哪些:小型企業的 AI 工具。
- 決定哪些 AI 步驟需要人來核准:AI 行銷中的人工監督。
- 想了解 AI 在行銷上做不到什麼:AI 行銷的限制。
- 處理病患訊息的醫療診所:ChatGPT 符合 HIPAA 嗎?
- 在試用期審查 AI SEO 代理:AI SEO 代理審查:8 項檢查。
- 想讓內容和商家資訊在內建核准的流程中處理:SEO 與 GEO 代理。