产品 SEO 与 GEO 智能体 付费广告智能体 网站智能体 转化智能体
运作方式 方案 常见问题 博客 预约通话

AI 助手与数据:哪些可以给,哪些要保密

更新于 · 阅读约 7 分钟

简短回答 只给 AI 助手眼前这项任务需要的东西:数字和网页文字,而不是姓名。用能完成工作的最低角色连接账户,而不是共享密码。绝不要把密码、银行卡或银行账号、证件号码、客户健康信息或联系人名单粘贴到聊天应用里。

想把这些用到您的生意上?预约一次 30 分钟的免费通话,一起聊聊。

预约通话

AI 助手到底需要哪些数据?

比大多数老板想的要少。大多数营销任务只用两类输入:您自己的公开内容(网页、服务清单、已公布的价格)和汇总数字(点击、来电、单个潜在客户成本)。两者都不涉及具体某个人。姓名、电话号码和账号几乎从不改变答案,所以把它们删掉。

每项任务只给最小的那一部分:

任务AI 需要什么不要给什么
撰写或修改服务页面当前页面文字、您的服务、服务地区、真实价格客户姓名、施工地址
回复评价评价原文,以及实际发生了什么(概括描述)客户的电话、发票、健康或法律细节
找出浪费的广告支出搜索字词报告和广告系列汇总数据您的登录信息、账单和银行卡信息
解释流量下降从 Analytics 或 Search Console 导出的月度报告按具体客户列出的收入
起草跟进邮件优惠内容、您的语气、一个虚构的示例客户您真实的联系人名单
规划下个月的帖子您的活动、季节和促销日历尚未公布的优惠、员工事务

粘贴之前先问一句:少了这个细节,答案会变差吗?如果不会,就删掉。

哪些内容绝不能分享给 AI 聊天应用?

有些数据无论怎么设置,放进任何聊天窗口都有风险:

  • 密码和登录验证码。 没有任何 AI 任务需要它们。改为连接工具(见下一节)。
  • 银行卡号、银行账号和汇款路由号码。
  • 政府证件号码: 美国的社会安全号码(SSN)、加拿大的社会保险号码(SIN)、驾照或护照号码。
  • 客户健康信息,如果您是诊所、牙医或其他医疗服务提供者(见下文)。
  • 完整的客户或患者名单,含姓名、邮箱或电话号码。
  • 员工记录: 薪酬、绩效评估、纪律处分、医疗记录。
  • 任何受保密协议约束的内容,以及尚未公开的合同和交易。

Google 对自家聊天应用说得很直白:

"Please don't enter confidential information that you wouldn't want a reviewer to see" (Gemini Apps Privacy Hub) 译文:“请不要输入您不希望审核人员看到的机密信息”

原因是:“Human reviewers (including trained reviewers from our service providers) review some of the data we collect”(人工审核人员,包括我们服务提供商中受过培训的审核人员,会审核我们收集的部分数据),而且“Reviewed chats are retained for up to three years”(经过审核的对话最多保留三年),即使您删除了历史记录也是如此(Gemini Apps Privacy Hub)。

ChatGPT 会用您输入的内容训练模型吗?

个人套餐默认会,企业套餐默认不会。您用的是哪种设置,比用哪个品牌更重要:

产品和套餐默认用于训练吗?来源
ChatGPT Free、Plus、Pro会:“data sharing is enabled by default”(数据共享默认开启)。在“设置 > 数据控制”中关闭“Improve the model for everyone”(为所有人改进模型)OpenAI Help Center: Data controls in ChatGPT
ChatGPT 临时对话不会,但“may be retained for up to 30 days for safety purposes”(出于安全目的可能保留最多 30 天)同上
ChatGPT Business、Enterprise、Edu、API不会,默认不用同上
Claude Free、Pro、Max只有在您允许时才会,另外被标记为需安全审核的对话也会Anthropic Privacy Center(个人版)
Claude for Work、Anthropic API不会:“By default, we will not use your inputs or outputs from our commercial products”(默认情况下,我们不会使用您在我们商业产品中的输入或输出)Anthropic Privacy Center(商业版)

有一个陷阱:在 ChatGPT 个人套餐中,给回答点赞或点踩,会让 OpenAI 可以把整段对话用于训练,即使您已选择退出(OpenAI Help Center)。Anthropic 对反馈也有同样的说明。关闭训练也不会删除任何内容;对话需要单独删除。小团队适合哪种套餐,请看适合小企业的 AI 工具。

训练只是其中一种风险。设置挡不住员工粘贴客户名单,也挡不住人工审核或账户被盗。不把数据放进去,才是您唯一能完全掌控的防线。

怎样安全地让 AI 工具访问您的账户?

通过平台自己的授权页面连接,并使用能完成工作的最低角色。绝不要交出密码。Google 的广告、分析和搜索工具都为此设计了角色:

账户读取和报告的最低角色允许其做修改的角色留给您自己
Google Ads只读:“Can view campaigns and use planning tools”(可以查看广告系列和使用规划工具)标准:“Can edit campaigns”(可以编辑广告系列)管理员和结算
Google Analytics查看者;如果用不到,再加上“无成本指标”和“无收入指标”限制营销人员(受众和事件)管理员
Search Console受限用户:“Has simple view rights on most data”(对大部分数据有简单查看权限)完整用户:“Has view rights to all data and can take some actions”(可查看所有数据并执行部分操作)所有者

角色说明的原文来自 Google Ads Help、Google Analytics Help 和 Search Console Help。

管理员可以添加和删除用户。结算角色,以及 Google Ads 的标准角色,都可以编辑结算信息。AI 工具很少需要这些权限。先从只读开始,只有当工具必须做一项您已同意的修改时,才升一级。工具什么时候应该自己动手这个更大的问题,见AI 智能体工具与聊天机器人的区别。

给 AI 账户本身开启两步验证:任何人一旦登录,就能读到所有保存的对话。

每隔几个月检查一次已连接的应用。在您的 Google 账号中打开已关联应用页面,选择 Access to your Google Account(可访问您 Google 账号的应用),选中该应用,打开详情,再点 Remove access(移除访问权限)。Google 表示:“If you remove access, the app can't access your Google Account”(移除访问权限后,该应用将无法访问您的 Google 账号)(Google Account Help)。

粘贴之前怎样去掉个人信息?

五步,不到一分钟:

  1. 导出汇总,而不是逐行明细。 按服务或城市统计的月度数量,和逐个客户的明细一样能说明问题。
  2. 上传表格前,删掉姓名、邮箱、电话和地址列。
  3. 用身份代替姓名: “客户 A,北区的一位房主”。
  4. 把可能识别出某人的数字取整: 写“大约 $2,000 的活”,而不是发票。
  5. 按回车前把粘贴内容读一遍。 签名和邮件页脚里常藏着电话号码。

加拿大联邦隐私监管机构——加拿大隐私专员办公室(OPC)要求使用生成式 AI 的组织,在可能且合理的情况下“use anonymized or de-identified information within prompts”(在提示词中使用匿名化或去标识化的信息)(Office of the Privacy Commissioner of Canada,2023 年 12 月)。它还表示,除非法律要求,提示词不应被“retained, used for secondary purposes, or disclosed”(保留、用于其他目的或披露)。

规则更严格。在美国,受 HIPAA(联邦健康隐私法)约束的诊所或牙科诊所,如果让外部在线服务处理患者数据,必须先签合同:

"the covered entity (or business associate) and the CSP must enter into a HIPAA-compliant business associate agreement (BAA)" (HHS: Guidance on HIPAA and Cloud Computing) 译文:“受管实体(或业务伙伴)与 CSP 必须签订符合 HIPAA 的业务伙伴协议(BAA)”

CSP 指云服务提供商,包括会存储您输入内容的 AI 软件。没有这份协议,就完全不要放入患者信息。网站跟踪也有同样的风险:见诊所网站上的 Meta 像素和 Google Analytics。

律师事务所、会计师和理财顾问:在把任何客户文件放进 AI 工具之前,先查看您所属专业机构的保密规定。在那之前,不放姓名,不放文件。

示例

一家水管公司整理广告账户

老板想让 AI 找出每月约 $1,500 的 Google Ads 浪费支出。他导出了 90 天的搜索字词报告,并给工具只读权限。工具标出了 40 个无关的搜索,他自己把它们加为否定关键词。没有共享登录信息,也没有开放结算权限。

一家牙科诊所回复评价

前台把一条 2 星评价粘贴到聊天应用里,并写上“患者等了 40 分钟;那天我们少了一位洁牙师”。没有患者姓名,没有治疗细节。草稿为等待时间道歉,并邀请评价者给诊所打电话。

一位记账师规划内容

她把服务清单和已公布的价格交给 ChatGPT,再加上“大多数来电来自 3 月的餐馆”。她的客户名单留在会计软件里。她用的是 Business 套餐,所以默认不训练,但她仍然不放客户文件。

常见问题

把表格上传到 ChatGPT 安全吗?

删掉能识别个人的列之后就安全了。先删除姓名、邮箱、电话号码和地址,或者改为导出汇总而不是逐行明细。

关闭训练后,ChatGPT 就是私密的吗?

不是。它只会让新对话不再用于训练模型,但对话仍保留在您的历史记录中,您给出的反馈也仍可能被使用。不想保留的对话请删除。

我应该把 Google 密码给 AI 工具吗?

不应该。通过 Google 自己的页面授权(在 Google Ads、Analytics 或 Search Console 中分配一个角色),您随时可以撤销,而且不用改密码。

员工可以用个人 ChatGPT 账户办公吗?

可以,但企业无法管控这些账户,而且 ChatGPT 个人套餐默认会用对话训练。把员工可以粘贴什么、不可以粘贴什么写下来。

您的情况不同?

继续阅读

下一篇如何审核 AI 工具:团队使用前的安全检查清单员工使用任何 AI 工具前要做的八项安全与合规检查,并以 Grok 图片编辑事件说明供应商跳过这些检查的后果。

问我们一个问题

一句话就够。我们会通过电子邮件回复。

出处

  1. OpenAI Help Center: Data controls in ChatGPT
  2. Gemini Apps Privacy Hub
  3. Anthropic Privacy Center: Is my data used for model training? (consumer)
  4. Anthropic Privacy Center: Is my data used for model training? (commercial)
  5. Google Ads Help: About access levels in your Google Ads account
  6. Google Analytics Help: Access and data-restriction management
  7. Search Console Help: Manage owners, users, and permissions
  8. Google Account Help: Manage connections between your Google Account and third parties
  9. HHS: Guidance on HIPAA and Cloud Computing
  10. Office of the Privacy Commissioner of Canada: Principles for responsible, trustworthy and privacy-protective generative AI technologies (December 7, 2023)