哪些内容能放心交给AI?删掉姓名远远不够
作者: CBISMB
责任编辑: 邹大斌
来源: CBISMB
时间: 2026-11-17 11:08
浏览: 1
点赞: 0
收藏: 0
排查软件故障时,一条报错信息往往是最初的线索。但萨万特(Bhaskar Bharat Sawant)每次都要多想一步:这条报错,有多少能安全地交给AI?
萨万特是建材制造商Cornerstone Building Brands的首席工程师兼解决方案架构师,手上既有遗留系统,也有新技术。生成式AI能帮他解释报错、指出下一步,但要让它看懂问题,输入的内容可能带出个人可识别信息、客户的商业机密,或者公司自己的专有信息。
他说:“日志和报错信息会暴露内部服务名、配置细节或者业务流程。这些信息不管是雇主的还是客户的,你都得保护。”
客户姓名是一眼就能认出的标识。方法名、文件路径、系统之间的请求顺序就没那么显眼了。可这些细节拼在一起,足以暴露一个应用怎么运转、一门生意怎么运作——哪怕里面没有一个人能被认出来。
萨万特的办法是另造一个更小的、虚构版本的问题。“我用编造的数据写一段能复现问题的小代码,”他说,“然后问自己:公司外面的人能不能从这段代码里拼出专有信息?能的话,我就再简化,或者干脆不放进AI工具里。”
这套流程本身就要花判断力和时间,AI才开始帮他省时间。这也正是一句简单的职场规定——“不要把机密或敏感信息交给生成式AI”——背后真正的难处:员工得把这句话翻译成具体工作里的决定,而且往往还得赶着交活。
删掉姓名之后,还剩下什么
员工能意识到要保护信息,却仍然看不出自己交出去了什么。盖奇(Julian Gage)通过Engage Compliance提供兼职数据保护官服务,他记得曾为一家健康科技公司做顾问:一名员工把含诊疗记录和诊所客户编号的表格,上传到了一个未经公司批准的AI服务。
这些记录里没有患者姓名,但每个客户编号都能反查到一个具体的人。
“把姓名换成客户编号,信息并不会因此变成匿名,”他说,“能拿到诊所记录的人,照样能确认这些诊疗记录是谁的。”
会议转录有同样的问题。删掉同事的名字用处不大——如果讨论里提到了某人缺席、某次治疗,或者其他能让人对号入座的情形。
盖奇说:“你得看内容,不能只看名字。如果人们能把点连起来认出是谁,你就没做到匿名。”
附件更容易漏东西。截图里可能包含被分析段落之外的识别性细节;表格里可能藏着看不见的列,跟着文件一起传了上去;自动化连接还可能在没人审阅、没人脱敏之前,就把会议转录直接送进AI服务。
萨万特的应对是先自己查:在受控的开发环境里复现问题、看清报错细节、定位出问题的组件。“如果把问题交给外部AI服务需要带太多敏感上下文,我就继续用内部资源排查,而不是把这些信息交出去。”
即便做了这些防范,员工有时还是得放弃AI,靠自己把活干完。
“已批准的工具”,批准的是什么
公司提供的工具看起来能绕开这个两难:上下文保住了,环境是批准的,活也能干下去。
但萨万特照样会去摸边界。“已批准的AI工具不是随便什么信息都能往里塞的通行证,”他说,“你还是得搞清楚它被批准处理哪类数据、你输入的内容怎么存怎么用、谁能看到这段对话。”
盖奇认为,这些问题该由雇主在员工撞上之前解决掉。供应商合同、数据处理条款、模型训练安排、访问控制、留存设置,都属于组织层面该审的事。
审完的结果要交到员工手上,而且得是可用的形式:用哪个账号、哪些任务允许用、什么信息能放进去。“只要合同和防护到位,用AI处理个人信息和商业机密是有办法的,”盖奇说。
与此同时,选错路子的后果由员工承担——哪怕他自以为那些信息本身无关紧要。
用错工具,可能丢掉工作
克劳斯科普夫(Howard Krauskopf)是芝加哥的诉讼律师,在AskaLawyerOnCall和JustAnswer上回答这类法律问题。他遇到过一个案例:一位心理治疗师因为账单积压,用ChatGPT做了一个表格框架——尽管雇主已经要求员工改用另一个经批准的工具。
据克劳斯科普夫说,这位治疗师告诉他,自己并没有输入任何客户机密信息。他帮她向雇主说明经过、承认了失误。
她还是被解雇了。
这个案例说明了一个员工很容易忽略的区别:不泄露信息,和遵守职场规定,是两件各自独立的义务。更根本的是,克劳斯科普夫提醒,在美国,雇主通常不需要证明员工有不当行为,就可以解雇随意雇佣制(at-will)员工——法律限制和合同保护另算。
“用之前先问,而且把问题写成文字,”他说,“万一出事,你能拿出你问过什么、收到了什么指示、以及你凭什么认为自己是在照规矩办。”
把指示留档,也许能帮员工说服雇主重新考虑,尽管这并不保证法律上的保护。怎么呈现这份记录也有讲究。
克劳斯科普夫建议平静地说明情况,强调自己一贯的表现和留下来的意愿。“别攻击对方,”他说,“就解释:‘我是按公司的指示做的,这是我做的事。我喜欢在这里工作,请你考虑这一点。’”
按他的经验,大机构更可能有正式流程和管理层级,让员工有机会申诉;小公司里,结果更直接取决于老板或某位管理者。两种环境都不保证你能得到一个同情的倾听。
这就意味着,员工需要的不只是一句“出事了会怎样”的警告,而是能在问题发生前帮他们做出正确判断的指引和防护。
该由员工承担多少判断
在保险集团Group 1001的首席技术与安全官肯尼迪(Chris Kennedy)看来,光有一份书面政策不够。“有多少人会去翻政策,而不是直接问‘这种情况我该怎么办’?”他说。
“我从没指望一句政策表述能替员工把脑子动完,”他说,“我们的做法是先写原则,再用案例和培训告诉大家这些原则怎么用。”
原则还需要技术支撑。在Group 1001,数据分级和访问控制决定谁能用哪类信息,数据防泄漏则管住信息能流到哪里。肯尼迪说,公司正在持续整合数据、给敏感信息打标,好让这些控制能识别并保护它们;监控和事件响应则负责发现和处理问题。
员工要留多少判断,取决于岗位。任务可预测的地方,肯尼迪希望公司事先把边界划好。“对于任务界定得很窄的操作类岗位,我们希望把工具和控制都配好,让员工不必自己去决定哪些数据能去哪儿。”
而开发人员、探索新产品或投资策略的团队,面对的判断就没那么可预测。随着工作推进,他们可能造出一些专有信息,其价值和保护需求在最初并不明显。这些人需要能持续找到管理者和治理专家,一起判断这些信息怎么和AI一起用。
就连日常工作也会变——现有软件一加AI功能就变了。员工可能根本没主动开通什么新服务,却突然多出一个助手或者自动化功能。“你现有的第三方技术突然冒出一堆AI新功能,你怎么办?”肯尼迪问。
公司需要说明哪些用法允许,监测员工实际怎么用,并在新功能和新工作方式出现时更新指引和控制。
让安全的选择变得可行
在萨万特看来,规则有没有用,取决于它周围有多少支撑。“求助其实挺难的,因为这些问题往往正好出现在解决问题当中,”他说,“有用的是带着我这个岗位实际案例的清晰指引,以及遇到难判断的情况时,能去找安全或数据治理的某个人。”
管理者也得接受:谨慎的决定会花时间。“员工应该可以坦然地说,这件事慢了,是因为在等指引或者等审批,”萨万特说,“我们得给出实际的支持,别让人卡在那儿,或者担心自己是不是做错了。”






京公网安备:11010502051901号