哪些内容能放心交给AI?删掉姓名远远不够

作者: CBISMB

责任编辑: 邹大斌

来源: CBISMB

时间: 2026-11-17 11:08

浏览: 1

点赞: 0

收藏: 0

排查软件故障时,一条报错信息往往是最初的线索。但萨万特(Bhaskar Bharat Sawant)每次都要多想一步:这条报错,有多少能安全地交给AI?

萨万特是建材制造商Cornerstone Building Brands的首席工程师兼解决方案架构师,手上既有遗留系统,也有新技术。生成式AI能帮他解释报错、指出下一步,但要让它看懂问题,输入的内容可能带出个人可识别信息、客户的商业机密,或者公司自己的专有信息。

他说:“日志和报错信息会暴露内部服务名、配置细节或者业务流程。这些信息不管是雇主的还是客户的,你都得保护。”

客户姓名是一眼就能认出的标识。方法名、文件路径、系统之间的请求顺序就没那么显眼了。可这些细节拼在一起,足以暴露一个应用怎么运转、一门生意怎么运作——哪怕里面没有一个人能被认出来。

萨万特的办法是另造一个更小的、虚构版本的问题。“我用编造的数据写一段能复现问题的小代码,”他说,“然后问自己:公司外面的人能不能从这段代码里拼出专有信息?能的话,我就再简化,或者干脆不放进AI工具里。”

这套流程本身就要花判断力和时间,AI才开始帮他省时间。这也正是一句简单的职场规定——“不要把机密或敏感信息交给生成式AI”——背后真正的难处:员工得把这句话翻译成具体工作里的决定,而且往往还得赶着交活。

删掉姓名之后,还剩下什么

员工能意识到要保护信息,却仍然看不出自己交出去了什么。盖奇(Julian Gage)通过Engage Compliance提供兼职数据保护官服务,他记得曾为一家健康科技公司做顾问:一名员工把含诊疗记录和诊所客户编号的表格,上传到了一个未经公司批准的AI服务。

这些记录里没有患者姓名,但每个客户编号都能反查到一个具体的人。

“把姓名换成客户编号,信息并不会因此变成匿名,”他说,“能拿到诊所记录的人,照样能确认这些诊疗记录是谁的。”

会议转录有同样的问题。删掉同事的名字用处不大——如果讨论里提到了某人缺席、某次治疗,或者其他能让人对号入座的情形。

盖奇说:“你得看内容,不能只看名字。如果人们能把点连起来认出是谁,你就没做到匿名。”

附件更容易漏东西。截图里可能包含被分析段落之外的识别性细节;表格里可能藏着看不见的列,跟着文件一起传了上去;自动化连接还可能在没人审阅、没人脱敏之前,就把会议转录直接送进AI服务。

萨万特的应对是先自己查:在受控的开发环境里复现问题、看清报错细节、定位出问题的组件。“如果把问题交给外部AI服务需要带太多敏感上下文,我就继续用内部资源排查,而不是把这些信息交出去。”

即便做了这些防范,员工有时还是得放弃AI,靠自己把活干完。

“已批准的工具”,批准的是什么

公司提供的工具看起来能绕开这个两难:上下文保住了,环境是批准的,活也能干下去。

但萨万特照样会去摸边界。“已批准的AI工具不是随便什么信息都能往里塞的通行证,”他说,“你还是得搞清楚它被批准处理哪类数据、你输入的内容怎么存怎么用、谁能看到这段对话。”

盖奇认为,这些问题该由雇主在员工撞上之前解决掉。供应商合同、数据处理条款、模型训练安排、访问控制、留存设置,都属于组织层面该审的事。

审完的结果要交到员工手上,而且得是可用的形式:用哪个账号、哪些任务允许用、什么信息能放进去。“只要合同和防护到位,用AI处理个人信息和商业机密是有办法的,”盖奇说。

与此同时,选错路子的后果由员工承担——哪怕他自以为那些信息本身无关紧要。

用错工具,可能丢掉工作

克劳斯科普夫(Howard Krauskopf)是芝加哥的诉讼律师,在AskaLawyerOnCall和JustAnswer上回答这类法律问题。他遇到过一个案例:一位心理治疗师因为账单积压,用ChatGPT做了一个表格框架——尽管雇主已经要求员工改用另一个经批准的工具。

据克劳斯科普夫说,这位治疗师告诉他,自己并没有输入任何客户机密信息。他帮她向雇主说明经过、承认了失误。

她还是被解雇了。

这个案例说明了一个员工很容易忽略的区别:不泄露信息,和遵守职场规定,是两件各自独立的义务。更根本的是,克劳斯科普夫提醒,在美国,雇主通常不需要证明员工有不当行为,就可以解雇随意雇佣制(at-will)员工——法律限制和合同保护另算。

“用之前先问,而且把问题写成文字,”他说,“万一出事,你能拿出你问过什么、收到了什么指示、以及你凭什么认为自己是在照规矩办。”

把指示留档,也许能帮员工说服雇主重新考虑,尽管这并不保证法律上的保护。怎么呈现这份记录也有讲究。

克劳斯科普夫建议平静地说明情况,强调自己一贯的表现和留下来的意愿。“别攻击对方,”他说,“就解释:‘我是按公司的指示做的,这是我做的事。我喜欢在这里工作,请你考虑这一点。’”

按他的经验,大机构更可能有正式流程和管理层级,让员工有机会申诉;小公司里,结果更直接取决于老板或某位管理者。两种环境都不保证你能得到一个同情的倾听。

这就意味着,员工需要的不只是一句“出事了会怎样”的警告,而是能在问题发生前帮他们做出正确判断的指引和防护。

该由员工承担多少判断

在保险集团Group 1001的首席技术与安全官肯尼迪(Chris Kennedy)看来,光有一份书面政策不够。“有多少人会去翻政策,而不是直接问‘这种情况我该怎么办’?”他说。

“我从没指望一句政策表述能替员工把脑子动完,”他说,“我们的做法是先写原则,再用案例和培训告诉大家这些原则怎么用。”

原则还需要技术支撑。在Group 1001,数据分级和访问控制决定谁能用哪类信息,数据防泄漏则管住信息能流到哪里。肯尼迪说,公司正在持续整合数据、给敏感信息打标,好让这些控制能识别并保护它们;监控和事件响应则负责发现和处理问题。

员工要留多少判断,取决于岗位。任务可预测的地方,肯尼迪希望公司事先把边界划好。“对于任务界定得很窄的操作类岗位,我们希望把工具和控制都配好,让员工不必自己去决定哪些数据能去哪儿。”

而开发人员、探索新产品或投资策略的团队,面对的判断就没那么可预测。随着工作推进,他们可能造出一些专有信息,其价值和保护需求在最初并不明显。这些人需要能持续找到管理者和治理专家,一起判断这些信息怎么和AI一起用。

就连日常工作也会变——现有软件一加AI功能就变了。员工可能根本没主动开通什么新服务,却突然多出一个助手或者自动化功能。“你现有的第三方技术突然冒出一堆AI新功能,你怎么办?”肯尼迪问。

公司需要说明哪些用法允许,监测员工实际怎么用,并在新功能和新工作方式出现时更新指引和控制。

让安全的选择变得可行

在萨万特看来,规则有没有用,取决于它周围有多少支撑。“求助其实挺难的,因为这些问题往往正好出现在解决问题当中,”他说,“有用的是带着我这个岗位实际案例的清晰指引,以及遇到难判断的情况时,能去找安全或数据治理的某个人。”

管理者也得接受:谨慎的决定会花时间。“员工应该可以坦然地说,这件事慢了,是因为在等指引或者等审批,”萨万特说,“我们得给出实际的支持,别让人卡在那儿,或者担心自己是不是做错了。”

©本站发布的所有内容,包括但不限于文字、图片、音频、视频、图表、标志、标识、广告、商标、商号、域名、软件、程序等,除特别标明外,均来源于网络或用户投稿,版权归原作者或原出处所有。我们致力于保护原作者版权,若涉及版权问题,请及时联系我们进行处理。
地址:北京市朝阳区北三环东路三元桥曙光西里甲1号第三置业A座1508室 电话:13391790444或(010)62178877
版权所有:电脑商情信息服务集团 北京赢邦策略咨询有限责任公司
声明:本媒体部分图片、文章来源于网络,版权归原作者所有,我司致力于保护作者版权,如有侵权,请与我司联系删除

京ICP备:2022009079号-2

京公网安备:11010502051901号

ICP证:京B2-20230255