AI智能体该像员工一样治理,但别假装它们是人
作者: CBISMB
责任编辑: 邹大斌
来源: CBISMB
时间: 2026-09-18 16:07
浏览: 0
点赞: 0
收藏: 0
最新加入企业劳动力大军的这位成员,从不睡觉,从不要求加薪,还能在午饭前被克隆出无数个副本。它同样可以在无人察觉的情况下,自信满满地做出成千上万次错误决策。
这在一定程度上解释了,为什么一些技术负责人开始把AI智能体称作“员工”“同事”或“实习生”,而不是软件。一旦智能体能够更新记录、发起退款、发送沟通信息,或者跨多个企业系统执行操作,部署它看起来就不再像是安装又一个应用那么简单了。
《哈佛商业评论》近期的一系列文章把这一类比推得更远。其中一篇主张,智能体应当被当作一支新的劳动力来对待,为它们明确角色、权限、权威信息来源、监督机制和审计轨迹。另一篇则建议给智能体起名字、写岗位说明、做入职引导、评估其绩效,并在它们证明自己之后逐步扩大职责范围。
但这里有个陷阱:人们可能会开始真的相信这个隐喻。
《哈佛商业评论》另一项针对1261名管理者的研究发现,当AI被界定为“员工”而非“工具”时,那些有AI智能体使用经验的管理者,会对结果承担更少的个人责任,同时把更多责任推给AI。他们还会上报更多问题,但发现的错误反而更少。在这项研究中,31%的受访者表示其公司已经把AI界定为“队友”或“员工”,另有23%的人表示智能体已经出现在组织架构图或工作分工图上。
对IT负责人来说,答案或许是:大方借用员工管理的整套方法,但不要把这一隐喻延伸得太远。
不要把软件写进组织架构图
IDC集团副总裁Amy Loomis在一个词上划出了硬边界:责任。
她说,人类对公司和彼此负有义务,并且具备对企业文化与价值观的理解——智能体可以在语言层面模仿这种理解,但并不真正拥有它。
这使得把智能体称为“同事”可能不只是无害的拟人化。Loomis说,这个标签暗示了一种同侪关系,可能促使人们把判断权让渡给一个非常擅长“给出你所要的东西”、却不一定能识别“你真正需要什么”的系统。
“责任具有一些专属于人类的特质,”她说,“智能体可能被授予访问数据的权限,但它如何使用这些访问权限的责任,在于授予它权限的人,而不是智能体本身。”
这一区分仍然留下了大量可以从员工管理中借鉴的东西。给智能体可追溯的访问权限和严格限定的许可范围是合理的,同时还应设置一个“急停开关”,以便随时切断智能体的持续访问。但Loomis认为,更有效的做法是为智能体制定一份“运营章程”,而不是赋予它人类身份:明确这个系统做什么、可以访问什么、以及哪些事项仍由人类负责。
换句话说,给智能体一张门禁卡,但别在上面贴它的照片。
员工隐喻自有其用处
Raja Iqbal是智能体AI治理公司Ejento AI的创始人,也是《哈佛商业评论》文章《要让AI智能体规模化落地,就把它们当作团队成员》的合著者。他的立场其实比标题看起来更接近Loomis。
Iqbal说,这个隐喻的目的是让CIO、CISO等技术负责人进入正确的“认知姿态”。他认为,把智能体当作团队成员来思考,可以提醒企业施加那些熟悉的管理约束:唯一身份、清晰的人工监督、明确权限、支出限额、经批准的信息来源,以及审计轨迹。如果换一个说法也能产生同样的纪律性,他也完全可以接受。
事实上,Iqbal明确反对那种拥有拟人化人格、在组织架构图上占据席位的“合成员工”。这恰恰会制造批评者所担心的责任问题:“是Bob干的”变成了借口——尽管Bob只是软件。
“当隐喻只是装饰性的,它就是危险的,”Iqbal说。他的意思是,企业如果只采纳了人类的表面特征——名字、人格、同事式的称谓——却没有同时施加监督、限制和责任机制,就会陷入麻烦。他更倾向于一个更简单的区分:智能体需要一个技术身份,以便企业能够复原它做过什么;而人类必须为这些行为负责。“身份是审计的原语,人类所有者是责任的元语,”他说。更直白地说:智能体身份回答“是谁在行动”,人类所有者回答“由谁负责”。
在决定该给智能体多大自由度时,员工类比又变得有用起来。Iqbal建议采用“渐进式自主权”。智能体可以从“每一步操作都需人工批准”开始,进阶到独立执行低风险操作,如果观察到的表现足以支撑,最终获得有边界的自主权。一旦出现严重错误,它可以被降级——或者干脆被请出门外。
听起来很像新员工的试用期。而对一个概率性系统来说,这本来也就是良好的软件治理。
在DXC,专业智能体就是软件
Russell Jukes有充分的机会去检验这一区分。作为DXC Technology的首席数字与信息官,他在一家拥有约11.5万名员工的IT服务企业中掌管AI事务。
“我们把AI智能体看作一种超级能力,而不是一个人,”他说。
DXC把智能体分为两类。“个人智能体”为个别员工服务,通常使用该员工的身份和访问权限运作。“专业智能体”则是为更广泛的工作流程而构建的企业系统。在DXC的一个主要AI平台上,员工目前已经创建了大约8000个个人智能体,而专业智能体只有约100个。
专业智能体受到严格得多的监督。它可以拥有自己的非人类身份、凭据、权限和权限边界。其活动会经过控制平面,让DXC能够看清智能体在做什么,并在必要时将其关停。
Jukes认为,这类智能体中的许多最终会彻底从用户视野中消失。智能体可以在一夜之间扫描内部资源需求,并为项目推荐合适的员工。没有人需要在早上跟它打招呼,也不必把它当成同事;人们只是拿到结果。
这正是他与“员工隐喻”分道扬镳的地方。
Jukes说,他很早就认识到,AI不能像传统SaaS那样部署。他的第一次尝试遵循了熟悉的软件模式:把应用开放出来,让员工在规定的工作流中使用它,然后期待自然形成使用习惯。“我照做了,结果没人用,”他说。这段经历让他确信AI需要不同的方法,他发誓“再也不像部署SaaS那样部署AI”。
传统SaaS在很大程度上是确定性的:软件把用户约束在既定工作流中,并产生可预测的输出。智能体AI则不同。它可以解读目标、在工具和数据源之间做出选择,并决定如何达成结果。对Jukes而言,这意味着CIO必须围绕智能体去设计策略、权限、数据访问、护栏和授权边界,而不是简单地再部署一个应用。
这同时带来了一条更清晰的责任链。Jukes说,如果某个人批准了智能体的操作,那么这个人就拥有该决策;如果自主智能体按照某项业务策略行事,责任属于对这项策略负责的人;如果技术未能按设计运行,责任则转移到IT部门。
智能体本身,永远不会被追责。
也许还是当作实习生看待
Quadient是一家自动化技术公司,其全球CIO Nina Tatsiy的立场介于Iqbal和Jukes之间。她把智能体称为“实习生”,但有意把它当作一种类比,而不是组织上的称谓。
智能体必须作为软件来管理,具备安全、治理和技术控制,同时要认识到其概率性行为需要额外的监督。“你必须两者都做,”Tatsiy说。
实习生不会在上班第一天就拿到所有密码和授权,智能体也不应该。它必须经历入职、训练、观察,在环境变化时重新训练,并在过时后被淘汰退役。
Quadient通常避免给智能体起人类名字。Tatsiy担心这会促使人们把它们视为具备判断力的真实同事。
“过度信任是个问题,”她说,尤其因为AI往往以极其笃定的口吻陈述结论。Tatsiy更倾向于用AI去挑战某个假设,或者挖掘人们未曾考虑的问题,而不是让它替人下结论。
不过,实习生类比在运营层面确实被证明有用。
在一个应付账款部署中,Quadient让一个智能体实际“跟随”人类员工工作,并在不同场景中从他们的反馈里学习。只有在它的表现经过复杂度不断提升的测试之后,它才开始提供建议。最终决策仍然由人类做出。
换句话说,这个智能体赢得了更多信任,但它没有赢得责任。
借鉴HR,但让人类掌舵
因此,正在浮现的分野,可能并不在于智能体究竟是员工还是软件,而在于IT负责人应当保留两种管理模型中各自的哪些部分。
智能体需要独立的技术身份,但不需要人类身份。它们需要明确的职责,但不是人类意义上的“岗位”。它们需要监控和评估,但不需要年度绩效面谈。它们可以获得逐步扩大的权限,但不会获得逐步扩大的责任。
而且,它们越强大,这一区分就越重要。
把自主智能体当作普通SaaS来对待,忽视了它能够以传统软件无法做到的方式去解读、选择和行动。而把它当作“会计部的Steve”来对待,则会带来另一个问题:迟早会有人开始默认“Steve”知道自己在干什么。
随着智能体AI在企业中扩散,IT负责人或许确实需要大量借鉴HR的做法。只是,他们不该开始给智能体发员工工牌。