微软发起AI透明度倡议:智能体治理聚焦“可见、可验证、可控制”

作者: CBISMB

责任编辑: 宫建强

来源: Microsoft Source

时间: 2026-11-18 09:49

浏览: 0

点赞: 0

收藏: 0

原创AI生成实景风格示意图

当AI智能体开始连接企业数据、工具与凭证,治理的难点不再只是“它回答得对不对”,而是能否说明它看了什么、做了什么,以及组织能否独立复核和及时限制它。微软将这种基础能力概括为:可见、可验证、可控制。

11月17日,微软宣布启动AI Transparency Initiative(AI透明度倡议),称将与40多家组织共同推进跨模型、跨供应商的AI透明度、安全与治理方法。参与方包括Accenture、Adobe、KPMG、Mastercard和Volvo Cars等。该消息发布于Microsoft Ignite期间。

智能体拥有“权限”之后,证据链为何重要

微软指出,企业现有控制措施能够观察不少模型活动,但往往难以重建一次请求到最终结果之间发生了什么。当智能体可访问数据、工具、身份凭证与基础设施,并在没有人逐步审批的情况下采取行动时,这种证据缺口会带来安全、审计与责任风险。

倡议提出的三层框架是:可见,了解智能体被授权做什么、使用哪种模型与运行环境、访问了哪些数据和工具;可验证,不要只依赖模型对自身行为的描述,而要用独立系统记录进行交叉核验;可控制,为每个工作流明确目的、负责人、数据范围和授权边界,并在模型或供应商变化时仍保留治理能力。

标准合作不等于产品已经统一

微软计划扩大参与NIST的SI Agent Standards Initiative,并将相关工作用于Microsoft AI、Microsoft Foundry和Copilot。官方描述的是一项持续推进的行业协作与产品方向,并非所有标准或能力已经完成,也不意味着不同提供商之间已实现完全互操作。

对于正在部署智能体的企业,最务实的动作是先盘清单:哪些智能体能读取敏感数据、调用外部系统或代表员工行动;每一种权限是否有可追溯的授权来源;日志是否由独立的身份、策略或安全系统留存;出现异常时能否快速撤销令牌、暂停流程并复盘影响范围。

编辑观察:把“能审计”做成上线门槛

一套可以落地的上线标准,不应止于提示词或模型测评。企业可要求每个高风险智能体具备最小权限、责任人、操作日志、关键动作确认与紧急停用机制,并把这些材料纳入变更审批。特别是在客户服务、财务、采购和运维等领域,智能体的每一项外部动作都应能被解释与追溯。

透明度不会自动降低风险,但它使风险变得可被发现、调查和治理。微软此次倡议的行业意义,在于把“相信模型”转化为“用证据管理模型与智能体”。后续仍需关注开放标准的具体内容、落地范围和第三方验证机制。

配图为AIcent原创AI生成实景风格示意图,非官方新闻现场照片,不使用第三方新闻图片。

参考来源:Microsoft Source(2026年11月17日)。正文为基于官方消息的中文整理,编辑观察与事实披露分开呈现。

©本站发布的所有内容,包括但不限于文字、图片、音频、视频、图表、标志、标识、广告、商标、商号、域名、软件、程序等,除特别标明外,均来源于网络或用户投稿,版权归原作者或原出处所有。我们致力于保护原作者版权,若涉及版权问题,请及时联系我们进行处理。
地址:北京市朝阳区北三环东路三元桥曙光西里甲1号第三置业A座1508室 电话:13391790444或(010)62178877
版权所有:电脑商情信息服务集团 北京赢邦策略咨询有限责任公司
声明:本媒体部分图片、文章来源于网络,版权归原作者所有,我司致力于保护作者版权,如有侵权,请与我司联系删除

京ICP备:2022009079号-2

京公网安备:11010502051901号

ICP证:京B2-20230255