领先AI公司在如何保障日益强大的模型安全这一问题上的分歧正在扩大，并开始转化为企业IT的现实挑战，影响企业获取、部署和治理AI系统的方式。

最新的引爆点来自Meta首席执行官马克·扎克伯格。他呼吁由中立的评估方独立测试AI模型，反驳了竞争对手提出的放缓开发或加强协调的主张。

"信任与对齐正在迅速成为区分智能体和模型的最重要能力。任何不关注对齐的实验室都会落后，"扎克伯格在X上的一篇帖子中写道。

"引入独立评估者和顾问是行业最佳实践，"他补充说，并指出Meta已在多个领域这样做。

他的表态之前，AI行业领袖们已提出一系列公开主张，包括Dario Amodei（主张更审慎的开发节奏）和Sam Altman（呼吁在安全标准上开展合作）。

这一争论之所以升温，是因为AI实验室和政策制定者陆续披露了先进系统可能被滥用的情况。Anthropic表示已限制在敏感领域使用其Claude模型的尝试，OpenAI则就AI相关风险与政策制定者进行了接触。

企业层面的担忧

虽然辩论常被框定为"放缓创新"与"加强监管"之间的选择，但分析师表示，企业与其关注哪种路线占上风，不如关注已经在成形的运营后果。

"安全路线的分化将使先进AI模型的获取变得更不可预测，而不是带来全行业的放缓，"Gartner总监分析师Sushovan Mukhopadhyay表示。他说，供应商很可能会采用不同的发布节奏、区域可用性、访问层级和使用限制，这意味着企业可能"在不同时间、在实质上不同的条件下"遇到相似的能力。

Mukhopadhyay表示，企业应该为获取方式的可变性做好规划，而不是假定各家供应商或各个地区都能稳定供货。

"我把本周看作前沿AI变成'受管供给'的节点，"Kanerika首席营收官Bhupendra Chopra表示。"三年来，CIO们可以假定下一个模型自然会到来。而现在，前沿模型的行为更像来自供应商的一个关键组件，其交付日期部分取决于外部评审方和出口规则。"

Chopra补充说，"任何建立在'某个特定模型将在某个特定日期到来'之上的AI路线图，都背负着它尚未定价的供应风险。"

即便放缓，安全压力仍在上升

分析师表示，仅靠放缓开发不太可能实质改变企业风险，尤其是在开源模型不断扩散的背景下。

"最关键的一点不是暂停本身，而是AI公司的领导者们正在某些事情上达成一致，"ArmorCode创始人兼首席执行官Nikhil Gupta表示。

Gupta说，威胁态势已经改变。"即便这些公司暂停，开源AI模型也已经在外面了，"他说。"我并不认为让部分公司放慢脚步，能实质改变攻击者能做什么。"

"即便AI开发明天就放缓，安全也必须加速，"Gupta补充说。"保障这些系统的工作，难度实际上已经增加了十倍。"

新的"AI保障"层正在出现

对评估的关注，正在推动所谓"AI保障"层的出现——由第三方对模型的安全性与合规性进行评估。

"一个独立的AI保障层很可能会出现，但企业不应指望靠单一认证来确立某个AI系统是安全的，"Mukhopadhyay说。"企业风险还取决于数据、系统指令、工具、智能体和部署控制。"

Chopra表示，企业存在误读这类评估的风险。"采购团队可能会看到一份第三方评估，就把这个模型当作已经过审查，"他说。"一年之内，它就变成一个勾选框。"

他认为，企业需要自行开展验证。"走在前面的是那些在模型进入生产环境之前，用自家数据逐一测试的CIO。"

碎片化与韧性建设

对于推行多供应商战略的CIO来说，各家供应商不同的路线可能带来额外复杂性。

"碎片化原本就是常态，安全路线的分歧让它更深了，"Chopra说。

他表示，风险在切换时最为突出。"对于运行多个模型的企业来说，风险敞口就在交接环节，"他说。"当一个模型被推迟或被替换时，系统的行为可能变得不一样。"

"我会把未经测试的模型替换排在供应商锁定之前，"Chopra说。

Gupta表示，开放架构将很重要。"框架需要是开放的，而不是锁定在某一家供应商上，"他说。Mukhopadhyay则补充说，企业应该为模型变得不可用或被限制做好准备。

分析师表示，企业需要设计能够适应可用性、定价和治理变化的AI战略。

"对于关键应用，CIO应该把应用控制和业务逻辑同底层模型分离开来，"Mukhopadhyay说。

Chopra强调灵活性。"在应用和模型供应商之间加一层路由层，能把切换变成配置工作，"他说，并补充说合同中应覆盖模型的弃用时间线。

他还提到定价影响。"对前沿能力的稀缺获取，将开始产生溢价，"Chopra说。