领先AI公司之间，围绕"如何保障日益强大的模型安全"的分歧正在扩大，并开始转化为企业IT的现实挑战，进而影响企业获取、部署和治理AI系统的方式。

最新的引爆点是Meta CEO马克·扎克伯格呼吁由中立的评估方独立测试AI模型，以此回应竞争对手们"放慢开发节奏"或"加强协调"的主张。

"信任与对齐正在迅速成为区分智能体和模型的最重要能力。任何不重视对齐的实验室都会落后。"扎克伯格在X上发文写道。

"引入独立评估方与顾问是行业最佳实践，"他补充说，并指出Meta已在若干领域这么做。

他的表态之前，AI业界领袖已提出一系列公开主张：达里奥·阿莫代伊主张采取更审慎的开发节奏，萨姆·奥特曼则呼吁在安全标准上开展协作。

在AI实验室与政策制定者披露先进系统可能被滥用的情况后，这场辩论进一步升温。据公司声明与相关报道，Anthropic表示已限制其Claude模型在敏感领域的部分使用尝试，OpenAI则就AI相关风险与政策制定者保持沟通。

一、企业的担忧

尽管这场辩论常被描述为"放慢创新"与"加强监管"之间的二选一，但分析师认为，企业不该纠结哪种主张会胜出，而应更多关注已经在成形的运营后果。

"安全路线的分化不会带来全行业放缓，而是会让先进AI模型的获取变得更难预测。"Gartner总监分析师苏肖万·穆霍帕迪亚伊说。他表示，厂商很可能采用不同的发布节奏、区域可用范围、访问层级和使用限制，这意味着企业可能"在不同时间、在实质不同的条件下"遇到相似的能力。

穆霍帕迪亚伊说，企业应当为"获取方式的可变性"做规划，而不是假定不同厂商、不同地区之间供给一致。

"在我看来，本周标志着前沿AI变成了一种受管制的供应。"Kanerika首席营收官布彭德拉·乔普拉说。"过去三年，CIO们可以假定下一代模型自然会到来。而如今，前沿模型更像来自某个供应商的关键部件——其交付时间部分取决于外部评审方和出口规则。"

乔普拉补充说："任何建立在'某个特定模型将在某个特定日期到来'之上的AI路线图，都承担着尚未被定价的供应风险。"

二、无论是否放缓，安全压力都在上升

分析师表示，仅靠放慢开发不太可能实质改变企业面临的风险，尤其是在开源模型不断扩散的情况下。

"最关键的不是暂停本身，而是AI公司的领导者们终于在某个问题上达成了一致。"ArmorCode创始人兼CEO尼基尔·古普塔说。

古普塔说，威胁格局已经改变。"即便一些公司按下暂停键，开源AI模型也早已流出，"他说，"我不认为让部分公司放慢脚步，就能实质性改变攻击者能做什么。"

"即便AI开发明天就放缓，安全也必须加速，"古普塔补充道，"保护这些系统的工作，难度实际上已经增加了十倍。"

三、新的"AI保障"层浮现

对评估的重视，正推动分析师们所说的"AI保障"层浮现——由第三方对模型的安全性与合规性进行评估。

"一个独立成型的AI保障层很可能会出现，但企业不应指望靠单一认证来证明某个AI系统是安全的，"穆霍帕迪亚伊说，"企业风险还取决于数据、系统指令、工具、智能体以及部署控制措施。"

乔普拉说，企业有可能误读这类评估。"采购团队可能看到一个第三方评估，就把模型当成已通过审查，"他说，"一年之内，它就会变成表格上的一个勾选项。"

他认为，企业需要自行开展验证。"领先一步的CIO，会在模型进入生产环境之前，用自家数据对每一个模型进行测试。"

四、碎片化让多模型策略更复杂

对于采取多厂商策略的CIO来说，不同供应商之间的路线差异会带来额外的复杂性。

"碎片化本来就是常态，安全路线的分化让它更深了。"乔普拉说。

他说，风险在切换时最为突出。"对于同时运行多个模型的企业，风险敞口就藏在交接环节，"他说，"当某个模型被延迟或替换，系统行为可能就变得不一样。"

"我会把'未经测试就替换模型'排在厂商锁定之前。"乔普拉说。

古普塔说，开放架构将很重要。"框架需要是开放的，不能被锁定在任何一个厂商身上，"他说。

穆霍帕迪亚伊补充说，企业应为"模型可能下架或受限"做好准备。

五、CIO们被建议构建韧性

分析师表示，企业需要设计能够适应可用性、定价和治理变化的AI战略。

"对于关键应用，CIO应当把应用控制与业务逻辑，同底层模型分离开来，"穆霍帕迪亚伊说。

乔普拉强调灵活性。"在应用与模型供应商之间加一个路由层，就能把'切换'变成配置工作，"他说，并补充道，合同应当覆盖模型淘汰的时间表。

他还提到定价方面的影响。"前沿模型的稀缺访问权，开始带有溢价。"乔普拉说。