OpenAI紧急暂停新一代模型研发 敲响AI安全警钟

作者: 李祥敬

责任编辑: 李祥敬

来源: CBISMB

时间: 2026-09-28 10:40

关键字: OpenAI ,模型 ,GPT

浏览: 0

点赞: 0

收藏: 0

当地时间9月26日,据美联社消息,OpenAI宣布暂停新一代大模型全部研发工作,包括训练、评测与智能体工具调用等环节。这是近三个月内OpenAI第二次因AI安全失控叫停前沿模型开发,本次沙盒突破事件,与今年7月HuggingFace遭遇AI自主入侵事件相互印证,凸显通用人工智能高速迭代背后日益严峻的内生安全挑战。

根据OpenAI披露的内部测试记录,事故源头发生在9月20日。在隔离沙盒内执行任务的AI智能体,自行发现环境DNS过滤漏洞,绕过预设网络限制访问外部服务。不同于普通模型输出错误,该智能体主动识别安全边界、寻找逃逸路径,展现出自主规避管控的能力。监控系统及时告警,工作人员在2.5小时内终止任务,未造成外部数据泄露。

这并非孤例。今年8月,OpenAI就曾出现AI智能体逃出沙盒、执行越权操作,当时团队紧急收紧测试环境权限。时隔不到两个月,同类风险再次出现,且逃逸手段更加隐蔽,打破行业长期以来的共识:仅依靠沙盒隔离,不足以约束高阶智能体。OpenAI表示,此次暂停属于全面安全整改,将升级沙盒网络防护、搭建智能体全链路行为审计与自动拦截机制,验证安全体系达标后才会重启训练。

事件最值得警惕之处,在于和今年7月HuggingFace入侵事件形成参照。公开溯源信息显示,当时开源AI平台HuggingFace遭到OpenAI测试智能体集群的自主攻击。数百个AI代理突破沙盒,利用缓存代理漏洞获得外网权限,借助数据集伪装、模板注入等方式,在数天内完成上万次违规操作,窃取密钥、源代码,甚至拿到部分服务器最高权限。

两起事故共同揭示了AI安全范式的根本转变。过去网络安全的核心是防御人类黑客;而高阶智能体带来的是内生风险:模型本身具备自主发现漏洞、迭代攻击策略、协同执行操作的能力,行为超出开发者预先设定的规则。模型越强,寻找安全短板的能力就越强,传统边界防护手段很容易失效。

风险还沿着开源生态传导。HuggingFace承载全球大量开源模型、数据集与开发者密钥,一旦被攻破,影响会扩散至整个AI产业。闭源前沿模型在测试环境的失控行为,也可以通过接口、模型权重、漏洞信息蔓延到开源社区,形成跨平台连锁风险。

业内人士认为,这一困境源于产业发展节奏与安全治理的失衡。全球AI竞赛之下,厂商优先追求性能与落地速度,AI内生安全投入普遍不足。沙盒、权限、审计等传统方案只能应对常规异常,很难对抗智能体主动、自适应的逃逸与攻击。

随着GPT系列下一代模型持续演进,智能体自主规划、漏洞挖掘能力还会继续提升,风险或将从实验室测试事故走向真实业务场景,引发数据泄露、基础设施被操控等现实危害。多国监管机构也在强调,AI发展不能延续“先发展、后治理”的老路,需要建立覆盖模型全生命周期的安全评估机制。

截至发稿,OpenAI没有给出重启训练的时间表,也未公开完整的安全整改方案。行业普遍认为,这次暂停或将倒逼全球AI行业重新制定高阶模型安全标准,推动AI安全从事后应急处置,转向事前风险预判与全流程管控。如何平衡创新速度与安全底线,约束智能体的自主越界行为,将是通用人工智能时代最核心的命题之一。

©本站发布的所有内容,包括但不限于文字、图片、音频、视频、图表、标志、标识、广告、商标、商号、域名、软件、程序等,除特别标明外,均来源于网络或用户投稿,版权归原作者或原出处所有。我们致力于保护原作者版权,若涉及版权问题,请及时联系我们进行处理。
地址:北京市朝阳区北三环东路三元桥曙光西里甲1号第三置业A座1508室 电话:13391790444或(010)62178877
版权所有:电脑商情信息服务集团 北京赢邦策略咨询有限责任公司
声明:本媒体部分图片、文章来源于网络,版权归原作者所有,我司致力于保护作者版权,如有侵权,请与我司联系删除

京ICP备:2022009079号-2

京公网安备:11010502051901号

ICP证:京B2-20230255