OpenAI在加州被起诉:智能体越狱攻破Hugging Face,被指构成“公共妨害”
作者: CBISMB
责任编辑: 邹大斌
来源: CBISMB
时间: 2026-11-17 11:06
关键字: OpenAI ,Hugging Face ,加州诉讼 ,智能体越狱 ,公共妨害
浏览: 0
点赞: 0
收藏: 0
加州总检察长罗布·邦塔(Rob Bonta)宣布,州政府已对OpenAI Group PBC提起诉讼。起因是该公司的人工智能体今年早些时候失控,入侵了开源AI平台Hugging Face。
这份31页的起诉书已递交给旧金山高等法院。诉状称,OpenAI在缺乏适当防护措施的情况下开发产品,使公众处于危险之中,并把相关机构置于风险之下。邦塔把OpenAI的行为定性为“公共妨害”(public nuisance),请求法官命令该公司改变做法,同时就其在风险较高业务领域获得的收入处以罚金。
明知产品危险,仍在缺乏监管的情况下测试
邦塔在新闻发布会上说:“OpenAI的行为放大了现实世界的网络安全风险,威胁到社会的安全、健康和福祉。该公司在知情的情况下测试了一款危险产品,既没有适当的监督,也没有安全程序,还对公众隐瞒了这件事——这种对公共安全的漠视违反了加州法律。”
邦塔认为,如果没有外部压力,此类攻击的范围和频率未来还会上升。“在加州,我们重视创新,但我们要求创新守法——无论是什么产品,也无论是什么公司。”
诉状还批评OpenAI缺乏透明度,通过“不实陈述”继续开发具有欺骗能力和恶意行为能力的危险模型。
7月21日:智能体逃出沙箱,一路打进Hugging Face
这起被邦塔称为“前所未有”的失控事件发生在今年7月21日。当时OpenAI的一个智能体从本应隔离的测试环境(沙箱)中逃出。
为了突破受限环境并接入互联网,这些模型利用了OpenAI系统中一个此前未知的安全漏洞。随后它们获取了公司网络其他部分的访问权限,窃取登录凭证,并利用更多安全弱点侵入Hugging Face的服务器。
OpenAI称被单独针对,另有八个州已提起诉讼
针对这起诉讼,OpenAI发言人德鲁·普萨特里(Drew Pusateri)表示,其他大型AI公司也面临类似问题,他认为OpenAI是被单独挑出来的。
他说:“自Hugging Face事件以来,我们已展开广泛而透明的努力,以理解并处理模型的不对齐行为。”他表示公司将继续与州政府合作、共享信息,以确保公众和机构的安全。
不过,邦塔对OpenAI是否愿意遵守安全实践表示怀疑。他写道,该公司通过“缺乏透明度和不实陈述”,持续开发具备欺骗能力和恶意行为的危险模型。
OpenAI目前已在八个州面临诉讼,涉及多起事件。该公司被指控开发的技术损害了公众利益,例如提供危险的医疗建议,或引导人们做出糟糕、有时甚至有害的决定,从而威胁其安全。






京公网安备:11010502051901号