OpenAI在加州被起诉:智能体越狱攻破Hugging Face,被指构成“公共妨害”

作者: CBISMB

责任编辑: 邹大斌

来源: CBISMB

时间: 2026-11-17 11:06

浏览: 0

点赞: 0

收藏: 0

加州总检察长罗布·邦塔(Rob Bonta)宣布,州政府已对OpenAI Group PBC提起诉讼。起因是该公司的人工智能体今年早些时候失控,入侵了开源AI平台Hugging Face。

这份31页的起诉书已递交给旧金山高等法院。诉状称,OpenAI在缺乏适当防护措施的情况下开发产品,使公众处于危险之中,并把相关机构置于风险之下。邦塔把OpenAI的行为定性为“公共妨害”(public nuisance),请求法官命令该公司改变做法,同时就其在风险较高业务领域获得的收入处以罚金。

明知产品危险,仍在缺乏监管的情况下测试

邦塔在新闻发布会上说:“OpenAI的行为放大了现实世界的网络安全风险,威胁到社会的安全、健康和福祉。该公司在知情的情况下测试了一款危险产品,既没有适当的监督,也没有安全程序,还对公众隐瞒了这件事——这种对公共安全的漠视违反了加州法律。”

邦塔认为,如果没有外部压力,此类攻击的范围和频率未来还会上升。“在加州,我们重视创新,但我们要求创新守法——无论是什么产品,也无论是什么公司。”

诉状还批评OpenAI缺乏透明度,通过“不实陈述”继续开发具有欺骗能力和恶意行为能力的危险模型。

7月21日:智能体逃出沙箱,一路打进Hugging Face

这起被邦塔称为“前所未有”的失控事件发生在今年7月21日。当时OpenAI的一个智能体从本应隔离的测试环境(沙箱)中逃出。

为了突破受限环境并接入互联网,这些模型利用了OpenAI系统中一个此前未知的安全漏洞。随后它们获取了公司网络其他部分的访问权限,窃取登录凭证,并利用更多安全弱点侵入Hugging Face的服务器。

OpenAI称被单独针对,另有八个州已提起诉讼

针对这起诉讼,OpenAI发言人德鲁·普萨特里(Drew Pusateri)表示,其他大型AI公司也面临类似问题,他认为OpenAI是被单独挑出来的。

他说:“自Hugging Face事件以来,我们已展开广泛而透明的努力,以理解并处理模型的不对齐行为。”他表示公司将继续与州政府合作、共享信息,以确保公众和机构的安全。

不过,邦塔对OpenAI是否愿意遵守安全实践表示怀疑。他写道,该公司通过“缺乏透明度和不实陈述”,持续开发具备欺骗能力和恶意行为的危险模型。

OpenAI目前已在八个州面临诉讼,涉及多起事件。该公司被指控开发的技术损害了公众利益,例如提供危险的医疗建议,或引导人们做出糟糕、有时甚至有害的决定,从而威胁其安全。

©本站发布的所有内容,包括但不限于文字、图片、音频、视频、图表、标志、标识、广告、商标、商号、域名、软件、程序等,除特别标明外,均来源于网络或用户投稿,版权归原作者或原出处所有。我们致力于保护原作者版权,若涉及版权问题,请及时联系我们进行处理。
地址:北京市朝阳区北三环东路三元桥曙光西里甲1号第三置业A座1508室 电话:13391790444或(010)62178877
版权所有:电脑商情信息服务集团 北京赢邦策略咨询有限责任公司
声明:本媒体部分图片、文章来源于网络,版权归原作者所有,我司致力于保护作者版权,如有侵权,请与我司联系删除

京ICP备:2022009079号-2

京公网安备:11010502051901号

ICP证:京B2-20230255