Sam Altman离开OpenAI安全委员会
作者: CBISMB
责任编辑: 张金祥
来源: ISMB
时间: 2024-09-18 10:32
关键字: OpenAI,Sam Altman,安全委员会
浏览: 0
点赞: 0
收藏: 0
OpenAI近日宣布首席执行官Sam Altman将不再担任公司内部安全与保障委员会的成员。这一变动标志着OpenAI在加强其独立性和透明度方面迈出了新的一步,同时也反映了公司在面对日益增长的公众关注和监管压力时的应对策略。
根据OpenAI的官方公告,安全与保障委员会将转型为由卡内基梅隆大学教授Zico Kolter担任主席的独立监督小组,成员包括Quora首席执行官Adam D'Angelo、美国退役陆军将军Paul Nakasone以及前索尼执行副总裁Nicole Seligman。这些成员均为OpenAI董事会的现任成员,他们的加入将进一步增强委员会的专业性和独立性。
Altman的离职并未影响委员会对OpenAI最新AI模型o1的安全审查工作。OpenAI表示,该小组将继续定期接收来自公司安全团队的简报,并保留推迟发布任何存在安全隐患的模型的权力。此外,OpenAI还宣布将建立一个综合的安全框架,以明确定义模型发布的成功标准,确保所有发布的模型都经过严格的安全评估和监测。
此次人事变动发生在五名美国参议员今年夏天致信Altman质疑OpenAI政策之后。信中提到,OpenAI内部专注于人工智能长期风险的员工大量流失,部分前研究人员指责Altman倾向于推进公司商业目标而非实施真正的AI监管。这些质疑引发了公众对OpenAI治理结构和政策方向的广泛关注。
值得注意的是,尽管Altman已卸任安全与保障委员会职务,但委员会似乎并未因此变得更为激进或倾向于做出影响OpenAI商业路线图的艰难决定。相反,OpenAI强调其将继续接受有效批评,并努力通过委员会解决这些问题。
然而,OpenAI面临的挑战远不止于此。随着公司估值的飙升(据传正在筹集超过65亿美元资金,估值或超1500亿美元),其盈利激励也在不断增长。为了达成这笔融资交易,OpenAI可能会放弃其混合非营利性公司结构,这一变化可能引发对其能否保持创始使命的担忧。
此外,前OpenAI董事会成员海伦·托纳和塔莎·麦考利在《经济学人》上发表专栏文章,对OpenAI的当前状态表示失望和担忧。他们认为OpenAI在自治方面无法可靠地抵御利润激励的压力,并呼吁加强监管和透明度以确保公司能够履行其社会责任。