OpenAI本周宣布多项举措，旨在消除外界对其安全性和隐私的负面看法，包括放缓扩展节奏、实施两周强化学习训练暂停，以及为符合条件的API客户提供零数据留存服务。

在周二发布的第一份公告中，OpenAI表示已"暂时"放缓扩展步伐，并暂停了强化学习训练。这些措施是在OpenAI对研究环境进行加固和红队测试、扩大监控范围期间实施的。公司补充称："我们最大规模的前沿RL运行仍处于暂停状态，我们正在进行较小规模的训练和评估，以评估模型行为、验证安全保障，并在推进之前积累更多对齐证据。"

OpenAI声明称，公司将"现在要求在整个训练过程中提供更强的对齐行为证据，这建立在已经在进行的研究和评估基础之上。保持日益强大的系统对齐是整个领域都需要应对的挑战。"此外，公司还强调了近期改进流程的其他努力，包括工作负载隔离、网络隔离和"持续安全测试"。

不过，公司指出新提出的监控将产生大约占被监控推理计算量20%的开销，尽管该成本在训练和评估工作负载之间差异很大。公司承诺在即将发布的一篇博客文章中分享更多关于该系统的细节。

分析师：为IPO造势

分析师和顾问们认为，这些举措很可能是为了让OpenAI在即将到来的IPO中处于更有利位置。

独立技术分析师Carmi Levy将声明视为"一种精心设计的公关策略，旨在安全担忧持续升温之际赢得口碑。它表明公司在采取行动，即使这些行动远远不够。在缺乏明确法规迫使OpenAI等供应商永久性将安全置于所有其他因素之上的情况下，两周暂停不过是用来转移批评的橱窗装饰。"

Moor Insights & Strategy首席分析师Jason Andersen表示赞同，称他认为"在他们走向IPO的过程中有点务实戏剧的意味"。但他暗示可能还有更多考量。企业将继续在AI上大力投入，"会一路踩油门直到被起诉"。然后他们才会收手。

不过他指出，"这些大型AI公司要想在IPO后取得成功，唯一的扩张路径是更深入地进入企业。而做到这一点的唯一途径就是消除恐惧和风险。"

零数据留存？

在周三的公告中，OpenAI没有说明零数据留存计划的资格标准，仅表示将于9月启动，届时公司将以"技术白皮书"形式分享细节。

Andersen指出，这一举措必须放在当今复杂的供应商关系背景下看待。OpenAI的大部分收入并非直接来自企业，而是通过Microsoft和AWS等合作伙伴。"假设我使用一个像Amazon Kiro这样的工具，它可以通过API调用OpenAPI来构建应用，而我对模型一无所知。听起来Amazon是客户，而我是Amazon的客户。如果你是企业并想要这个零数据留存保护，你必须向Kiro提供自己的API密钥。企业就变成了直接客户，从而获得保险箱访问权限。AWS不再有访问权限，损失收入和利润。"

FormerGov执行总监、顾问Brian Levine补充道，数据留存承诺的复杂性还在于流程的实际运作方式。"OpenAI声称现在可以在不读取底层数据的情况下跨交互监控滥用行为。这是一个强技术承诺，因为监控误用和无法查看数据在历史上一直相互矛盾。而证明是一份还要等几周才能发布的白皮书。"

此外他指出，"零永远不完全是零，因为被标记为CSAM的内容仍因法律报告需要而保留。"

LexisNexis Risk Solutions Group的CISO Flavio Villanustre对此有不同看法，认为此举旨在软化可能的立法。"他们很可能看到了即将到来的监管信号，这些监管可能对他们产生重大影响，这可能是他们试图展示自我约束意愿，以避免未来更严厉的立法。"

尽管如此，Aikido Security企业CISO Mike Wilkes观察到，"真诚不等于持久。在北欧/斯堪的纳维亚传说中巨兽在海面下等待的形象中，你可以称之为'暂停巨兽'。真正的问题是，OpenAI决定重新释放它之前需要满足什么条件。"

Info-Tech Research Group技术顾问Justin St-Maurice补充道，OpenAI似乎想为做了一家主要AI公司本应一直做到的基本底线工作而获得认可。"如果一家汽车制造商宣布要更认真地对待基本安全测试再生产，这不会引来欢呼。坦率说，如此基本的事情需要对持怀疑态度的公众澄清本身就令人尴尬。对我来说，问题是为什么这现在需要成为一个公告，以及一旦竞争对手推出让暂停变得代价高昂的东西时，他们能否坚持立场。"

因此他建议，"停止将这些公告当作尽职调查对待。要求获得你实际得到的东西的证据，而不是你被承诺的东西。如果一个供应商可以因安全原因暂停开发，而你得知此事的方式是一篇博客文章，那你应该问你的合同要求他们向你披露什么。"