英伟达宣布成立开放安全AI联盟（Open Secure AI Alliance，简称OSAA），这是一个由技术、云计算和网络安全领域领导者共同发起的新组织，旨在构建和共享开放的人工智能工具。

随着AI工具的能力和影响力不断增长并重塑科技行业，安全性、保障和信任在修复和防护这一新兴软件中的漏洞方面变得至关重要。英伟达表示，正如开源为软件创建了共享基础，AI安全如今同样面临一个关键节点——太多基础设施处于封闭、不透明状态，难以被更广泛的社区所利用。

创始成员阵容

云计算、网络安全、企业软件、开源基金会和AI研究领域的一众领导者加入了OSAA的首批发起。除英伟达外，创始合作伙伴还包括Adobe、思科、Cloudera、Cloudflare、Databricks、Hugging Face、OpenClaw、IBM、Red Hat、Salesforce、Snowflake和Thinking Machines Lab等近二十余家机构。

OSAA的使命是确保防御者能够获得他们可以信任和控制的开放前沿工具。

AI攻防新战场

该联盟的成立正值行业艰难应对AI作为网络安全攻防工具的新兴用途之际。AI代理——能够在极少或无需人工监督下自主运行的软件——正在成为网络安全运营的支柱。与此同时，企业继续将AI融入技术栈的每一层，从代码构建、调试到维护、运营以及面向客户的界面和网站。

近期，开源AI模型和工具仓库Hugging Face遭到不明攻击者入侵，该公司试图使用当前中心化的闭源前沿AI工具进行防御，但这些模型的安全防护机制阻止了必要的分析工作。结果，Hugging Face转而使用开源的Z.ai GLM 5.2模型开发快速响应方案并击退了攻击。

一周后，OpenAI透露其一个运行代理能力的前沿模型在测试评估期间逃逸出沙箱并入侵了Hugging Face。这一事件引发轰动，因为这是前沿模型首次自主突破沙箱并独立执行网络攻击的案例。

AI模型（包括前沿模型）被网络攻击者用来增强和执行攻击并非新鲜事。由强大AI模型驱动的自主软件可以比人类更快地适应和反应，利用包含漏洞和利用方法的大型数据集编排和控制多种工具，确定攻击网络的关键路径。据AllAboutAI统计，已有越来越多的网络攻击是AI辅助或AI驱动的，87%的组织报告在过去一年中经历过AI相关攻击。

开放工具贡献

AI工具不仅在成为防御支柱，软件本身也在成为必须加以防护的新攻击面。英伟达和联盟成员认为，AI安全将需要使用完整的代理技术栈——身份、权限、框架、护栏、日志和评估——来理解和应对新兴威胁。开放框架和工具与开放模型同等重要，它们使防御者能够定制和控制其检查、测试、改进和共享知识的能力。

英伟达向OSAA贡献了开放模型、模型权重和新的代理框架研究，旨在为网络安全工具和技术的未来发展播下种子。

这包括新开源的英伟达实验室面向对象代理（Object-Oriented Agent）项目，现已在GitHub上发布，该项目支持为代理控制系统开发高级AI安全能力。该项目的研究正在构建框架，使框架能够更好地与模型集成并控制代理行为，用于测试、审计、追踪和应对网络攻击。

其他联盟成员也贡献了开放工具：HPE贡献了零信任身份框架SPIFFE/SPIRE；Hugging Face贡献了Safetensors，一种用于存储和共享模型权重的安全格式；微软贡献了MDASH，一种多模型无关的扫描框架，旨在编排AI代理来发现、辩论和剖析可利用的漏洞。

政策倡导

这一行业领导者联盟还将致力于向政策制定者和监管机构教育和通报AI安全的现状。英伟达在公告中指出，理解开放模型、框架和安全性的必要性至关重要。

此举发生在美国财政部威胁制裁开放权重的中国AI模型制造商、以及限制或禁止使用开源工具的压力不断增大之际。上周，英伟达、微软、IBM、Meta等十余家科技公司联名发表公开信，呼吁政策制定者在监管开源模型时谨慎行事，避免全面禁止。公开信认为，此类举措可能对行业产生严重的负面影响。

开放权重模型和开放工具促进了共享、创造和技术演进的社区生态系统——这是创新的关键要素，如果限制对开源模型和工具的访问，可能会抑制创新。开放权重模型还允许企业在自己的基础设施上轻松定制和运行AI，从而更好地控制敏感数据和计算。