IBM旗下的红帽公司今日宣布，已收购低调的人工智能安全工具开发商Chatterbox Labs Inc.，交易金额未披露。

过去两年中，红帽已对其多款核心产品进行了适配，以支持AI工作负载。其旗舰Linux发行版提供了一个预装机器学习库的版本；而红帽基于Kubernetes打造的OpenShift AI平台则支持一个名为llm-d的开源工具，该工具可将推理任务分发至多个服务器。此次收购将进一步增强IBM这一业务单元在AI产品组合中的能力。

总部位于伦敦的Chatterbox Labs自2011年成立以来，从投资者处募集的资金不足100万美元。该公司销售一款名为AIMI的平台，用于防范针对AI模型的各种风险，例如黑客攻击。该平台被打包为Docker容器，企业可将其连接至来自OpenAI Group PBC等供应商的现成模型，也可用于自家定制算法。

据Chatterbox Labs官网介绍，AIMI通过自动化的“红队测试”（red teaming）机制发现网络安全问题。它会对企业正在测试的AI模型发起一系列模拟网络攻击，以识别潜在弱点，并通过可视化仪表板呈现结果，便于分析。

AIMI能够评估AI模型对“提示注入”攻击的敏感程度——这类攻击试图诱使模型执行未经授权的操作。此外，该平台还能检测“数据投毒”行为，即黑客通过向模型训练数据集中注入恶意文件，使算法在特定条件下（例如用户输入某个特定提示时）执行有害操作。

Chatterbox Labs的软件还能识别其他多种风险，包括有毒的AI输出、可能泄露模型架构等敏感信息的数据泄露事件，以及违反隐私法规的用户提示。

该平台既支持大型语言模型，也适用于计算机视觉模型等相对简单的神经网络。此外，它还可用于保护那些通过MCP（Model Control Protocol）在第三方应用中执行操作的AI智能体。这一功能正是红帽决定收购Chatterbox Labs的关键因素之一。

红帽的AI优化Linux发行版、OpenShift AI平台以及名为Inference Server的工具共同构成了“Red Hat AI”产品套件。几周前，红帽发布了该套件的新版本，新增了对MCP的支持。未来，公司将利用Chatterbox Labs的技术，帮助客户保护在其平台上运行的MCP驱动型AI智能体。从长远来看，红帽计划将AIMI以开源许可证的形式发布。