微软公布制造明显深度伪造视频的网络犯罪分子名单

微软近日正式点名四名涉嫌制造非法深度伪造作品的被告，指控他们利用多个微软客户泄露的API密钥，非法访问公司的Azure OpenAI服务，以生成名人深度伪造视频，并开发恶意工具绕过AI生成的安全防护，导致有害和非法内容的产生。

该组织被称为“Azure Abuse Enterprise”，据称是一个全球网络犯罪团伙的主要成员，微软对此进行了追踪，确认四名被告分别是：来自伊朗的Arian Yadegarnia（又名“Fiz”）、来自英国的Alan Krysiak（又名“Drago”）、来自中国香港的Ricky Yuen（又名“cg-dot”）以及来自越南的Phát Phùng Tấn（又名“Asakuri”）。

微软数字犯罪部门（DCU）在诉讼中还提到了10名“约翰•杜克”的无名被告，指控他们违反美国法律和Azure OpenAI服务的可接受使用政策及行为准则。此次诉讼的更新提供了更多细节，揭示了这些犯罪分子如何滥用API密钥。

这是对之前提出诉讼的补充，微软在此诉讼中详细说明了对Azure OpenAI服务API密钥滥用的发现，并成功使与该团伙相关的GitHub存储库下线，法院允许微软查封与其活动相关的域名。

微软表示，法院已经发布临时限制令和初步禁令，使公司能够查封一个对犯罪活动至关重要的网站，有效破坏该组织运营服务的能力。

该犯罪团伙由创建者、提供者和用户组成，报告称这些被告使用从公共来源抓取的客户凭证，非法访问生成AI服务的账户。微软DCU助理总法律顾问Steven Masada指出，这些犯罪分子随后修改了服务的功能，并将访问权限转售给其他恶意行为者，甚至详细说明如何生成有害和非法内容，包括名人的非自愿亲密照片和其他露骨色情内容。