OpenAI披露“虚假前台”行动:AI让伪造身份更高效,却没替代传统渗透

作者: CBISMB

责任编辑: 宫建强

来源: OpenAI官方安全报告

时间: 2026-10-09 15:45

浏览: 0

点赞: 0

收藏: 0

原创AI生成实景风格示意图

AI能够快速翻译、润色和批量生成内容,但一场影响行动要真正进入公众视野,仍需要身份包装、渠道关系和人为执行。OpenAI 10月8日披露两起被其封禁的“虚假前台”行动:AI让伪造身份更高效,却没替代传统渗透。

根据OpenAI报告,两组被封禁账号分别与来自俄罗斯和伊朗的隐蔽影响行动有关。相关行为者把ChatGPT与传统操作方式结合,用虚构机构或记者身份,把带有地缘政治目的的内容送入目标受众。OpenAI表示已封禁相关账号,并向有关机构分享信息。

俄罗斯行动:真正复杂的是“前台机构”

OpenAI把俄罗斯来源的行动称为“Dark Clark”。相关账号主要用ChatGPT撰写内部活动报告、生成部分行动内容,并为一个自称拉美研究平台的机构制作绩效材料。报告称,操作者使用虚构身份“Mia Clark”管理社交活动,现有证据显示,一些在拉美工作的真实人员可能并不知道其雇主背后的实际控制方。

相关内部材料涉及针对拉美国家的虚假邮件、伪造音频、假文件和媒体内容。OpenAI同时提醒,操作者经常在内部汇报中把无关事件算成自己的成果,因此不能照单全收。官方通过公开来源找到了一部分与其叙述相符的内容、事实核查和政府澄清,但另一些主张无法独立证实。

按照用于评估影响行动扩散程度的IO Breakout Scale,OpenAI将这次俄罗斯来源行动评为第5级,是其开始公开此类报告以来首次披露的第5级行动。该等级是OpenAI基于现有证据作出的评估,并不意味着报告中的每项自我宣称都已被证明。

伊朗行动:七个虚假记者身份进入真实媒体

另一起行动被称为“Bogus Bylines”。OpenAI称,操作者使用七个不同署名,把围绕美伊冲突的英文长文投递给世界各地的中小型在线媒体。模型主要被用于检查稿件是否符合特定媒体投稿要求、润色文章、撰写投稿邮件,以及生成成批社交媒体评论。

OpenAI通过公开调查识别到近100篇以相关署名发表或转载的文章,涉及大约十余家在线媒体。与此同时,其能找到的批量评论大多只有很低互动量。也就是说,评论区灌水的实际效果有限,借助看似可信的记者身份进入真实媒体,反而带来了更大的潜在触达。

AI的作用更多是提速,而不是创造全新方法

报告指出,这些行动与AI出现前的复杂影响行动非常相似。AI提升了规模、效率、语言流畅度和编辑能力,也帮助操作者制作内部汇报,但核心战术仍是隐藏真实控制方、构建可信外壳、利用不知情人员和外部出版渠道。

尤其值得注意的是,操作者还会让AI帮助“包装成绩”。伊朗行动用原帖浏览量变化估算自己评论的影响,忽略了原帖热度和其他评论等因素,明显夸大效果;俄罗斯行动则尝试把原本无关的公共事件归功于自己。AI写得更专业,不代表汇报更真实。

编辑观察:媒体入口需要新的身份核验

对新闻网站、行业媒体和内容平台而言,防线不能只检查一篇文章是否像AI生成。更重要的是核验作者身份、过往作品、投稿邮箱、社交账号所在地、图片与引用来源,以及多个署名之间是否出现异常相似的投递模式。

企业公关和研究团队也应警惕“看起来专业”的合作邀约。建立投稿人实名核验、敏感议题二次审稿、图片与音频溯源、异常账号关联分析和事后撤稿机制,比单纯部署AI文本检测更有效。AI降低了伪装成本,但负责任披露、跨平台协作和公开事实核查,同样能提高持续运营的成本。

配图为AIcent原创AI生成实景风格示意图,非官方新闻现场照片,不使用第三方新闻图片。

参考来源:OpenAI官方安全报告(2026年10月8日)。正文为基于官方消息的中文整理,编辑观察与事实披露分开呈现。

©本站发布的所有内容,包括但不限于文字、图片、音频、视频、图表、标志、标识、广告、商标、商号、域名、软件、程序等,除特别标明外,均来源于网络或用户投稿,版权归原作者或原出处所有。我们致力于保护原作者版权,若涉及版权问题,请及时联系我们进行处理。
地址:北京市朝阳区北三环东路三元桥曙光西里甲1号第三置业A座1508室 电话:13391790444或(010)62178877
版权所有:电脑商情信息服务集团 北京赢邦策略咨询有限责任公司
声明:本媒体部分图片、文章来源于网络,版权归原作者所有,我司致力于保护作者版权,如有侵权,请与我司联系删除

京ICP备:2022009079号-2

京公网安备:11010502051901号

ICP证:京B2-20230255