欧盟AI透明合规大限仅剩数周,你的企业准备好了吗?
作者: CBISMB
责任编辑: 邹大斌
来源: CBISMB
时间: 2026-07-21 10:37
浏览: 0
点赞: 0
收藏: 0
距离8月2日仅剩数周,届时在欧盟部署AI系统的企业必须明确告知用户:他们正在与AI内容交互。
为协助企业落实合规,欧盟委员会发布了指导方针,帮助AI部署者满足《AI法案》的透明度义务。自8月2日起,提供AI系统的公司必须提醒用户正在与AI交互,还需告知用户何时接触了深度伪造、"情绪识别"或生物特征分类系统,以及何时收到了未经人工审核或编辑控制的涉及"公共利益"的AI篡改内容。
欧盟委员会负责科技主权、安全与民主的执行副主席Henna Virkkunen在声明中表示,这些指导方针将支持AI法案的平稳有效实施,让聊天机器人和AI代理等与人交互的AI系统以及AI内容更加透明可信。
系统必须嵌入机器可读标记以揭示此类内容,从而"降低欺骗和操纵风险"并建立公众对AI的信任。
Greyhound Research首席分析师Sanchit Vir Gogia指出:"生成式系统大幅压低了生产有说服力内容的成本,但判断内容的成本却一如既往。这项要求是一次试图为这种失衡恢复摩擦的尝试。"
不合规可能导致75万欧元至1500万欧元不等的罚款,甚至可高达公司全球年收入总额的3%。
透明度要求
AI法案的透明度要求适用于开发AI系统或将AI系统以自身名义投放欧盟市场或投入使用的自然人或法人、公共机构及其他组织。这意味着所有公司,无论是否在欧盟注册,都在管辖范围之内。
Gogia强调:"投放到欧盟市场、在欧盟投入服务、或在欧盟产生输出的系统,都在适用范围之内,无论开发者身在何处。"
适用系统必须旨在与"自然人"直接交互,包括AI聊天机器人、对话代理、AI伴侣或编程代理。但AI推荐系统、垃圾邮件过滤器、认证系统、搜索与检索、转录、文本与代码自动补全、预测性维护等工具不在规则之列。
AI生成的文本、图像、视频和音频等特定输出必须包含机器可读标记。深度伪造和未经人工审核或控制的AI生成的公共利益相关文本必须明确标注,但"艺术性、创作性、讽刺性或虚构性"的深度伪造内容在很大程度上可获豁免。
AI内容必须使用三种标签之一进行标记:"AI"、"完全AI生成"或"部分AI修改"。例如,新闻摘要、音乐、艺术作品或视频在无任何人工监督(除提示外)下生成时适用"完全AI生成";将人脸换入真实照片创建深度伪造时则可能属于"部分AI修改"。三种图标均已公开发布供免费使用。
行为准则
除透明度指南外,欧盟委员会还推出了AI生成内容行为准则,签署后可获得"法律确定性",成为一种"简单务实"的合规证明方式。签署方还可通过签署方工作组协作,分享标记与标注实践并推进相关技术。
选择不签署的提供商须通过其他方式合规,并需通过监管机构的评估证明其方式"充分"。
Gogia指出:"不签署者保留了灵活性,但将因此面临更多逐案审查。"
合规标准
Info-Tech Research Group首席研究总监Shashi Bellamkonda指出,透明度要求仅在三项条件同时满足时适用:内容已被发布、对公众具有信息价值、或属于公共利益事项。B2B商业内容或博客若不符合这些标准,可能无需AI披露。此外,经过人工审核或处于编辑控制下的已发布文本无需标注。"编辑控制"意味着个人必须对内容发布承担最终法律责任。
许多公司如谷歌、Adobe和LinkedIn已建立识别AI生成图像的方法。Bellamkonda表示,Meta已将其设为要求,但创作者必须自行添加AI生成标签。
构建透明度流水线
Gogia表示,建立全面透明度意味着要明确谁对内容承担责任、标记在实际使用中而非仅仅测试中是否有效、以及什么证据能为决策提供辩护。
问题集中在责任、耐久性和证据三个维度。一段内容通常涉及多个组织,没有一个组织控制整个链条,因此合同成为"施力点"。目前大多数协议是为交付软件而写的,对来源持久性、验证入口或证据留存几乎"只字未提"。
耐久性是最棘手的问题,因为标记在受控环境中表现良好,但在"日常使用中却糟糕透顶"。例如,Meta声称其隐形水印的设计能抵御裁剪,但一项公开测试发现该公司的预览检测器漏掉了55%的裁剪后图像。
Gogia强调:"CIO们在相信仪表板之前,应该先问哪个平台能实际提供证据。"
AI使用披露必须"清晰、可区分且可访问":"一条埋在冗长条款中或只能通过刻意点击才能找到的通知,无法让任何人满意,尤其是市场监管机构。"
持续合规是一项"活的管控",需要:系统、职责和证据的集中记录;在用户接触管控的地方而非开发者构建的地方进行测试;持续的供应商保证。各国的执法力度各异,因此应保持一个共同的基线,再叠加本地化要求。
他的建议是:清点每一个与人对话、生成内容或感知情绪的系统;分类提供商和部署者角色;在首次交互时即放置披露信息;定义实质性人工审核;保留证据。
标记和来源信号应在内容经过裁剪、压缩、翻译、转录和其他编辑后进行测试。有用的审计应从一份真实的输出开始,追踪其"脉搏"贯穿生成、编辑和发布全过程,在每个"节点"识别责任方、存续标记和例外情况证据。遗漏的标签也应追溯根因并防止复发。
为确保合规,企业需在8月2日前完成:一份按优先级排序的系统清单、高风险用例上的实时披露、以及"每项管控的指定负责人"。前30天应稳定化和测试;前90天将要求推进至采购流程作为常态化管理。采购必须确保供应商在标记方法、已知故障模式和证据访问方面做出承诺,并且如有任何变更需明确通知。
Gogia总结道:"合理的架构是建立一个共同的透明度基线,承载可追溯性、责任和证据,再叠加各司法辖区的语言、行业规则和本地化实践。"