面向 SaaS 与 AI 智能体的欧盟《人工智能法案》第50条清单

返回
Kevin Riedl

11 分钟 阅读 · 2026年7月23日
最近审核

下一篇
图片在你的设备上生成,不连接 Instagram。文章链接会复制到剪贴板,供链接贴纸使用。

欧盟《人工智能法案》(EU AI Act)第50条已于2026年8月2日起适用,欧盟委员会也已于同日启动执法。如果你的产品用到了聊天机器人、AI 智能体,或生成合成文本、图像、音频或视频的功能,则可能根据你的角色和具体用途适用一项或多项透明度义务。本文不再是一份截止日期前的准备清单,而是当前合规与整改清单:核查 UI 里的告知、输出管线里的标记、日志和证据,并立即补齐已发现的缺口。

有两点让第50条与《人工智能法案》的其余部分不同。它覆盖到有限风险系统,因此哪怕是一个普通的 SaaS 聊天机器人也在适用范围内,尽管它离“高风险”还差得远。而且绝大部分工作落在产品和工程团队身上,而不是法务。总得有人去加上提示、标记输出、给深度伪造打标签,并保留证据。如果你还在为更宏观的合规计划做预算,可以读我们这篇面向小型初创公司的欧盟《人工智能法案》成本拆解;至于它与数据保护的重叠部分,可参见GDPR 与《人工智能法案》如何在 DACH 地区的 SaaS 上叠加。本文只聚焦第50条,只聚焦落地实现。

先说一句提醒:这是来自一支落地团队的实操建议,而不是法律意见。下文所述的义务是我们对该法规以及2026年7月指南的理解。在你据此行动之前,请让法律顾问针对你的具体产品确认适用范围。

第50条控制已上线,但证据或覆盖范围还有缺口?

 评估缺口与整改路径

现在真正约束你的两个日期

2026年8月2日的主要义务已经生效,委员会也已开始执法。12月过渡窗口不是普遍宽限,只覆盖符合条件的既有生成式系统的机器可读标记义务。

日期到期的义务覆盖对象
2026年8月2日第50条的透明度义务已经适用:聊天机器人披露、深度伪造标签、涉及公共利益的文本披露、情绪识别与生物特征提示,以及为在该日期当天或之后投放市场的生成式系统提供机器可读标记。执法也已启动。每一个受约束的提供者和部署者,包括有限风险系统
2026年12月2日只有符合过渡条件且在2026年8月2日之前已投放市场的生成式 AI 系统,才可仅就第50(2)条的机器可读标记义务过渡至此日。符合过渡条件的既有生成式系统,仅限标记义务

第二行要仔细读。这个12月窗口只适用于第50(2)条下的机器可读标记,而且还要满足过渡条件和市场投放时间要求。它不推迟聊天机器人披露、深度伪造标签或其他部署者义务。如果你的系统不符合过渡条件,或者你在8月2日当天及之后投放了新的生成式功能,标记义务已经适用。发现缺口时,应立即记录影响范围、采取临时降低风险的措施并完成整改。根据第99条,企业罚款上限为 1,500 万欧元与上一财年全球营业额 3% 两者中的较高者。中小企业(含初创企业)及小型中型企业(SMC)适用较低者。实际处罚金额须符合比例原则。

第1步:盘点哪些功能在适用范围内

第50条有四项子义务,每一项都指向不同的责任主体。在动手开发任何东西之前,先把你产品里的每一个 AI 触点映射到对应的一行。大多数 SaaS 公司会发现,自己既是提供者(针对自家的聊天机器人),又是部署者(针对用第三方工具制作的营销视频)。

你产品里的功能条款你的角色义务
聊天机器人、客服助手、语音机器人、与人对话的自主智能体50(1)提供者告知对方他们正在与 AI 打交道
产生适用范围内合成文本、图像、音频或视频的生成式功能50(2)提供者为输出附上机器可读、可被检测为 AI 的标记
情绪识别或生物特征分类50(3)部署者通知被识别的对象
发布深度伪造,或涉及公共利益议题的 AI 文本50(4)部署者披露该内容为 AI 生成或经过操纵

另外,针对每一项功能,还要记录该系统的市场投放日期,以及它是否符合狭窄的标记过渡条件。不要仅因为系统在8月2日前已经存在,就默认可以等到12月。保留这份盘点清单和判定理由。它是监管机构或企业买家最先要看的东西,同时也充当你据以整改的清单。如果企业采购已经开始给你发问卷,我们的AI 供应商安全问卷指南讲了透明度相关问题如今会出现在哪里。

第2步:聊天机器人与 AI 智能体披露(第50(1)条)

规则很简单:必须最迟在首次交互时告知对方,他们正在与 AI 互动。所有的失败都出在执行环节。

把它做进流程里,而不是页脚里。指南明确否定了以下几种做法:把披露藏在条款与条件里、只写一行没有可见提示的技术性元数据,或者用“助手”、“由大模型驱动”这类含糊的标签。对方必须在接触的那一刻就理解到,与自己打交道的是一台机器。

一个合格的披露长这样:

  • 文本聊天:在首条消息之前或随首条消息一起,用通俗的语言给出一句提示,例如“你正在与一个 AI 助手对话。”要保持可见,而不是做成悬浮提示。
  • 语音智能体:在通话开始时用可听见的方式声明,来电者正在与 AI 通话。对语音渠道来说,只有视觉提示是行不通的。
  • 自主智能体:如果智能体直接联系自然人,应在交互开始时披露其 AI 身份,除非这一点已经显而易见。没有直接接触人的机器对机器通信不属于第50(1)条范围。
  • 持续提示:在整个会话过程中保留一个可见的标识,而不只是在开场时出现,对于儿童或弱势群体尤其如此,指南要求对这类人群格外谨慎。

SaaS 常见的例外是“显而易见”的情形:当目标受众中一个具备合理认知、观察力和审慎的普通成员已经能明显看出自己在与机器对话时,就无需披露。要从严对待这一点。如果你打算依赖它,就把理由写下来,因为证明“显而易见”的举证责任在你。不要拿它给一个模仿真人客服的支持小组件当挡箭牌。

Kevin Riedl

"第50条不是一份你归档的法律文件。它是你产品里的一处 diff:聊天头部的一行文字、输出管线里的一个函数、日志里的一列。把它当成文书工作来对待的团队,最后只会交出文书,然后在 UI 环节的审计上栽跟头。"

第3步:对生成输出进行机器可读标记(第50(2)条)

如果你的系统生成适用范围内的合成音频、图像、视频或文本,输出就必须以机器可读的格式标记,并可被检测为人工生成。这是清单上工程难度最高的一项,因为指南给出了目标,却没有强制指定某一种技术。用该法规的原话说,标记必须“在技术上可行的范围内做到有效、可互操作、稳健且可靠”。

按不同媒介来看,这在实践中意味着什么:

  • 图像与视频:使用 C2PA 标准附加溯源元数据,该标准会以密码学方式对一份描述内容如何生成的清单进行签名。同时搭配嵌入式水印作为后备,因为文件一旦被重新编码或截图,元数据就会被剥离。
  • 音频:嵌入一段听不见的水印,并在格式允许的情况下附上签名元数据。
  • 文本: 按真实输出渠道选择标记与检测方法。分别测试 API 响应和下载文件中的元数据,记录哪些渠道能保留可检测性。面向用户的可感知标签对应另一项义务。

Anthropic 在 2026 年 8 月的发布是这种分层方案的现实案例。我们的 Claude 文本水印与 API 实施指南区分了已确认的模型覆盖范围与网络热传说法,并说明下游产品仍需保存哪些溯源记录。

不要剥离已有的标记。当 AI 内容作为输入被重新送回你的管线时,要保留其上已附带的任何溯源数据。移除标记,或者写一条允许你移除它们的服务条款,都与该义务相悖。

这里的排除项和豁免范围很窄,包括短数字、符号或字母序列、源代码、无人接触的机器对机器输出、封闭开发环境中的部分输出、不实质性改变输入的标准辅助编辑,以及法律授权用于犯罪侦查的系统。指南还为满足条件的特定企业间或工业场景规定了狭窄豁免。面向人的整段文字或图像并不会自动构成辅助编辑。

机器可读标记是唯一可能过渡至2026年12月2日的义务,但只有在8月2日前已投放市场且符合过渡条件的系统才能使用这一窄窗口。新功能以及不符合条件的既有系统,现在就必须完成标记并保留实施证据。

第4步:深度伪造与合成媒体标签(第50(4)条)

如果你发布的是 AI 生成或经过操纵的图像、音频或视频内容,其形象酷似真实的人、物或事件,且看上去像是真的,那么你(作为部署者)就必须清楚地披露它是人工制作的。这比大多数团队预想的范围要广。

  • 合成人物可以无法识别身份。应判断画面是否与现有的人物、物品、地点、实体或事件相似,并可能在预期观看场景中被误认为真实。
  • 标签必须让全体受众都能看懂,包括儿童、老年人以及 AI 素养较低的观众,而不仅仅是主要目标受众。
  • 明显属于奇幻或物理上不可能的内容(龙、无辅助飞行的人)不在该定义范围内。
  • 创意、艺术、讽刺或虚构类作品可以从宽处理:披露仅限于以不破坏作品的方式,指出其中存在生成内容。

按媒介划分的实用标签模式:图像上用一个持续可见的标签,视频用开场免责声明或屏幕内标记,音频用一段可听见的提示。即便上游工具已经打上了机器可读标记,部署者仍然要负责。一个隐藏的水印,无法替代一个受众能感知到的标签。

第5步:涉及公共利益议题的 AI 生成文本(第50(4)条)

如果你发布 AI 生成或 AI 编辑的文本,用以就公共利益议题向公众提供信息,就要披露它是人工生成的。这针对的是新闻编辑室式的发布,而不是你的内部文档或营销微文案。

编辑豁免确实存在,但范围很窄。两个条件必须同时成立:

  1. 由具备相关专业知识的人实质审查文本,或由编辑团队对内容实质行使编辑控制。仅检查拼写或语法不够。
  2. 由个人或组织承担发布的编辑责任。记录由谁批准了哪个版本。

如果一位人类编辑真正对这篇内容负责,披露义务就不再适用,但要保留编辑环节的书面记录。那份记录就是你的证据。

第6步:情绪识别与生物特征提示(第50(3)条)

如果你部署了一个识别情绪或按生物特征数据对人进行分类的系统,就要在首次接触时或之前,以清晰、易懂的方式告知被识别的对象。这与第5条在工作场所和学校中的禁止性规定是两回事;第50(3)条适用于那些仍被允许的场景。如果你的产品不涉及情绪或生物特征数据,就在盘点清单里记下这一点,然后继续往下走。

第7步:日志记录与证据留存

指南把合规变成了一件讲证据的事。仅仅做到合规还不够;当监管机构或客户来问时,你得能拿出证明。在开发功能的同时,就把记录建立起来。

要保留的东西为什么
按第50条各子款和市场投放日期整理的系统盘点清单展示适用范围的判定,以及哪个宽限窗口适用
每一处上线披露和标签的截图或录屏证明该提示确实存在且清晰,没有被藏起来
你依据“显而易见”豁免时的理由说明该豁免的举证责任在你
每种输出类型的标记方法、覆盖范围和已知局限为标记证明“在技术上可行的范围内”这一点
公共利益文本的编辑审校记录支撑编辑豁免

对管线有两条铁律:在把 AI 内容作为输入重新使用时,绝不剥离溯源标记;绝不写一条允许移除它们的服务条款。把溯源数据当作只可追加的数据来对待。

什么算通过,什么算不通过

7月指南里最有用的一条,就是划出了“充分披露”与“不充分披露”之间的界线。把它当作代码评审里的验收测试来用。

要求不通过通过
聊天机器人披露条款与条件里的一行字;标签写“助手”;一个悬浮提示在首次接触时给出可见的通俗语言提示,外加一个持续存在的提示标识
语音智能体电话通话中出现一个视觉横幅在通话开始时给出一段可听见的声明
图像标记角落里一个淡淡的标签,没有元数据针对发布图像评估过的标记和检测方法,例如带有稳健后备措施的签名溯源信息
深度伪造标签仅有元数据,观众看不见一个全体受众都能感知的持续可见标签
公共利益文本页脚里写“AI 辅助”,没有编辑记录实质审查或编辑控制,并明确承担发布责任的主体

水印技术的现实差距

对第50(2)条,你得对自己诚实。法规要求的标记要稳健、可靠,而技术还没到那一步,欧盟委员会也用“在技术上可行的范围内”这句话承认了这一点。C2PA 元数据很强,但很脆:一次截图、一次重新编码,或者一个会清洗元数据的平台,都会把它抹掉。水印的存活能力更好,但裁剪、压缩或对抗性编辑都可能削弱它。文本水印几乎撑不过一次改写。

用同一文件测试导出、平台上传和展示。记录在哪些环节仍可验证溯源、检测器在哪些环节能恢复信号,以及信号在哪里丢失。为所选方法保存证据,并另行落实适用的可感知标签。

你该不该签署《行为准则》?

欧盟委员会和欧洲人工智能委员会于 2026 年 7 月认定,自愿性《行为准则》足以支持履行第50(2)、(4)和(5)条。第一部分涉及提供者的标记与检测,第二部分涉及部署者对深度伪造及特定公共利益文本的标注。无论采用准则还是其他适当方法,都应保存实施证据。 欧盟委员会的充分性评估.

9 月成立的工作组正在研究互操作性与标签。选型时可参考工作组进展,并保留注明日期的验收测试记录。 准则签署方工作组.

生产级 AI 支持

正在构建 AI 产品,却担心推理成本、架构或生产可用性?Wavect 帮助创始人把 AI 原型变成可靠的生产系统。

查看相关服务:

这些都不是法律工作,这恰恰是重点:第 50 条几乎完全落在你代码库里的界面文案、日志和元数据上。把这些告知接进去,再加上能证明它们确实触发过的评估与日志,正是我们 欧盟 AI 法案合规准备服务覆盖的内容的范围;如果产品是新建而不是事后改造,则由我们的 AI 产品开发服务覆盖。Twinsoft AI 展示了真实项目中的这些配套控制。

来源与方法论

这份清单是 Wavect 从工程视角对(EU) 2024/1689 号法规第50条的解读。文中的当前执法状态、日期和过渡范围已于2026年11月11日对照欧盟委员会的2026年8月2日执法公告以及第50条透明度义务官方问答进行核对。通过与不通过的示例用于支持产品核查和整改。这是落地实施指南,不是法律意见。 第99条处罚规则.

常见问题

《人工智能法案》第50条何时开始适用?
第50条已于2026年8月2日起适用,欧盟委员会也已于同日启动执法。聊天机器人披露、深度伪造标注和其他透明度义务现已生效。只有符合过渡条件且在2026年8月2日之前已投放市场的生成式 AI 系统,才可仅就机器可读标记义务过渡至2026年12月2日。
AI 聊天机器人的披露要求有哪些?
必须最迟在首次交互时,以清晰、可见的方式告知对方他们正在与 AI 互动。藏在条款与条件里的披露、像“助手”这样含糊的标签,或没有可见提示的元数据,都不满足要求。语音智能体需要一段可听见的声明。SaaS 常见的例外是当一个具备合理认知的人已经能明显看出自己在与机器对话时,而且证明这一点的举证责任在你。
在欧盟该如何标注 AI 生成的内容?
提供者应为适用的输出添加机器可读标记,使其可被检测为人工生成或操纵。采用技术上可行且有效、可互操作、稳健和可靠的方法。C2PA 溯源和嵌入式水印都是可选技术。发布深度伪造内容的部署者还须提供受众可感知的标签。
第50条适用于一个简单的 SaaS 聊天机器人吗?
适用。第50条覆盖到有限风险系统,因此一个客服聊天机器人也在适用范围内,即便它并非高风险。你必须披露用户正在与 AI 对话。如果该聊天机器人还生成用户会带走的内容,那么第50(2)条下的标记义务也可能适用。
违反第50条的罚款有多少?
根据第99条,企业罚款上限为 1,500 万欧元与上一财年全球营业额 3% 两者中的较高者。中小企业(含初创企业)及小型中型企业(SMC)适用较低者。实际处罚金额须符合比例原则。
自主 AI 智能体必须披露自己是 AI 吗?
为直接与自然人互动而设计的智能体,应在交互开始时披露其 AI 身份,除非已经显而易见。没有直接接触人的后台流程或机器对机器通信不属于第50(1)条范围。披露应写入面向人的对外消息,而不只是主要用户看到的界面。

最终思考

第50条已经进入执法阶段。现在的任务是验证具体产品控制:盘点 AI 触点,核查每一个聊天机器人和智能体的可见披露,测试生成输出的机器可读标记,确认深度伪造标签对全体受众可感知,并保留可重现、可审计的证据。

如果核查发现缺口,不要把12月过渡窗口当作普遍延期。记录影响范围,采取临时降低风险的措施,尽快发布整改,然后保存截图、日志和测试结果。如果你在大规模生成内容,可以评估经认可的《行为准则》路径,但要把它作为有文档支撑的合规方法,而不是免责保护。

想把第50条的披露、标记和证据都做进你的产品里?

 评估合规落地方案
只收重要内容

关注与你相关的内容

每当我们发布新文章,你会收到一封简短邮件。你可以关注整个博客,也可以只选感兴趣的主题。

你希望接收哪些内容?
选择主题

免费、双重确认、不使用跟踪像素。

返回
Kevin Riedl

11 分钟 阅读 · 2026年7月23日
最近审核

下一篇

获取下一篇关于商业与监管的一线笔记

有新文章时发送一封简短邮件,不使用跟踪像素,也不发送填充内容。

免费、双重确认、不使用跟踪像素。