主题
内容溯源与水印
用签名元数据和嵌入式水印记录媒体内容的来源，以及它是否由 AI 生成或编辑。
观众、平台和事实核查者可以检查附加在图片、视频、音频或文本上的签名溯源元数据（C2PA 内容凭证），也可以检测内容中是否有生成工具嵌入的水印，例如 Google DeepMind 的 SynthID。有效的内容凭证说明谁对资产签署了哪些声明，以及被签名的字节是否发生了变化。它不能确立内容真实准确，元数据也可能被剥离。2026 年的一项分析还表明，恶意签名者可以拿到有效的 C2PA 签名，而这些签名不覆盖文件的任何内容。水印能经受常见的编辑。但理论研究表明，在自然的假设下，强水印（不明显损害内容质量就无法去除的水印）不可能做到。欧盟《人工智能法》要求以机器可读方式标记 AI 生成内容，这项义务已于 2026 年 8 月 2 日起适用，这一局限因此更值得关注。
报道
Google 向公众开放 SynthID 水印检测工具
2026 年 10 月 7 日，Google 向所有人开放了 SynthID Detector 的英文版，此前它推出过面向媒体从业者的早期版本。这款工具检测图像、视频和音频中是否带有 Google 及其具名合作伙伴的水印，因此检测结果只涵盖嵌入了 SynthID 的生成工具所产出的内容。
来源日期 本站刊发 verifiable.pro 快讯，自动采编。
研究人员称 C2PA 排除范围可让恶意签名者为编辑后的图像倒签时间
安全研究人员 David Buchanan 于 2026 年 10 月 2 日发布了一张图片。他称，图片的内容凭证（Content Credentials）签名和可信时间戳都有效，却没有覆盖图片的任何内容。这一演示区分了两项容易混淆的检查：签名是否有效，以及签名覆盖了什么。
来源日期 本站刊发 verifiable.pro 快讯，自动采编。
国家网信办称一款 AI 小程序因未添加标识被责令下线
国家网信办在 2026 年 9 月 15 日公布的执法案例中称，一款微信小程序既没有为 AI 生成的内容添加显式标识，也没有添加元数据标识。另一起案例涉及两个“API 中转”网站，它们未按规定开展安全评估，就提供基于 AI 大模型的服务。
来源日期 本站刊发 verifiable.pro 快讯，自动采编。
欧盟发布 Digital Omnibus on AI，推迟高风险规则并设定标记宽限期
Regulation (EU) 2026/1744 于 2026 年 7 月 24 日刊登在《欧盟官方公报》上，将欧盟《人工智能法》高风险规则的适用日期定为 2027 年 12 月 2 日和 2028 年 8 月 2 日。对于 2026 年 8 月 2 日之前投放市场的生成式 AI 系统，提供者可在 2026 年 12 月 2 日前完成输出标记。
来源日期 本站刊发 verifiable.pro 快讯，自动采编。
TikTok 加入 C2PA 指导委员会，称已标注 30 亿条 AI 生成视频
TikTok 于 2026 年 7 月 10 日宣布加入内容来源与真实性联盟（C2PA）的指导委员会，该联盟于 7 月 27 日确认了这一消息。TikTok 将联盟的内容凭证与一种不可见水印搭配使用，并称这种水印只有 TikTok 能读取。
来源日期 本站刊发 verifiable.pro 快讯，自动采编。
欧盟委员会发布《AI 生成内容标记与标注行为守则》最终版
这份自愿性守则于 2026 年 6 月 10 日发布，说明了在欧盟《人工智能法》框架下，生成式 AI 系统的提供者应如何标记输出，部署者应如何标注深度伪造内容。签署守则的提供者承诺使用签名元数据和数字水印，并提供公司以外的人也能使用的检测工具。
来源日期 本站刊发 verifiable.pro 快讯，自动采编。
研究人员称 C2PA 未达到其宣称的安全目标
11 位作者于 2026 年 4 月 23 日发布分析称，C2PA 内容溯源规范及符合规范的实现都没有达到其宣称的安全目标，C2PA 的符合性计划也不经技术审查就认证产品。作者认为，法律证据等高风险用途目前还不应依赖 C2PA。
来源日期 本站刊发 verifiable.pro 快讯，自动采编。
印度修订信息技术规则，要求为合成媒体加注标签和溯源标记
印度电子和信息技术部于 2026 年 2 月 10 日修订了该国的中介机构规则，新规自 2 月 20 日起生效。凡是可用于制作或分享逼真合成音频、图像或视频的服务，都必须为此类内容加注标签，在技术可行时嵌入溯源元数据，并且不得提供删除二者的手段。
来源日期 本站刊发 verifiable.pro 快讯，自动采编。
韩国《人工智能基本法》施行，规定生成式 AI 输出的标识义务
韩国关于人工智能的基本法于 2026 年 1 月 22 日施行，要求提供者为生成式 AI 的输出添加标识，并允许其选择采用机器可读的形式。韩国科学技术信息通信部表示，将暂缓调查和罚款至少一年。
来源日期 本站刊发 verifiable.pro 快讯，自动采编。
Content Credentials: C2PA Technical Specification (version 2.4)
简介
定义 C2PA 清单：关于媒体资产来源和编辑过程的签名断言。清单通过密码学哈希与内容绑定，也可选择借助指纹或不可见水印与内容关联。
Content Authenticity Initiative
简介
由 Adobe 于 2019 年发起的社区，推动 C2PA 内容凭证的采用，并为其开发开源工具。
Reducing Risks Posed by Synthetic Content: An Overview of Technical Approaches to Digital Content Transparency
简介
NIST 报告（AI 100-4），梳理数字内容透明度的技术路径及其局限。这些路径包括借助水印和元数据追踪内容溯源，以及检测合成内容。
A Watermark for Large Language Models
简介
一种文本水印：在每一步生成时轻微偏向一组伪随机的“绿色”词元。无需访问模型，即可用统计检验检测出水印。
Scalable watermarking for identifying large language model outputs
简介
介绍 SynthID-Text：一种基于采样的文本水印，可与推测采样（一种加快生成速度的技术）配合使用。论文还报告了一项线上实验，评估了近 2000 万条 Gemini 回复的质量。
Google SynthID
简介
Google DeepMind 为 AI 生成的图像、音频、文本和视频提供的水印技术。配套的 SynthID Detector 门户可检测 Google 及 OpenAI、NVIDIA、Kakao 等合作伙伴生成的内容。
The Stable Signature: Rooting Watermarks in Latent Diffusion Models
简介
通过微调潜在扩散模型的解码器，使生成的每张图像都带有不可见水印，并在裁剪等编辑后仍可检测。
Undetectable Watermarks for Language Models
简介
一种面向语言模型的密码学水印，没有密钥就无法把其输出与原模型的输出区分开来。
Watermarks in the Sand: Impossibility of Strong Watermarking for Generative Models
简介
证明在所述假设下，无法给生成模型的输出加上强水印。强水印指不明显降低输出质量就无法去除的水印。论文还给出一种通用的去水印攻击，已成功用于三种文本水印方案。
Code of Practice on Transparency of AI-generated Content
简介
一项自愿性行为守则，帮助生成式 AI 的提供者和部署者履行欧盟《人工智能法》第 50 条规定的标记与标注义务。这些义务自 2026 年 8 月 2 日起适用。守则最终版本于 2026 年 6 月 10 日发布。
Apple Reference Image: A New Approach for Verified Photography
简介
iPhone 的一种可选拍摄模式：图像传感器在拍摄时对像素数据签名。安全隔区（Secure Enclave，iPhone 的安全处理器）对其他元数据签名。随后由 Private Cloud Compute 完成图像显影。Apple 将这一模式与基于 C2PA 的方案作了对比。
How to Hack Time, With C2PA
简介
一篇安全分析文章，讨论 C2PA 的排除范围，即签名者可以不纳入签名哈希的文件部分。作者指出，签名者可以把整个文件排除在外。这样一来，声明签名和可信时间戳不覆盖任何内容，事后的修改也不会使其失效。
人工智能生成合成内容标识办法 (Measures for Labeling AI-Generated Synthetic Content)
简介
国家互联网信息办公室等四部门制定的办法，自 2025 年 9 月 1 日起施行。服务提供者必须为 AI 生成合成内容添加用户能看到或听到的显式标识，并在文件元数据中写入隐式标识。内容传播平台必须核验元数据，并据此添加提示标识。
Framework Act on the Development of Artificial Intelligence and the Creation of a Foundation for Trust
简介
韩国法律，2026 年 1 月 22 日起施行。此处链接为韩国法制研究院提供的非官方英译本。该法要求标注生成式 AI 的输出，并明确告知难以与真实内容区分的 AI 生成声音、图像或视频。它还对训练算力达到阈值的 AI 系统规定了风险管理义务。
JPEG Trust (ISO/IEC 21617)
简介
JPEG 委员会制定的多部分 ISO/IEC 标准，用于为媒体资产附加溯源、真实性、归属、权利和完整性信息。第 1 部分“核心基础”已于 2025 年 1 月以 ISO/IEC 21617-1:2025 发布。信任配置、水印和参考软件等部分仍在制定中。
C2PA Conformance Program
简介
C2PA 于 2025 年年中启动的符合性计划，覆盖生成类产品、验证类产品和证书颁发机构。它依据内容凭证规范、证书策略和安全要求约束这些对象。它公布合规产品列表、C2PA 信任列表和时间戳机构（TSA）信任列表。
How Pixel and Android are bringing a new level of trust to your images with C2PA Content Credentials
简介
Google 介绍 Pixel 10 相机和 Google Photos 如何添加内容凭证。Google 称，相机应用借助硬件支持的密钥远程证明（key attestation），达到了 C2PA 符合性计划的 2 级保障。Google 还称，应用用一次性证书为每张图像签名，并通过设备端时间戳服务为离线拍摄的照片提供可信时间戳。
SoK: Watermarking for AI-Generated Content
简介
关于 AI 生成内容水印的知识系统化综述（SoK）。它形式化地给出水印方案的定义和期望性质，并分析其目标和威胁模型。它还梳理评估策略和代表性方案，并讨论监管背景和待解决的问题。
WAVES: Benchmarking the Robustness of Image Watermarks
简介
图像水印稳健性基准，把检测和识别两类任务与一套标准化压力测试结合起来。测试范围从常见的图像失真，到基于扩散模型的攻击和对抗攻击。每次攻击后，它同时衡量图像质量的下降和水印的检测效果。
MarkLLM: An Open-Source Toolkit for LLM Watermarking
简介
开源工具包，以统一接口实现 KGW、Unigram、SynthID-Text 等多种大模型文本水印算法。它能可视化展示算法如何工作，并提供评估可检测性、稳健性和文本质量的工具。
Video Seal: Open and Efficient Video Watermarking
简介
Meta 的开源神经网络视频水印方法。它联合训练嵌入器和提取器，并在两者之间施加视频压缩编码等变换。它在帧间传播水印，因此不必为每一帧高分辨率画面都嵌入水印。
PAI’s Responsible Practices for Synthetic Media
简介
Partnership on AI 于 2023 年 2 月发布的框架，围绕同意、披露和透明，为合成媒体的技术构建者、创作者以及分发和发布者提出实践建议。PAI 收集支持机构的案例研究，但不对其审计或认证。