韩国《人工智能基本法》(인공지능기본법)于 2026 年 1 月 22 日施行,生效的是两天前修订后的文本。该法的正式名称为《人工智能发展与信任基础建立基本法》(Framework Act on the Development of Artificial Intelligence and the Creation of a Foundation for Trust)。其施行令,即实施该法的法令,也在同一天生效。[1, 2, 4]
该法第 31 条规定,产品或服务基于高影响 AI 或生成式 AI 运行时,AI 经营者须事先告知用户。经营者还须在生成式 AI 的输出上标明其由 AI 生成。经营者利用 AI 系统提供难以与真实内容区分的声音、图像或视频时,须以用户能够清楚识别的方式告知这一情况。[1, 4]
根据施行令第 23 条,生成式 AI 输出上的标识,既可以采用人能够感知的形式,也可以采用机器可读的形式。提供者如果选择机器可读的标识,还须通过文字或语音至少告知用户一次,说明内容由 AI 生成。对于逼真的合成媒体,用户必须能够通过视觉、听觉或借助软件,轻松确认其中的告知信息。[2]韩国科学技术信息通信部(MSIT)表示,动画、网络漫画等不属于深度伪造的输出,可以使用不可见的数字水印。[3]
MSIT 可以调查涉嫌违反标识义务的行为,并责令改正。对于未履行事先告知义务或不执行改正命令的经营者,可处最高 3000 万韩元罚款。单纯违反标识义务则不罚款。[1]MSIT 表示,将暂缓调查和罚款至少一年,其间只在发生人员死亡等特殊情况时才会调查。[3]
另有一套安全义务适用于最先进的系统,内容包括向 MSIT 报告结果。这类系统可能严重影响人们的生命、安全和权利,训练时使用了至少 10²⁶ 次浮点运算。浮点运算次数用来衡量训练所用的计算量。施行令把这一次数的统计方法交由部长告示规定。[1, 2]
来源
- Framework Act on the Development of Artificial Intelligence and the Creation of a Foundation for Trust (인공지능 발전과 신뢰 기반 조성 등에 관한 기본법), as amended by Act No. 21311
- Enforcement Decree of the Framework Act (인공지능 발전과 신뢰 기반 조성 등에 관한 기본법 시행령), consolidated text as amended by Presidential Decree No. 36580
- AI Basic Act takes effect as the foundation for becoming a top-three AI power (인공지능 3대 강국의 기틀인 「인공지능기본법」 시행)
- Framework Act on the Development of Artificial Intelligence and the Creation of a Foundation for Trust (English translation)
核查或更正本页
- 更正
- 提交更正请求 · 在 GitHub 编辑源文件 · 更正政策
