深度合成新规来了!三部门联合发布,“AI换脸”被约束

December 2022


     近日,国家互联网信息办公室、工业和信息化部、公安部联合发布《互联网信息服务深度合成管理规定》(以下简称《规定》),自2023年1月10日起施行。深度合成技术涵盖了内容合成、人脸合成、语音合成以及虚拟人全身合成等技术类型,如今大热的AI作画、AI创作、AI换脸以及虚拟人制作等,都属于深度合成技术支持下的应用。《规定》出台主要基于多个方面考虑,一是深入贯彻落实党中央决策部署,进一步加强对新技术新应用新业态的管理;二是维护网络空间良好生态,避免影响传播秩序和社会秩序,损害人民群众合法权益,危害国家安全和社会稳定。三是促进深度合成服务规范发展,明确各类主体的信息安全义务。




      对于深度合成技术的监管,此前在《互联网信息服务算法推荐管理规定》《网络音视频信息服务管理规定》《网络信息内容生态治理规定》等法规中均有提及,而《规定》则对深度合成内容更有针对性地进行规制,标志着监管部门针对互联网信息内容监管版图的进一步细化。“和之前相对碎片化的法规相比,新规的针对性非常强,且全链条管理。”世辉律师事务所合伙人王新锐对界面新闻记者表示,《规定》通过一系列的管理制度要求来管控深度合成带来的风险。
 


      对深度合成服务提供者和技术支持者的数据和技术管理规范,本质上是为了防范日益增长且无法预料的风险。当下深度合成内容制作的技术门槛越来越低,普通人仅需少量的图像、视频、音频等样本数据,利用简便易用的合成工具,就能模糊真实和虚拟(虚假)的边界,甚至利用深度合成技术制造虚假视频、虚假音频进行诬陷、诽谤、诈骗、勒索等违法行为。

      此次发布的《规定》明确提出,深度合成服务提供者对使用其服务生成或者编辑的信息内容,应当采取技术措施添加不影响用户使用的标识,并依法依规保存日志信息。提供智能对话、合成人声、人脸生成、沉浸式拟真场景等具有生成或者显著改变信息内容功能服务的,应当在生成或者编辑的信息内容的合理位置、区域进行显著标识,向公众提示信息内容的合成情况,避免公众混淆或者误认;提供非上述深度合成服务的,应当提供显著标识功能,并提示使用者可以进行显著标识。任何组织和个人不得采用技术手段删除、篡改、隐匿相关标识。