三部门发布“深度合成”技术新规，为元宇宙、人脸合成等公司划红线 ...

子非魚_

　　记者/姜菁玲
　　12月11日，国家互联网信息办公室、工业和信息化部、公安部联合发布《互联网信息服务深度合成管理规定》（以下简称《规定》），自2023年1月10日起施行。
　　深度合成技术涵盖了内容合成、人脸合成、语音合成以及虚拟人全身合成等技术类型，如今大热的AI作画、AI创作、AI换脸以及虚拟人制作等，都属于深度合成技术支持下的应用。
" v* r" g7 W+ ~+ o　　12月12日发布的《<互联网信息服务深度合成管理规定>答记者问》提到，《规定》出台主要基于多个方面考虑，一是深入贯彻落实党中央决策部署，进一步加强对新技术新应用新业态的管理；二是维护网络空间良好生态，避免影响传播秩序和社会秩序，损害人民群众合法权益，危害国家安全和社会稳定。三是促进深度合成服务规范发展，明确各类主体的信息安全义务。
　　对于深度合成技术的监管，此前在《互联网信息服务算法推荐管理规定》《网络音视频信息服务管理规定》《网络信息内容生态治理规定》等法规中均有提及，而《规定》则对深度合成内容更有针对性地进行规制，标志着监管部门针对互联网信息内容监管版图的进一步细化。
　　“和之前相对碎片化的法规相比，新规的针对性非常强，且全链条管理。”世辉律师事务所合伙人王新锐对界面新闻记者表示，《规定》通过一系列的管理制度要求来管控深度合成带来的风险。
1 }  g3 n/ D2 |) k
" F( B2 R6 l6 O" r% N0 o0 Z% e　　《规定》对深度合成服务提供者主体责任进行了明确规定。《规定》强调，任何人或组织不得利用深度合成服务制作、复制、发布、传播法律、行政法规禁止的信息，或从事法律、行政法规禁止的活动。
# ~6 ?, w  ~! t; O$ k8 C* H" N　　《规定》同时要求，深度合成服务者需要采取技术或者人工方式对输入数据和合成结果进行审核，管理深度合成内容，并建立辟谣机制，并且建立健全用户注册、算法机制机理审核、科技伦理审查、信息发布审核、数据安全、个人信息保护、反电信网络诈骗、应急处置等管理制度。
3 O+ U4 w0 i8 q1 C　　“目前来看，对于提供深度合成服务的创业公司来说影响较大，因为新规明显抬高了合规要求和合规成本。”世辉律师事务所合伙人王新锐表示。
　　一位人工智能行业人士对界面新闻记者称，《规定》虽然目前只做了相对宽泛的限制，但是至少未来有不法分子利用AI从事不法行为时能够有依据可以引用。
　　在具体的项目中，该人士提及，为满足合规要求，项目可能需要进一步调试各类图像/文字生成模型，保证模型不会输出暴恐色情内容、不会被人利用制作虚假图像（换脸）等。
+ h% g* E* z3 f( v　　另外， 对于新规所强调的“具有舆论属性或者社会动员能力的深度合成服务提供者，应当按照《互联网信息服务算法推荐管理规定》履行备案和变更、注销备案手续。”
　　王新锐律师提到，之前完成了算法备案的公司，大多数为大型互联网公司。在为这些企业提供算法备案的相关协助中，也感受到监管的要求较高，企业需要有比较完善的内控机制，才能满足相关文件要求。
　　此次《规定》对深度合成服务提供者和技术支持者提出了明确的数据和技术管理规范。其中包括，深度合成服务提供者和技术支持者提供人脸、人声等生物识别信息编辑功能的，应当提示深度合成服务使用者依法告知被编辑的个人，并取得其单独同意。
　　清华大学公共管理学院教授、人工智能国际治理研究院副院长梁正向界面新闻记者分析，上述条例实际上是遵循了《个人信息保护法》，明确了在深度合成技术场景中的隐私保护。比如在AI换脸应用中，《规定》出台之后，未经他人同意情况下，使用他人照片进行AI换脸内容制作将是违规行为。
　　梁正还提及，在上述条例支持下，人工智能模型的训练不能随意使用未经同意的人脸、声音等带有生物特征的数据。
1 y6 Q8 x& g6 M- [7 M# W7 A　　在以往，许多人工智能模型的训练通常会经历“全网爬取数据”的阶段，许多个人公布在公共社交媒体的照片、视频可能会在不被告知的情况下被机器学习，成为某个模型的养料。《规定》中对于人脸、声音等生物特征信息的使用提出明确的前提条件，一定程度上可以解决这个问题。
　　对深度合成服务提供者和技术支持者的数据和技术管理规范，本质上是为了防范日益增长且无法预料的风险。
　　当下深度合成内容制作的技术门槛越来越低，普通人仅需少量的图像、视频、音频等样本数据，利用简便易用的合成工具，就能模糊真实和虚拟（虚假）的边界，甚至利用深度合成技术制造虚假视频、虚假音频进行诬陷、诽谤、诈骗、勒索等违法行为。
　　2017年，有技术团队利用AI换脸技术，制作了一则美国前总统奥巴马侮辱特朗普的视频，在互联网获得超过480万余次浏览；2022年，《福布斯》杂志报道称，一位欺诈者用深度伪造语音冒充客户，在阿拉伯联合酋长国某银行骗取了3500万美元。
; J$ o5 d6 o# N　　此次发布的《规定》明确提出，深度合成服务提供者对使用其服务生成或者编辑的信息内容，应当采取技术措施添加不影响用户使用的标识，并依法依规保存日志信息。提供智能对话、合成人声、人脸生成、沉浸式拟真场景等具有生成或者显著改变信息内容功能服务的，应当在生成或者编辑的信息内容的合理位置、区域进行显著标识，向公众提示信息内容的合成情况，避免公众混淆或者误认；提供非上述深度合成服务的，应当提供显著标识功能，并提示使用者可以进行显著标识。任何组织和个人不得采用技术手段删除、篡改、隐匿相关标识。
　　梁正认为，标识可以让受众明白内容是否属于深度合成，一定程度上可以减少深度合成内容产生的社会偏差。对于技术支持公司来说，对输出内容增加标识难度不大。不过，对于平台型公司而言，如何识别出不同上传者的深度合成内容标识将成为一个难点。
) _1 h% |1 q/ S1 q4 V' P