当前位置:河南热线 > 科技 > 正文
1月10日起施行,合成人声、人脸生成服务应标注,《互联网信息服务深度合成管理规定》来了
2022-12-12 06:59:51 来源: 北京商报网
关注河南热线


(相关资料图)

为防范化解安全风险,同时促进深度合成服务健康发展、提升监管能力水平的需要,相关部门加强深度合成技术管理。12月11日晚间,国家网信办通过官方微信公众号宣布,网信办、工信部、公安部已联合发布《互联网信息服务深度合成管理规定》(以下简称《规定》),自2023年1月10日起施行。《规定》明确,提供智能对话、合成人声、人脸生成、沉浸式拟真场景等生成或者显著改变信息内容功能服务的,应当进行显著标识。深度合成服务治理需要政府、企业、社会、网民等多方主体共同参与,推动深度合成技术的依法、合理、有效使用,积极防范化解深度合成技术带来的风险,促进互联网信息服务健康发展,维护网络空间良好生态。

“《规定》已经2022年11月3日网信办2022年第21次室务会议审议通过,并经工信部、公安部同意,现予公布,自2023年1月10日起施行”,12月11日晚间,网信办宣布。根据《规定》,深度合成技术,是指利用深度学习、虚拟现实等生成合成类算法制作文本、图像、音频、视频、虚拟场景等网络信息的技术。

在数据和技术方面,《规定》明确,采取必要措施保障训练数据安全;训练数据包含个人信息的,应当遵守个人信息保护的有关规定;提供人脸、人声等生物识别信息显著编辑功能的,应当提示使用者依法告知被编辑的个人,并取得其单独同意。定期审核、评估、验证生成合成类算法机制机理;提供具有对人脸、人声等生物识别信息或者可能涉及国家安全、国家形象、国家利益和社会公共利益的特殊物体、场景等非生物识别信息编辑功能的模型、模板等工具的,应当依法自行或者委托专业机构开展安全评估。

《规定》同时指出,深度合成服务提供者提供深度合成服务,可能导致公众混淆或者误认的,应当在生成或者编辑的信息内容的合理位置、区域进行显著标识,向公众提示深度合成情况。具体包括:(一)智能对话、智能写作等模拟自然人进行文本的生成或者编辑服务;(二)合成人声、仿声等语音生成或者显著改变个人身份特征的编辑服务;(三)人脸生成、人脸替换、人脸操控、姿态操控等人物图像、视频生成或者显著改变个人身份特征的编辑服务;(四)沉浸式拟真场景等生成或者编辑服务;(五)其他具有生成或者显著改变信息内容功能的服务。

根据清华大学人工智能研究院、瑞莱智慧等发布的深度合作十大趋势报告(2022),据不完全统计,创作者在互联网平台中发布的深度合成内容的数量呈高速增长,以视频为例,2021年新发布的深度合成视频的数量较2017年已增长10倍以上。

每一次技术变革,在造福社会的同时,也不可避免地会带来安全风险。对此,瑞莱智慧CEO田天向北京商报记者表示,技术不断成熟是深度合成内容迎来爆发式增长的重要原因。研究论文的持续增加、开源技术工具和大量代表性方法的涌现,令深度合成内容的效果更加逼真、制作也更加高效,尤其是生成对抗网络等算法的出现,让合成内容达到了“真假难辨”的程度。

负面风险不断加剧,如何有效甄别深度合成内容成为关键。谈到深度合成的治理,中国工程院院士邬贺铨认为,要持续发展技术,不能“一刀切”地禁止,避免阻碍正向应用与创新。衍生出的安全问题要从源头上解决,利用技术创新、技术对抗等方式,持续提升和迭代检测技术的能力。田天也表示,新型伪造方法层出不穷、网络传播环境的日趋复杂,加上基于检测算法存在漏洞缺陷等,反深伪检测技术面临“强对抗性”,需要持续更新与迭代。

北京商报记者 魏蔚

责任编辑:hN_1227
    独家