(相关资料图)

为防范化解安全风险，同时促进深度合成服务健康发展、提升监管能力水平的需要，相关部门加强深度合成技术管理。12月11日晚间，国家网信办通过官方微信公众号宣布，网信办、工信部、公安部已联合发布《互联网信息服务深度合成管理规定》（以下简称《规定》），自2023年1月10日起施行。《规定》明确，提供智能对话、合成人声、人脸生成、沉浸式拟真场景等生成或者显著改变信息内容功能服务的，应当进行显著标识。深度合成服务治理需要政府、企业、社会、网民等多方主体共同参与，推动深度合成技术的依法、合理、有效使用，积极防范化解深度合成技术带来的风险，促进互联网信息服务健康发展，维护网络空间良好生态。

“《规定》已经2022年11月3日网信办2022年第21次室务会议审议通过，并经工信部、公安部同意，现予公布，自2023年1月10日起施行”，12月11日晚间，网信办宣布。根据《规定》，深度合成技术，是指利用深度学习、虚拟现实等生成合成类算法制作文本、图像、音频、视频、虚拟场景等网络信息的技术。

在数据和技术方面，《规定》明确，采取必要措施保障训练数据安全；训练数据包含个人信息的，应当遵守个人信息保护的有关规定；提供人脸、人声等生物识别信息显著编辑功能的，应当提示使用者依法告知被编辑的个人，并取得其单独同意。定期审核、评估、验证生成合成类算法机制机理；提供具有对人脸、人声等生物识别信息或者可能涉及国家安全、国家形象、国家利益和社会公共利益的特殊物体、场景等非生物识别信息编辑功能的模型、模板等工具的，应当依法自行或者委托专业机构开展安全评估。

《规定》同时指出，深度合成服务提供者提供深度合成服务，可能导致公众混淆或者误认的，应当在生成或者编辑的信息内容的合理位置、区域进行显著标识，向公众提示深度合成情况。具体包括：（一）智能对话、智能写作等模拟自然人进行文本的生成或者编辑服务；（二）合成人声、仿声等语音生成或者显著改变个人身份特征的编辑服务；（三）人脸生成、人脸替换、人脸操控、姿态操控等人物图像、视频生成或者显著改变个人身份特征的编辑服务；（四）沉浸式拟真场景等生成或者编辑服务；（五）其他具有生成或者显著改变信息内容功能的服务。

根据清华大学人工智能研究院、瑞莱智慧等发布的深度合作十大趋势报告（2022），据不完全统计，创作者在互联网平台中发布的深度合成内容的数量呈高速增长，以视频为例，2021年新发布的深度合成视频的数量较2017年已增长10倍以上。

每一次技术变革，在造福社会的同时，也不可避免地会带来安全风险。对此，瑞莱智慧CEO田天向北京商报记者表示，技术不断成熟是深度合成内容迎来爆发式增长的重要原因。研究论文的持续增加、开源技术工具和大量代表性方法的涌现，令深度合成内容的效果更加逼真、制作也更加高效，尤其是生成对抗网络等算法的出现，让合成内容达到了“真假难辨”的程度。

负面风险不断加剧，如何有效甄别深度合成内容成为关键。谈到深度合成的治理，中国工程院院士邬贺铨认为，要持续发展技术，不能“一刀切”地禁止，避免阻碍正向应用与创新。衍生出的安全问题要从源头上解决，利用技术创新、技术对抗等方式，持续提升和迭代检测技术的能力。田天也表示，新型伪造方法层出不穷、网络传播环境的日趋复杂，加上基于检测算法存在漏洞缺陷等，反深伪检测技术面临“强对抗性”，需要持续更新与迭代。

北京商报记者 魏蔚