中新经纬3月24日电 题：AI深度合成技术蕴含巨大法律风险

作者 肖飒 北京大成律师事务所合伙人

3月23日，AI生成“特朗普被捕”图网络疯传，还登上热搜榜。据报道，美国前总统特朗普还没有被捕，但他“被捕”的照片已经在网络上疯传。原来，美国网友利用AI技术合成了一系列他被捕的“照骗”。但此事引起了网络的巨大争议。

(相关资料图)

玩笑归玩笑，但其背后却蕴含着巨大的法律风险。AI深度合成技术已经成为网络犯罪(特别是网络诈骗犯罪)的“神器”，2022年年初的马斯克换脸诈骗案仅在一周之内就成功诈骗2亿资金。

AI写稿、语音生成、合成音乐、生成艺术、人脸替换生成、场景编辑、三维重建以及虚拟数字人等，都在深度合成技术的“射程范围”内。

随着基于AI能力的扩展，它们被用于犯罪的潜力也随之增加。2020年，伦敦大学学院针对AI技术可能会在未来滋生的各类犯罪进行了深度研究并制作了研究报告。报告中，研究人员确定了在未来15年内使用AI实施(帮助)犯罪的20种方式，这些犯罪方式包括非法控制自动驾驶汽车作为武器、鱼叉式网络钓鱼、破坏信息系统、小型AI机器人入室盗窃、AI辅助跟踪、自主攻击无人机、深度合成技术以及大规模网络勒索等。

深度合成既为我们的生活带来了更多的便利，同时也带来了许多潜在的系统性风险，包括：政治操纵。该种风险主要来自利用深度合成技术制造的假新闻，假新闻已经不是什么新鲜事，但深度合成技术使其与以往相比更加逼真可信，深度合成技术的滥用很可能会发生操纵公民、干预选举、威胁国家安全和影响社会稳定的严重后果，以及更广泛地侵蚀对新闻业和公共机构的信任。金融诈骗。这是当前利用深度合成技术实施犯罪的行为中，最常见、最多发的一种，深度合成在金融诈骗方面存在令人不寒而栗的潜力。另外，利用深度合成技术对其他商业主体的商誉进行损害，也是一种常见的不正当竞争行为。敲诈勒索、报复等。在某短视频平台上我们可以利用深度合成技术完成特效、换脸等方式来创作一些有趣的内容，此时的深度合成技术是我们娱人娱己的小工具。但我们是否想过，一旦将“换脸术”用到一些敏感视频中，会发生什么样的后果？不正当竞争。该用例说来有趣，2022年年初，在国外某著名求职平台上，有数十家公司被曝利用深度合成技术生成假人和假身份并进行虚假账户销售，不仅可以以此扩展业务，甚至还减少了人力成本。

我们作为普通人要注意的是，首先，深度合成技术不是万能的，假视频图片等材料的生成需要使用个人图像和视频作为原材料。在这方面，名人的风险与普通人相比大得多。因此，为了最大限度地降低这种风险，谨慎的做法是只将自拍照和其他肖像、视频发布到私人账户，并限制公开和分享的渠道(比如仅少量亲友可见)。其次，我们还要避免在公开渠道发送我们不同年龄阶段的个人图像。犹记得某短视频平台上一个很火的模板是将自己从小到大的照片放在一起配上音乐快速闪回播放，实际上这是一种危险的做法，其为AI算法提供了大量有关我们个人相貌变化的宝贵信息，可以使得深度合成技术更轻易和精确地合成视频。

2022年年初，中国国家互联网信息办公室出台了《互联网信息服务深度合成管理规定》(征求意见稿)，这是中国在规制深度合成技术方面走出的第一步。(中新经纬APP)

本文由中新经纬研究院选编，因选编产生的作品中新经纬版权所有，未经书面授权，任何单位及个人不得转载、摘编或以其它方式使用。选编内容涉及的观点仅代表原作者，不代表中新经纬观点。

责任编辑：孙庆阳