深度合成技术，指利用以深度学习、虚拟现实为代表的生成合成类算法制作文本、图像、音频、视频、虚拟场景等信息的技术。2月18日，清华大学人工智能研究院、北京瑞莱智慧科技有限公司联合国家工业信息安全发展研究中心、北京市大数据中心等单位，共同发布了《深度合成十大趋势报告（2022）》（以下简称《报告》）。《报告》从多个维度，用客观方法对2017年至2021年深度合成技术与应用发展情况进行了研究分析。
《报告》显示，近几年，深度合成内容制作和传播数量高速增长。2021年发布的深度合成视频数量，较2017年增长10倍以上。深度合成内容关注度也呈指数级增长，以视频的“点赞/喜欢”互动数据为例，2021发布的深度合成视频点赞数已超过3亿。
技术研究成果是深度合成内容广泛传播的底层推动力，GAN（生成对抗网络）的出现在深度学习领域掀起一场“革命”。以GAN为代表的深度合成技术迅速发展，深度合成领域的新发表论文数量自2017年起持续以每年30%速率高速增长。同时，深度合成领域开源项目也以每年30%速率攀升。深度合成在开源社区中持续走高的热度，持续推动该技术的发展与在产业中的落地。在应用场景方面，《报告》显示，深度合成的应用场景不断丰富，如修复历史照片、AI手语主播、虚拟偶像等应用。
此外，越来越多的企业机构开始利用深度合成技术提供面向公众的产品和服务。不同领域的情况有所差异，《报告》显示，图像和视频在深度合成应用的初期应用最为普遍。音频方面，语音合成已经成为人机交互的重要一环，且被广泛应用于智能硬件、智能客服、语音导航、有声读物、机器人、语音助手等场景。文本方面，深度合成在新闻报道、诗文创作、聊天问答等方面都得到越来越多的应用，并显现出巨大的未来潜力。《报告》预测，伴随着自动数据生成、全身合成、3D塑形等技术的逐渐成型，元宇宙等新的人类生存场景将以深度合成技术为基石展开。
《报告》认为，在深度合成技术向社会生活的各个领域渗透之时，深度合成内容负面风险持续加剧且产生实质危害。随着深度合成技术的开放开源、深度合成产品和服务的增多，深度合成内容制作的技术门槛越来越低，实现了技术的“平民化”，通过深度合成技术制造虚假视频、虚假音频进行诬陷、诽谤、诈骗、勒索等违法行为和事例已屡见不鲜。人类的传播活动，也因深度合成技术逐渐步入“深度后真相”时代。需要警惕的是，深度合成技术的恶意伪造内容通常迎合大众猎奇心理，具有极强的意识塑造能力。
《报告》还指出，深度合成内容的鉴别正面临技术挑战。新型伪造方法的层出不穷，基于深度神经网络的检测算法存在结构性缺陷等，反深伪检测技术也面临“强对抗性”，需要持续更新与迭代优化。随着深度合成的负面影响显现，世界各国纷纷出台管理法律法规，探索对深度合成的依法管理。今年1月28日，国家互联网信息办公室发布《互联网信息服务深度合成管理规定（征求意见稿）》并公开征求意见，旨在促进深度合成技术依法合理、有效利用，规范发展互联网信息服务深度合成活动。
面对深度合成这把双刃剑，如何规范深度合成技术应用，最大限度地趋利避害？中国科学院院士、清华大学人工智能研究院创始院长张钹在《报告》中表示，人工智能的治理是一项长期任务，既要走创新发展的道路，坚持发展更加安全、可靠、可控的人工智能；还要抓人工智能的治理，从伦理规范、法律法规、行业共识等不同层面去发力。
中国社科院哲学所科技哲学研究室主任段伟文建议，对深度合成技术引发的社会、法律和伦理问题，应展开有系统性、前瞻性的跨学科研究，对其可能出现的高风险应用场景进行有针对性的治理与监管。
对于深度合成内容治理路径的探索，清华大学新闻与传播学院常务副院长陈昌凤表示，可从技术、伦理与法治等方面努力。技术方面，通过政府与社会组织参与、协同治理，伦理方面，确立和倡导相关的深度合成原则。
中科院自动化所研究员、联合国教科文组织AI伦理特设专家组专家曾毅则倡导产研发展自律自治，在法律法规成熟及体系化前，业界应强化“理论先行”意识，作为产业共同体共同防范滥用、严禁恶用。
对外经济贸易大学法学院副教授许可提到，社会层面应强化公民对深度合成等人工智能技术的认识，提高全社会的防范意识、推动公民作为负责任的深度合成技术使用者。北京瑞莱智慧科技有限公司首席执行官田天也表示，深度伪造的根本问题是透明度不足，提高公众对深度合成技术的认知尤为重要。
《报告》也建议，各方应与时俱进落实新的规范要求，并在此前提下不断追求技术突破，不断开拓深度合成技术应用场景，创立示范标杆，形成对人工智能行业整体的带动效应，促进新技术的持续健康发展。（记者孔繁鑫）
原标题：深度合成治理需法律、伦理、技术三者合力