3月1日，《互联网信息服务算法推荐管理规定》正式施行，再度引发业界对算法技术的探讨。真伪难辨的AI换脸视频、逼真的音视觉合成特效、火爆出圈的虚拟数字人……这些创新应用皆标志着AI算法的突飞猛进，同时也成为了深度合成技术走入寻常百姓家的具体体现。

“深度合成技术，是利用深度学习、虚拟现实等生成合成类算法制作文本、图像、音频、视频、虚拟场景等信息的技术。” 瑞莱智慧副总裁唐家渝向《中国电子报》记者介绍说。

从该技术的正向应用价值来看，作为当前大热的元宇宙概念中的一项关键技术，深度合成已被广泛应用于影视、音乐、科技、教育、生活、娱乐、咨询等各个领域，需求场景趋于多元且成熟。比如北京冬奥会期间的手语AI解说小聪、登上春晚舞台的虚拟偶像洛天依以及动画、游戏中快速生成的人物形象等等。

“深度合成重新定义虚拟化数字的生存空间。” 瑞莱智慧CEO田天表示，“元宇宙是非常火爆的话题，很多新应用都在快速发展，但是在虚拟空间里关键的一点就是怎样快速生成更多内容的创作，特别是跟实体进行虚实结合的，基于深度合成技术我们可以把制作时间和成本大大压缩，可以丰富虚拟空间的内容，可以为更加多元化的传播提供可能性。所以，深度合成也是元宇宙发展过程中必不可少的支撑性技术。”

然而，不容忽视的是，随着技术门槛快速降低，通过深度合成技术制造虚假视频、虚假语音进行诬陷、诽谤、诈骗、勒索等违法行为和事例也在不断增多、危害性不断增强，对社会国家安全，公司以及个人的名誉、财产造成等都会造成不可估量的损失。据悉，此前有不法分子通过伪造企业高管语音骗取3500万美元，这桩“深度伪造第一大案”曾经轰动一时。

“数字技术带来的变化是深刻的。数字内容的可重复性、持久性和全球影响力改变了欺骗的潜在规模和影响。”中国社会科学院哲学所研究员、科学技术哲学研究室主任段伟文指出，Deepfake(深度伪造)削弱了人们对信息和媒介的信任感，也会对人际关系产生影响。

近日，清华大学人工智能研究院、北京瑞莱智慧科技有限公司、清华大学智媒研究中心、国家工业信息安全发展研究中心联合发布《深度合成十大趋势报告(2022)》。报告开篇，中国科学院院士、清华大学人工智能研究院创始院长张钹写道：“与其他技术不同，由于人工智能的安全性问题主要来源于算法本身的不安全，它更容易被误用和滥用。以深度合成技术为例，不法分子可以利用它给社会带来巨大的威胁。”

他指出，未来人工智能产业的发展，一方面必须扩大应用的场景，另一方面也必须保证数据和算法的安全性、鲁棒性。科技发展和应用如何才能在最大程度上做到趋利避害，是一个需要长期探索和研究的课题。

如今，信息网络已经深入到我们生活的各个角落，如果深度合成技术被无节制的滥用，我们的眼见、耳闻都不再为实，社会信任也将荡然无存。因此，必须以法律的形式引导技术向善。2022年1月28日，国家网信办最新公布了《互联网信息服务深度合成管理规定(征求意见稿)》(简称《深度合成征求意见稿》)，为深度合成技术做出了一系列较为明确的规定和指引。可以看到，深度合成技术正在逐步迈入一条良性的发展轨道。

“处理Deepfake(深度伪造)没有灵丹妙药，需要采取多种应对措施，包括技术、法律和更广泛的社会措施。” 段伟文表示。对于深度合成服务提供者而言，应当加强信息内容管理，采取技术或者人工方式对深度合成服务使用者的输入数据和合成结果进行审核，建立健全用于识别违法和不良深度合成信息内容的特征库，完善入库标准、规则和程序，对违法和不良信息依法采取响应处置措施，并对相关深度合成服务使用者依法约束采取警示、限制功能、暂停服务、关闭账号等处置措施。

同时，还应定期审核、评估、验证算法机制机理，提供具有对人脸、人声等生物识别信息或者可能涉及国家安全、社会公共利益的特殊物体、场景等非生物识别信息编辑功能的模型、模板等工具，应当自行开展安全评估，预防信息安全风险。

田天指出，希望国家加快推动法治建设，逐步完善配套的法规政策，但同时也要倡导发展自律自治，健全常态化的联动机制，加强检测相关技术研究与宣传，推动形成全社会对深度合成共同治理的格局，鼓励与促进该技术更多的正向应用、正向发展。

（文章来源：中国电子报）