专家解读｜营造清朗网络空间引导深度合成向上向善

网信中国

　　深度合成服务是我国互联网信息内容治理的重要领域，因其对互联网信息内容安全存在巨大影响，是具有高敏感的算法推荐服务种类。中共中央印发的《法治社会建设实施纲要（2020-2025年）》中，明确提出将深度伪造立法作为完善网络信息服务法律法规的重要项目。《互联网信息服务算法推荐管理规定》中将生成合成类算法作为五类算法推荐服务之首进行规制。由此可见，规范深度合成技术、应用及服务在我国互联网治理中的重要地位。《互联网信息服务深度合成管理规定》（下文简称《规定》）的颁布实施，标志着我国算法安全治理体系的进一步完善。《规定》将深度合成为代表的生成合成类算法作为算法安全治理体系细化的第一步，一方面是由于深度合成属于高敏感性的与互联网信息内容安全息息相关的技术应用，另一方面是因为深度合成技术将成为网络虚拟空间与现实物理世界虚实结合、融为一体的关键技术应用，未来存在巨大发展空间。

　　一、聚焦深度合成信息内容安全

　　深度合成技术能否被合法应用，是关系互联网信息内容安全的大事。虚假信息一直是互联网治理的痛点与难点，深度合成技术的广泛应用则对虚假信息的治理提出了更高的要求。俗语说“耳听为虚，眼见为实”“有图有真相”，可见照片、视频在公众潜意识中的真实性远胜文字。而深度合成技术则恰恰颠覆了这一公众认知，可以伪造音频、图片、视频，捏造人物的行为与语言。作为人工智能深度学习领域的一个分支，深度合成技术在近几年迅速兴起，为政治、军事、经济犯罪甚至恐怖活动等提供了新工具，带来严峻安全挑战。

　　基于深度合成一旦被滥用可能造成的巨大风险，近年来我国陆续颁布法律法规，回应深度合成技术带来的挑战。2020年，国家互联网信息办公室、文化和旅游部、国家广播电视总局三部门联合颁布实施《网络音视频信息服务管理规定》，明确提出对基于深度学习、虚拟现实等新技术新应用上线具有媒体属性或社会动员功能的音视频信息服务开展安全评估，对非真实音视频信息进行标识，不得利用深度学习技术制作并传播虚假新闻信息，部署鉴别技术，尽快建立辟谣机制等措施。2020年，《网络信息内容生态治理规定》要求网络信息内容服务使用者和网络信息内容生产者、网络信息内容服务平台不得利用深度学习、虚拟现实等新技术新应用从事法律、行政法规禁止的活动。2021年开始实施的《民法典》人格权编中明确规定，不论是否出于营利目的，均不得利用信息技术手段伪造他人肖像、声音。2022年，《互联网信息服务算法推荐管理规定》明确要求不得生成合成虚假新闻信息。

　　此次《规定》聚焦深度合成服务，与既往法律法规一脉相承，以保障互联网信息内容安全为主要目标。《规定》要求深度合成服务提供者和使用者不得利用深度合成服务制作、复制、发布、传播虚假新闻信息。转载基于深度合成服务制作发布的新闻信息的，应当依法转载互联网新闻信息稿源单位发布的新闻信息。《规定》同时要求任何组织和个人不得利用深度合成服务制作、复制、发布、传播法律、行政法规禁止的信息，并要求深度合成服务提供者建立健全辟谣机制。

　　以互联网、大数据、人工智能为代表的数字领域是我国发展最快、创新最活跃、辐射最广泛的新兴领域，是公民聚集规模最大的领域。截至2022年6月，我国网民规模达10.51亿，互联网已成为参与人数最多的舆论场、意识形态斗争的主战场。确保深度合成服务应用在法律边界内运行，落实深度合成服务提供者信息安全主体责任，建立深度合成信息内容的辟谣机制，都是《规定》为确保网络信息内容安全建立的制度保障。

　　二、明晰深度合成产业合规框架

　　《规定》的亮点与特色是结合深度合成技术、服务、应用的特点，将监管的触角从信息内容服务层面深入到了技术开发应用层面，将监管的对象从深度合成服务提供者拓展至深度合成技术支持者和使用者，同时对深度合成服务提供者和技术支持者提出了明确的技术要求。这些深度合成的合规要求主要体现于“数据和技术管理”规范专章。

　　第一，监管从信息内容服务层面深入到技术开发应用层面。这是由于一方面深度合成技术的开源开放使得深度合成门槛越来越低，普通民众仅需少量的图像、视频、音频、文本等样本数据，利用简便易用的合成工具，就能得到深度合成内容。另一方面，深度合成的技术支持者如何使用训练数据、如何设计算法机制机理、如何开发应用可搭载的模型模板工具，都直接对深度合成服务的功能应用结果产生影响。因此对互联网信息内容的监管必须将相关技术开发环节纳入监管范畴。

　　第二，监管对象从服务提供者扩展到技术支持者与使用者。一是《规定》将深度合成服务提供者与技术支持者并置于监管对象之列。这既要求深度合成服务提供者履行相关义务，也要求深度合成技术支持者在开发、测试、训练相关技术时，就考虑到可能的风险与危害，履行相应的安全评估责任、数据安全管理义务等。二是《规定》尤其强调了服务提供者对使用者（用户）的管理与提示义务。如要求深度合成服务提供者和技术支持者提供人脸、人声等生物识别信息编辑功能的，应当提示使用者（用户）依法告知被编辑的个人并取得其单独同意。又如要求服务提供者履行管理责任，提示技术支持者和使用者承担信息安全义务，对使用者输入数据和合成结果进行审核，并提示使用者应显著标识。

　　第三，监管时点从事后追责前移至技术开发、应用环节，实现问责可追溯。《规定》要求深度合成服务生成或者编辑的信息内容，必须进行隐式或者显著标识。这从技术监管层面解决了如何对深度合成信息内容进行识别、鉴伪、追踪的关键问题。深度合成服务提供者需要采用技术措施，对深度合成信息内容添加隐式标识，可以实现鉴伪和追踪的目的；如果达到了可能引起公众混淆或者误认的程度，则必须在合理位置区域打上显著标识，向公众提示该信息内容是深度合成的。任何组织和个人不得利用技术手段删除、篡改、隐匿深度合成标识。

　　三、引导深度合成技术向上向善

　　技术原理是中立的，但技术的应用是蕴含着价值取向的。科技进步，不仅要挖掘科技力量为人类赋能，更应展现出人类驾驭与治理技术的智慧。深度合成技术的多样化应用、纵深性发展为人类生活便利与科技变革提供了巨大的想象空间，《规定》的出台则是我国推进科技伦理进步、加强技术治理、促进产业规范健康发展、引导技术向上向善的重要举措。

　　深度合成技术应用多样、领域多元、形态多变。定制表情、换装换发型软件给广大用户的生活带来了乐趣和方便。深度合成技术向善使用，更可挽回经济损失，带给人情感慰藉。如2019年某人工智能实验室受一位母亲所托，将其癌症离世的女儿做成可以交互的软件，合成了女儿的语音保存在互动终端设备中。深度合成技术也代表了未来人工智能产业发展的重要方向，重新定义了虚拟化数字生存空间。2021年“元宇宙”概念的爆发，为深度合成技术提供了更加宽广的应用场景，同时也促进了深度合成技术的加速发展。从更广泛的传播学社会意义上看，一个新的人类生存场景将以深度合成为基石展开。《规定》也回应了这一人工智能未来的发展方向，三维重建、数字仿真等生成或者编辑数字人物、虚拟场景、沉浸式拟真场景的技术，是《规定》规制的深度合成技术的重要类别。

　　由此可见，《规定》既立足于信息内容安全，也顺应了人工智能技术未来发展趋势；既重视事后监管，也将监管的触角延伸至数据训练、技术开发等前期时点。《规定》为防范深度合成技术风险、规范深度合成服务、引导深度合成产业健康持续有序发展奠定了坚实基础。

作者：张凌寒　中国政法大学教授

转载请注明来源：“网信中国”微信公众号

审核：李佳民　赵　娟

编辑：赵雅琪

校对：陈金丹

继续滑动看下一个

专家解读｜营造清朗网络空间 引导深度合成向上向善

一、聚焦深度合成信息内容安全

二、明晰深度合成产业合规框架

三、引导深度合成技术向上向善

专家解读｜营造清朗网络空间引导深度合成向上向善

　　一、聚焦深度合成信息内容安全

　　二、明晰深度合成产业合规框架

　　三、引导深度合成技术向上向善