网信办发布境内深度合成服务算法备案清单

(资料图)

6月20日，国家互联网信息办公室（下称“网信办”）发布境内深度合成服务算法备案清单，其中包括美团在线智能客服算法、快手短视频生成合成算法、百度文生图内容生成算法、百度PLATO大模型算法、天猫小蜜智能客服算法等41则深度合成服务算法备案信息。

“算法备案同审查与评估一样，是监管重要环节之一，备案清单的发布有利于促使备案单位进一步加强合规管理。”工信部新基建重大项目评审专家、北京邮电大学科技园元宇宙产业协同创新中心执行主任陈晓华在接受《证券日报》记者采访时表示，这体现了我国对此轮人工智能引领的科技变革的重视，针对生成式算法的法规标准化步伐正在加速推进。随着相关监管条例逐步清晰，我国AI产业生态将更加规范有序。

所谓深度合成技术是指利用深度学习、虚拟现实等生成合成类算法制作文本、图像、音频、视频、虚拟场景等网络信息的技术。去年12月份，由网信办等三部门发布的《互联网信息服务深度合成管理规定》（下称《规定》）明确，具有舆论属性或者社会动员能力的深度合成服务提供者，应当按照相关规定履行备案和变更、注销备案手续。同时，完成备案的深度合成服务提供者和技术支持者应当在其对外提供服务的网站、应用程序等的显著位置标明其备案编号并提供公示信息链接。

“设立境内深度合成服务算法备案清单是对《规定》的贯彻和落实，旨在对尚未履行备案手续的深度合成服务提供者和技术支持者起到引导作用，也让公众获得了解、查询相关主体是否履行备案手续的渠道。”国浩律师（上海）事务所律师朱奕奕对《证券日报》记者表示。

深度合成技术最大的特点之一是“以假乱真”，通过人工智能和大数据算法合成的虚拟数据能够使人难辨真假。例如，5月8日，包头市公安局电信网络犯罪侦查局发布一起使用智能AI技术进行电信诈骗的案件，涉案金额超330万元。据相关通报，行骗者通过AI换脸和拟声技术，佯装受害者熟人以实施诈骗。

对此，清华大学研究生院院长周杰表示，深度合成技术快速发展的同时，也带来了新的安全风险。误用、滥用以及恶意使用深度合成技术生成的数据，将为个人、企业带来声誉损害和财产损失，甚至对国家安全、社会稳定造成威胁。

在此背景下，生成式AI（AIGC）产品进一步规范迫在眉睫。在朱奕奕看来，此次网信办发布境内深度合成服务算法备案清单，将引导尚未履行备案手续的深度合成服务提供者和技术支持者尽快申请备案。同时，也方便公众了解相关信息后进行监督、投诉、举报。

对于相关企业来说，朱奕奕表示，一方面应依法履行备案手续，在提供深度合成服务时应严格遵守相关法律法规、行业标准、准则及自律管理制度，尊重社会公德和伦理道德；另一方面，应积极承担起社会监督责任，例如在运营过程中发现违法和不良信息的，应当依法采取处置措施，保存有关记录，及时向网信部门和有关主管部门报告。

此外，朱奕奕提示，相关规定中仅明确了通过隐瞒有关情况、提供虚假材料等不正当手段取得备案情况下的法律责任，但并未规定未履行备案手续而直接提供深度合成服务，或未履行备案手续而直接为深度合成服务提供技术支持的法律责任。后续需在配套政策细则中予以补充、完善。

标签：

　　 原标题：网信办发布境内深度合成服务算法备案清单