【环球时报】高艳东：防范AI复活法律风险，引导数字人安全发展 - 媒体发声

研究成果

【环球时报】高艳东：防范AI复活法律风险，引导数字人安全发展来源：环球时报发布时间：2024-03-27 浏览次数：915

浙江数字化发展与治理研究中心研究员高艳东于《环球时报》2024年3月26日第15版“国际论坛”发表文章《防范AI复活法律风险，引导数字人安全发展》，全文如下：

《环球时报》2024年3月26日第15版截图

近日，一些网络博主使用人工智能（AI）技术“复活”已故明星引发广泛关注。不仅李玟、张国荣、乔任梁等明星被“数字还原”的视频疯传，还有人借机推广收费定制服务。目前，AI复活还只是用图像和音频技术合成，类似于视频数字人。随着生成式人工智能的发展，出现如电影中可以互动、具有一定独立意识的智能数字人的未来也在变成现实。

图片来源：©包图网

从前景来讲，AI复活具有广泛的应用价值：可以让丧亲的家属寄托哀思，可以让粉丝感受偶像的陪伴，可以让英雄鼓励年轻人前行。但任何技术都有两面性，一旦滥用，轻则侵权，重则可能涉嫌违法犯罪。确保AI复活不侵害个人权益、不侵犯公共利益应是相关立法的底线。

第一，AI复活可能侵犯死者家属的权益。一方面，虽然死者不是民事主体，不享有民法意义上的肖像权，但这并不意味着其肖像可以被他人随意使用。《民法典》第994条规定：“死者的姓名、肖像、名誉、荣誉、隐私、遗体等受到侵害的，其配偶、子女、父母有权依法请求行为人承担民事责任。”因此，死者的肖像仍然受到法律保护。另一方面，AI复活使用的是深度合成技术，《互联网信息服务深度合成管理规定》第14条规定：“深度合成服务提供者和技术支持者提供人脸、人声等生物识别信息编辑功能的，应当提示深度合成服务使用者依法告知被编辑的个人，并取得其单独同意。”因此，该服务使用者需取得被编辑人的单独同意，在被编辑人是死者时，应取得其近亲属的同意。虽然一些博主AI复活明星是为了获得流量和关注，并未直接收费，但考虑到互联网的特殊性，流量即价值，博主可通过流量获得广告等收益，所以“赚流量”也属于商业使用。

第二，除了侵犯死者亲属的权益之外，AI复活也存在许多亟待解决的法律问题。一方面，AI复活可能导致社会、法律关系的混乱。工业时代的法律是以自然人为核心建立起来的，而数字人的出现，尤其未来的智能数字人，将让法律面临“自然人+数字人”的双主体困惑。例如，自然人的遗嘱是把房产留给大儿子，而数字人与小儿子的感情密切，想把房产留给小儿子，如何协调两者间的关系是一大问题。此外，数字人创作的作品权益由谁享有？在近亲属死亡后，如何解决数字人的权益问题？这些目前都是法律空白。另一方面，AI复活可能引发违法犯罪，损害公共利益。某种程度上，AI复活是深度伪造技术的应用，而深度伪造技术已经被用于电信网络诈骗，犯罪者同样可能利用AI复活对尚不知情的公众进行诈骗。同时，智能数字人若在网络空间实施其他违法犯罪行为，如发布虚假信息、传播恐怖主义、传授犯罪方法，在管理者已经死亡时，如何对数字人进行追责？此外，如果AI复活了秦桧、希特勒等有争议的历史人物，对大众的情感可能也是一种伤害。

图片来源：©包图网

第三，对于AI复活，法律应采用“不管私用、严管公用”的思路。从人情角度考虑，法律上不对私人领域的AI复活加以干涉，即便近亲属为了缅怀亲人而AI复活死者，只要限制在个人用途，不进入公共网络空间，法律就无须干涉。而在公共网络空间，法律就必须严格防止AI复活的潜在风险。具体而言，一是应根据复活对象设置不同的审查标准，例如，对于AI复活英雄、烈士，应当采用事前特别审批制，严格管控使用用途、开发者的主体资质。而对于复活明星，则可以采用事后追责的模式，根据危害后果对相关主体进行追责。二是应建立强制标注制度。为了防止AI复活以假乱真，对于AI生成物，法律应强制要求开发者增加显著的数字水印，做到可以快速识别数字人。而使用、管理数字人的平台，必须对数字人形象作出特别标注，让用户清楚知道其属性。三是建立数字人销毁制度。数字人应当有明确的管理者，在开发者死亡且缺乏其他管理人时，应建立一套数字人销毁机制或保存机制，以免数字人成为失控的“数字幽灵”。

总之，AI复活对现有法律体系带来的挑战是巨大的。鼓励技术发展的同时防范技术风险，是法律的永恒主题。未来立法应当平衡技术创新与风险防范之间的关系，既不能因其存在风险而一禁了之，也不能无视其潜在的风险。只有采用包容审慎的监管思路，使AI复活技术既能满足个人的情感需要，又不损害公共利益，才能让技术成为推动数字经济发展与社会和谐的正能量。（作者是浙江省新型重点专业智库浙江数字化发展与治理研究中心研究员）

来源：环球时报

编辑：王红岩

审核：郭莹

上一篇：【环球时报】高艳东：立法法修正草案，着眼于向前看
下一篇：【法治日报】高艳东：提高数字货币的风险防范意识