编者按 习近平总书记指出，要始终用人类智慧和国际共识引领人工智能发展，使其真正成为增进全人类福祉、推动人类文明进步的强大正能量。9月7日最高人民法院出台的《关于依法审理涉人工智能纠纷案件的意见》，聚焦AI换脸、拟声等侵害人格权益热点问题，为保护自然人肖像、声音、隐私等人格权益提供重要指引。人民法院如何正确审理人工智能侵权纠纷案件，预防和规制滥用人工智能技术侵害人格权益的行为？本栏目特刊发清华大学法学院教授程啸撰写的评论文章，敬请关注。
习近平总书记指出，人工智能应当成为人类的可信工具。要高度重视人工智能引发的各类内生和衍生风险，推动构建法律法规、技术监测、风险预警、应急响应体系，筑牢安全底线，防范滥用恶用，确保人工智能始终处于人类控制之下。随着人工智能尤其是生成式人工智能技术的飞速发展，利用人工智能技术侵害民事主体的姓名权、肖像权、名誉权、隐私权以及个人信息权益等人格权益的情形越来越常见。司法实践中也出现了“AI换脸案”“AI侵害声音权案”“利用人工智能软件丑化恶搞他人案”“生成式人工智能侵害名誉权案”等人工智能侵权纠纷案件。人格权是民事主体对其特定的人格利益享有的权利，关系到每个人的人格尊严，是民事主体最基本的权利。面对人工智能技术的突飞猛进以及在社会生产生活中的普遍应用，如何坚持以人为本，充分保护人工智能时代的人格权益，增进人民福祉已经成为新时代人民法院面临的一项重要任务。
9月7日最高人民法院出台的《关于依法审理涉人工智能纠纷案件的意见》（以下称《意见》）正是一份深入贯彻习近平总书记关于人工智能的重要讲话精神，紧紧围绕人工智能技术发展和创新的特点，用足用好现行法律规定，充分保护人工智能时代各类民事主体人格权益的重要司法文件。《意见》从五个方面就如何正确审理人工智能侵权纠纷案件，预防和规制滥用人工智能技术侵害人民群众人格权益的行为作出了科学详尽的规定。
一、准确界定生成式人工智能技术侵害人格权益的侵权责任
针对目前广泛发生并备受关注的人脸替换、人脸生成、语音合成、声音克隆等人工智能技术应用中的侵害肖像权、声音权益以及死者肖像、声音等行为，《意见》明确指出，要依法规制“AI换脸拟声”等利用生成式人工智能侵害人格权益的行为。民法典规定，自然人享有姓名权、肖像权，除法律另有规定或者权利人明确同意外，任何组织或者个人不得侵害。《意见》进一步明确，民事主体在利用生成式人工智能处理特定自然人或者死者的姓名、肖像时，不得违反法律、法规，不得违背公序良俗。除法律另有规定的外，未经自然人同意，利用人工智能处理自然人的姓名、肖像等，生成可识别该自然人的虚拟数字形象并使用、公开的，构成对该自然人的姓名权、肖像权等人格权益的侵害，应当依法承担侵权责任。民法典虽然没有将声音权作为一项具体人格权，但对自然人声音的保护，参照适用肖像权保护的有关规定。就目前一些单位或者个人未经自然人同意使用其声音作为训练语料，模仿该自然人的音色、语调和发音风格等生成能够识别该自然人的合成人声的现象，《意见》明确将该行为界定为侵害声音权益的行为。就一些人操控生成合成的能够识别特定自然人的虚拟数字形象、声音实施不当行为或者发表不实言论，从而降低该自然人或者他人社会评价的行为，《意见》明确规定，该行为构成侵害名誉权的行为。此外，“AI复活逝者”若被不当应用，会对法律秩序和伦理观念造成冲击。为及时回应社会普遍关注的死者人格利益保护问题，《意见》专门规定，利用人工智能技术擅自制作、使用死者的虚拟数字形象致使死者的姓名、肖像、名誉等受到侵害的，死者近亲属有权依据民法典第九百九十四条的规定请求行为人承担民事责任。这里蕴含了一个条件，即死者近亲属应当按照民法典第九百九十四条规定的顺位来行使权利。
二、依法规制利用人工智能技术侵害隐私权的行为
隐私权的保护对于维护自然人的人格尊严和人身自由至关重要。当前，一些人利用人工智能技术实施“网络开盒”“人肉搜索”，侵害自然人隐私权，并对他人进行网络暴力的违法行为较为猖獗，严重侵害了自然人的人格权益，人民群众对此反应强烈。为了更好地保护隐私权，结合当前人工智能侵害隐私权案件的审判实践，《意见》对如下两种典型情形予以明确：首先，对于以刺探隐私为目的，利用人工智能对特定自然人的电话号码、网络账号及社交媒体等公开信息进行追踪、分析，获取私密信息，或者将所获取的私密信息泄露、公开，或者利用所获取信息侵扰私人生活安宁的，应当被认定为侵害隐私权的侵权行为；其次，利用人工智能对特定自然人的私密空间、私密活动等实施拍摄、窥视、窃听等行为的，应当认定构成对隐私权的侵害，除非法律另有规定或者该自然人明确同意。
三、加强人工智能训练中的个人信息权益保护
数据是人工智能技术发展和创新的基本要素。人工智能训练需要使用海量的高质量数据，然而，所使用的必须是来源合法的数据，任何人都不得以非法侵害个人信息权益的方式进行数据训练。在目前的人工智能训练中，使用的很多数据是已公开的个人信息。为了促进个人信息的流动与利用，民法典和个人信息保护法对于如何处理合法公开的个人信息作出了规定。人工智能开发者在模型训练过程中处理个人信息也属于个人信息处理行为的一种，应当遵守民法典及个人信息保护法关于已公开个人信息的处理规则。《意见》立足人工智能训练中公开个人信息的处理进一步明确：首先，为人工智能模型训练，在合理范围内处理个人自行公开的或者其他已经合法公开的个人信息且个人未明确拒绝的，法院一般不认定为侵害个人信息权益的行为；其次，对个人权益有重大影响的，应当依照法律规定取得个人同意；再次，人民法院在认定合理范围时，应当综合考量处理个人信息的目的与模型功能的必要性和适当性、所涉个人信息的类型、敏感程度及对个人权益的潜在影响、个人公开信息时的场景及可合理预期的使用范围等因素。如此规定，能够有效平衡个人信息保护与我国人工智能产业发展之间的关系。
四、生成式人工智能服务提供者侵权责任参照适用通知删除规则
生成式人工智能服务提供者，是指利用生成式人工智能技术提供生成式人工智能服务（包括通过提供可编程接口等方式提供生成式人工智能服务）的组织、个人。目前，就生成式人工智能服务提供者的侵权责任是否适用民法典第一千一百九十五条等规定的“通知删除”规则，存在一定争议。考虑到对生成式人工智能服务提供者的侵权责任适用通知删除规则不仅不会过度加重提供者责任，还有利于我国人工智能产业的创新发展，更好协调权益保护与行为自由的关系，故《意见》明确了生成式人工智能服务提供者侵害人格权益的，可以参照适用通知删除规则。具体而言，生成式人工智能自动生成的内容侵害他人名誉权、隐私权等人格权益，经权利人通知，生成式人工智能服务提供者未及时采取停止生成侵权内容等必要措施的，应当对造成的损害依法承担侵权责任。如果网络用户通过输入侵权提示词等方式恶意诱导生成式人工智能生成侵权内容并造成他人损害的，那么，该网络用户应当依法承担侵权责任。倘若生成式人工智能服务提供者在接到权利人通知后，未及时采取停止生成侵权内容、屏蔽相关生成指令等必要措施，权利人有权请求该网络用户、生成式人工智能服务提供者承担民事责任。
五、人工智能侵害人格权益纠纷中人格权侵害禁令的适用
为更加充分及时保护人格权益，民法典第九百九十七条确立了人格权侵害禁令制度。依据这一规定，民事主体有证据证明行为人正在实施或者即将实施侵害其人格权的违法行为，不及时制止将使其合法权益受到难以弥补的损害的，有权依法向人民法院申请采取责令行为人停止有关行为的措施。在人工智能侵害人格权益的案件中，为更好保护人格权益，也应适用人格权侵害禁令制度。《意见》立足司法实践，进一步细化了人格权侵害禁令制度，并完善了责令停止有关行为的措施，即：自然人、法人或者非法人组织有证据证明行为人利用人工智能正在实施或者即将实施侵害其人格权益的违法行为，不及时制止将使其合法权益受到难以弥补的损害，向人民法院申请采取责令行为人停止有关行为或者责令有关网络服务提供者、生成式人工智能服务提供者停止提供有关服务的措施的，人民法院可以依法作出人格权侵害禁令。为平衡保护申请人和被申请人的利益，《意见》还专门规定，在作出人格权侵害禁令时，人民法院应当结合被侵害的人格权类型、违法行为的方式以及可能造成损害的范围、程度等因素，采取相应的禁令措施，不得超出必要限度。
科技向善，包括人工智能在内的任何科技的发展和应用都应当始终坚持以人为本，服务于人，造福于民。《意见》通过对涉人工智能侵害人格权益案件的精准规制，明晰相关司法裁判规则，有利于加强数字时代民生权益司法保障，积极引导人工智能增进人民福祉，促推人工智能为民向善，为以中国式现代化全面推进强国建设、民族复兴伟业提供有力的司法服务和保障。
(作者系清华大学法学院教授、个人信息保护与数据权利研究中心主任)
编辑：李华山
