论生成式人工智能服务提供者的过错推定责任On the Presumed-fault Liability of Generative AI Service Providers
张新宝 ,卞龙
摘要(Abstract)：
生成式人工智能不符合产品与服务区分视角下的产品概念，其功能主要是输出特定内容和信息，服务提供者不应承担产品责任。生成式人工智能不符合适用无过错责任的基本前提，虽然服务提供者可以更有效率地控制技术风险，但是生成式人工智能通常不存在较高程度的危险性，不宜出于保护公众权益的考虑要求服务提供者内化全部的权益侵害风险。鉴于破除受害人举证困境、适度强化服务提供者义务和责任等需要，应当引入过错推定责任。服务提供者可以通过证明其在训练端和输出端都尽到了与避免侵权输出相关的注意义务来推翻过错。注意义务的标准应适当严格，以激励服务提供者采取充分的风险预防措施。
关键词(KeyWords)： 生成式人工智能;侵权责任;归责原则;过错推定责任
基金项目(Foundation):
作者(Author): 张新宝 ,卞龙
DOI: 10.13893/j.cnki.bffx.2025.05.004
参考文献(References)：
- (1)See Emmanuela N. Truli, Non-contractual Liability in the Context of Artificial Intelligence:The Long Way to New EU Legislative Tools,31 European Review of Private Law 35, 45(2023).
- (2)王利民、郭明龙：《民事责任归责原则新论——过错推定规则的演进：现代归责原则的发展》，载《法学论坛》2006年第6期，第55页。
- (3)See European Commission, New Liability Rules on Products and AI to Protect Consumers and Foster Innovation, European Commission(28 September 2022), https://ec.europa.eu/commission/presscorner/detail/en/ip_22_5807.
- (4)See European Parliamentary Research Service, Proposal for a directive on adapting non-contractual civil liability rules to artificial intelligence:Complementary impact assessment, European Parliament(19 September 2024), https://www.europarl.europa.eu/RegData/etudes/STUD/2024/762861/EPRS_STU(2024)762861_EN.pdf.
- (5)参见陈晨：《人工智能侵权中的责任主体及归责原则》，载《中外法学》2025年第2期，第371—372页。
- (6)参见郑志峰：《人工智能产品责任的立法更新》，载《法律科学（西北政法大学学报）》2024年第4期，第5—10页。
- (7)参见丁峻峰：《对〈产品责任法〉中的“产品”的再思考》，载《法学》2002年第1期，第60—61页。
- (8)周新军：《产品责任立法中的利益平衡》，中山大学出版社2007年版，第306页。
- (9)参见戴浩然：《论智力产品责任》，载《法学》2002年第9期，第63—64页。
- (10)参见美国法律研究院：《侵权法重述第三版：产品责任》，肖永平等译，法律出版社2006年版，第396—397页。
- (11)参见前引(6)，第6—7页。
- (12)参见温世扬、吴昊：《论产品责任中的“产品”》，载《法学论坛》2018年第3期，第77—78页。
- (13)蒋云蔚：《信息产品责任研究》，载《现代法学》2008年第1期，第167页。
- (14)参见[英]西蒙·惠特克：《欧洲产品责任与智力产品》，邹海林译，载《环球法律评论》1991年第2期，第66—67页。
- (15)参见程啸：《侵权责任法》，法律出版社2021年版，第560页。
- (16)软件与出版物中的信息本质上都是自然人的智力成果，区别在于软件的运行可以直接作用于计算机，借助硬件造成计算机的损害或者其他财产损失。
- (17)参见李扬：《信息产品责任初探》，载《中国法学》2004年第6期，第76—77页。
- (18)冉克平：《产品责任理论与判例研究》，北京大学出版社2014年版，第60—62页。
- (19)汪庆华、胡临天：《生成式人工智能责任机制的技术与法律建构》，载《中国法律评论》2024年第4期，第120页。
- (20)参见[美]戴维·G.欧文：《产品责任法》，董春华译，中国政法大学出版社2012年版，第93—97页。
- (21)See Miriam C. Buiten, Product Liability for Defective AI, 57 European Journal of Law and Economics 239, 258(2024).
- (22)参见许传玺：《美国产品责任制度研究》，法律出版社2013年版，第111—114、150—151页。
- (23)虽然欧盟判断产品缺陷采用的是消费者期待标准，但是在评估发展风险抗辩时同样会考虑是否存在合理的替代设计等因素。
- (24)张岚：《产品责任法发展史上的里程碑——评美国法学会〈第三次侵权法重述：产品责任〉》，载《法学》2004年第3期，第123页。
- (25)张新宝：《侵权责任法讲义》，人民法院出版社2024年版，第266页。
- (26)参见冉克平：《论产品设计缺陷及其判定》，载《东方法学》2016年第2期，第16—20页。
- (27)See Deimant?Rimkut?, Shaping Civil Liability in the Digital Age:AILD and the Revisited PLD, 130 Law/Teis?129, 137(2024).
- (28)参见杨立新：《人工智能产品责任的功能及规则调整》，载《数字法治》2023年第4期，第38页。
- (29)参见周学峰：《生成式人工智能侵权责任探析》，载《比较法研究》2023年第4期，第124页。
- (30)See Guido Noto La Diega&Leonardo C.T. Bezerra, Can There be Responsible AI without AI Liability? Incentivizing Generative AI Safety Through Ex-post Tort Liability under the EU AI Liability Directive, 32 International Journal of Law and Information Technology 1,17-20(2024).
- (31)See Kathryn Bosman Cote, Outsmarting Smart Devices:Preparing for AI Liability Risks and Regulations, 25 San Diego International Law Journal 101, 120(2024).
- (32)参见刘云开：《人工智能生成内容的著作权侵权风险与侵权责任分配》，载《西安交通大学学报（社会科学版）》2024年第6期，第172—173页。
- (33)参见窦海阳：《人工智能产品侵权归责何以脱离产品责任？》，载《中外法学》2025年第2期，第340页。
- (34)参见徐伟：《生成式人工智能服务提供者侵权归责原则之辨》，载《法制与社会发展》2024年第3期，第197—201页。
- (35)控制力是指特定主体基于特定关系而对他人具有的控制力，不同于下文所论述的危险开启者对危险的控制力。参见前引(15)，第123—124页。
- (36)参见朱岩：《风险社会下的危险责任地位及其立法模式》，载《法学杂志》2009年第3期，第9页。
- (37)参见王利明：《侵权责任法研究》（上卷），中国人民大学出版社2010年版，第259页。
- (38)参见周友军：《我国危险责任一般条款的解释论》，载《法学》2011年第4期，第155页。
- (39)参见陈聪富：《侵权归责原则与损害赔偿》，北京大学出版社2005年版，第116页。
- (40)郭明瑞：《危险责任对侵权责任法发展的影响》，载《烟台大学学报（哲学社会科学版）》2016年第1期，第25页。
- (41)参见徐祖林：《侵权法归责原则的论争及其解析》，载《法律科学（西北政法大学学报）》2007年第6期，第90页。
- (42)参见王利明：《生成式人工智能侵权的法律应对》，载《中国应用法学》2023年第5期，第33页。
- (43)Philipp Hacker, The European AI Liability Directives—Critique of A Half-hearted Approach and Lessons for the Future, 51 Computer Law&Security Review 1, 32(2023).
- (44)参见曹险峰：《无过错责任原则之真实意蕴——兼论我国〈侵权责任法〉相关条文之原则性设定》，载《烟台大学学报（哲学社会科学版）》2009年第4期，第37—38页。
- (45)参见张新宝、唐青林：《经营者对服务场所的安全保障义务》，载《法学研究》2003年第3期，第80—82页。
- (46)参见前引(34)，第198页。
- (47)See Orian Dheu&Jan De Bruyne, Artificial Intelligence and Tort Law:A‘Multi-faceted’ Reality, 31 European Review of Private Law 261,285(2023).
- (48)参见李颖：《对人工智能产品侵权相关问题的思考》，载《电子知识产权》2023年第11期，第21—22页。
- (49)参见上海市嘉定区人民法院（2024）沪0114民初1326号民事判决书。
- (50)Proposal for a Directive of the European Parliament and of the Council on Adapting Non-contractual Civil Liability Rules to Artificial Intelligence, European Commission, COM(2022)496 final, 2022, Art.3.
- (51)吴汉东：《知识产权侵权诉讼中的过错责任推定与赔偿数额认定——以举证责任规则为视角》，载《法学评论》2014年第5期，第125页。
- (52)参见周辉、李延枫主编：《〈人工智能示范法〉释义》，中国社会科学出版社2024年版，第223页。
- (53)叶名怡：《过错及因果关系推定与证明责任倒置——从事实到价值的思考》，载《北方法学》2007年第4期，第148—149页。
- (54)参见张新宝：《生成式人工智能训练语料的个人信息保护研究》，载《中国法学》2024年第6期；张吉豫、汪赛飞：《大模型数据训练中的著作权合理使用研究》，载《华东政法大学学报》2024年第4期。
- (55)参见吴汉东：《试论“实质性相似+接触”的侵权认定规则》，载《法学》2015年第8期，第66—69页。
- (56)参见张晓霞、张嘉艺：《侵权行为构成要件对“接触加实质性相似”规则的制衡——论侵害著作权纠纷的裁判思路》，载《知识产权》2021年第12期，第42页。
- (57)参见初萌：《人工智能对版权侵权责任制度的挑战及应对》，载《北方法学》2021年第1期，第145页。
- (58)姚志伟：《人工智能生成物著作权侵权的认定及其防范》，载《地方立法研究》2024年第3期，第12页。
- (59)另有论者认为，过错推定是基于其违反特定注意义务的客观事实而推定其具有过错，从而免除受害人对过错的证明责任，并由服务提供者证明自己不存在过错。参见胡巧莉：《人工智能服务提供者侵权责任要件的类型构造——以风险区分为视角》，载《比较法研究》2024年第6期，第66—68页。
- (60)参见前引(54)张吉豫、汪赛飞文，第25—33页。
- (61)参见前引(54)张新宝文，第89—98页。
- (62)杭州互联网法院就在判决中认定了服务提供者使用作品作为训练语料的行为可以构成合理使用。参见杭州互联网法院（2024）浙0192民初1587号民事判决书。
- (63)参见张新宝、卞龙：《生成式人工智能训练语料的著作权保护》，载《荆楚法学》2024年第5期，第87—88页。
- (64)参见广州互联网法院（2024）粤0192民初113号民事判决书。
- (65)参见前引(62)。
- (66)李彤：《通用人工智能技术提供者义务的审视与优化》，载《东方法学》2023年第5期，第72页。