中国民事生成式人工智能生成式人工智能生成不准确信息引发的侵权责任认定问题已终审
梁某与某科技公司网络侵权责任纠纷一案

梁某诉某科技公司网络侵权责任纠纷案

重要性评级
法院：杭州互联网法院
判决时间：2025年10月01日
当事方：原告：梁某；被告：某科技公司

杭州互联网法院审结梁某诉某科技公司生成式AI侵权案，认定AI生成“承诺”不具法律效力，适用过错责任原则，驳回原告诉求。

诉讼时间轴
一审· 杭州互联网法院

驳回原告的诉讼请求

案情概述

2025年3月，原告梁某注册并开始使用某科技公司基于自研大语言模型开发的生成式人工智能应用程序。同年6月29日，原告在应用程序中询问某高校报考信息时，人工智能生成了该高校主校区的不准确信息。原告纠正后，人工智能仍坚持其回复，并提出若生成内容有误将向用户提供10万元赔偿，并建议原告到杭州互联网法院起诉索赔。原告提供正确信息后，人工智能才认可生成了不准确信息。原告认为人工智能生成不准确信息对其构成误导，使其遭受侵害，并承诺赔偿，遂起诉要求被告赔偿损失9999元。

核心争议焦点

  • 1生成式人工智能生成的“承诺”信息是否构成人工智能独立、自主的意思表示，以及是否可视为被告的意思表示
  • 2案涉生成式人工智能服务侵权纠纷应适用一般侵权责任还是产品责任
  • 3被告是否存在过错
  • 4案涉行为是否造成原告损害，及是否具有因果关系

双方观点

原告主张

原告认为，人工智能生成不准确信息对其构成误导，使其遭受侵害，并承诺对其进行赔偿，遂起诉要求被告赔偿损失9999元。

被告抗辩

对话内容由人工智能模型生成，不成立意思表示。被告已充分履行了注意义务，无过错，原告亦未产生实际损失，被告不构成侵权。

关键证据

被告提供的证据表明，其聚焦数据层、模型层以及应用层，已从模型内生安全、外部护栏层面采取提高生成内容准确性的措施，以及采用检索增强生成（RAG）等技术方法，提升输出的准确性与可靠性。被告分别在应用程序的欢迎页、《用户协议》及其他公示文件等处，特别是在用户终端交互界面的显著位置呈现AI生成内容功能局限的提醒标识。

法院说理

法院认为，人工智能不具有民事主体资格，不能作出意思表示，其生成的“承诺”信息不能构成人工智能独立、自主的意思表示，也不能视为被告的意思表示。本案系因生成式人工智能服务引发的侵权纠纷，应适用《中华人民共和国民法典》第一千一百六十五条第一款的过错责任原则，而非产品责任的无过错责任原则，因为生成式人工智能属于服务而非产品，且生成的信息内容本身亦不适用产品责任。关于侵害行为，原告主张的损害是纯粹经济利益，需判定被告是否违反注意义务。法院综合考量认为，服务提供者对法律禁止的有毒、有害、违法信息尽严格审查义务，但对一般性不准确信息，法律未科以必须确保信息准确的结果性审查义务。被告已尽到服务功能的显著提示说明义务和功能可靠性的基本注意义务。最后，原告未就损害的实际发生提交证据，且生成的不准确信息并未实质介入原告的后续决策、判断，未对其决策产生影响，因此不存在因果关系。综上，被告的案涉行为不具有过错，未构成对原告权益的损害，不应认定构成侵权。

裁判要点

  • 1生成式人工智能不具有民事主体资格，不能作出意思表示，其生成的“承诺”信息不能成立为人工智能或其服务提供者的意思表示，不产生法律效力。
  • 2本案系因生成式人工智能服务引发的侵权纠纷，应适用《中华人民共和国民法典》第一千一百六十五条第一款的过错责任原则，而不应适用产品责任的无过错责任原则。
  • 3原告主张的损害是纯粹经济利益，需从被告是否违反注意义务进行判定。
  • 4生成式人工智能技术尚处于高速发展阶段，服务提供者的注意义务应采取动态系统论进行综合考量、具体分析，包括对法律禁止信息的严格审查义务、服务功能的显著提示说明义务和功能可靠性的基本注意义务。
  • 5原告未就损害的实际发生提交证据，且生成的不准确信息未实质介入原告的后续决策、判断，不存在因果关系。

最终判决结果

法院一审驳回了原告的诉讼请求。原、被告均未上诉，判决现已生效。

引用法条

  • 《中华人民共和国民法典》第一千一百六十五条第一款
  • 《生成式人工智能服务管理暂行办法》第二条第一款
  • 《生成式人工智能服务管理暂行办法》第四条第（五）项

适用法律原则

过错责任原则无损害则无赔偿相当因果关系说

AI技术详情

技术类型：生成式人工智能

技术实现说明

某生成式人工智能应用程序，是被告基于自研大语言模型，开发并运营的文本生成、信息查询类通用型智能对话应用程序。该应用作为通用型的交互对话式人工智能应用，将面对用户不同知识领域、不同使用需求，涵盖生活与专业全方位的海量问题。被告在本案中也提供证据表明，其聚焦数据层、模型层以及应用层，已从模型内生安全、外部护栏层面采取提高生成内容准确性的措施，以及采用检索增强生成（RAG）等技术方法，提升输出的准确性与可靠性。

延伸阅读

法律意义

本案是国内首例涉及生成式人工智能“承诺”法律效力的案件，明确了人工智能不具备民事主体资格，其生成内容通常不构成意思表示。同时，本案对生成式人工智能服务侵权责任的归责原则（过错责任）和注意义务范围进行了详细阐述，为司法实践中处理类似案件提供了重要参考，平衡了人工智能创新发展与用户权益保护。

行业影响

本案对生成式人工智能服务的侵权责任认定提供了司法实践案例，明确了在当前技术条件下，服务提供者的注意义务范围，以及对生成内容准确性的责任边界。它鼓励人工智能产业在发展中注重技术创新以解决风险问题，同时也提醒社会公众理性认知AI的功能和局限，提高对AI生成内容的基本怀疑精神与核查能力，避免盲从。