中国AI智能体AI智能体幻觉平台责任已终审
浦东法院:用户恶意诱导造成大模型幻觉,平台不构成侵权

浦东法院:用户恶意诱导造成大模型幻觉,平台不构成侵权

重要性评级
案号:(2024)沪0115民初95826号
法院:上海市浦东新区人民法院
判决时间:2025年10月31日

用户恶意诱导AI智能体产生幻觉,生成虚假信息。法院认定平台已尽合理注意义务,不构成侵权。

诉讼时间轴
一审2025-10· 上海市浦东新区人民法院

驳回原告浙江A酒店管理有限公司的全部诉讼请求。

案情概述

原告分别于2024年5月25日以及5月29日在北京某网讯科技有限公司APP中搜索原告酒店品牌加盟,搜索结果页中显示了被告某(上海)酒店管理有限公司(以下简称被告一)的推广链接,点击链接后进入‌了被告一的智能体客服对话框‌。随即,在该界面中用户输入部分自动将原告检索内容自动带入至智能体对话中,智能体进行回复后,原告又与该智能体进行了多轮对话。在原告与被告一智能体对话过程中,该界面始终显示了AI标识、被告一公司名称以及相应品牌信息。原告认为,二被告使用推广方式链接至被告一智能体,并在智能体中自动弹出原告品牌酒店加盟字样的行为,侵犯了原告的商标专用权,同时,北京某网讯科技有限公司作为网络服务提供者与被告一构成共同故意,应按照民法典第一千一百九四条规定承担侵权责任。

核心争议焦点

  • 1AI幻觉的法律性质
  • 2平台对AI智能体的注意义务
  • 3恶意诱导行为的认定
  • 4AI服务提供者的责任边界

双方观点

原告主张

二被告使用推广方式链接至被告一智能体,并在智能体中自动弹出原告品牌酒店加盟字样的行为,侵犯了原告的商标专用权,同时,北京某网讯科技有限公司作为网络服务提供者与被告一构成共同故意,应按照民法典第一千一百九四条规定承担侵权责任。

法院说理

法院认为: 一、关于案件的基本事实认定 根据双方提交的证据材料和庭审查明的事实,法院对本案的基本事实作出如下认定。 二、关于法律适用问题 本案涉及的核心法律问题需要根据相关法律法规进行分析和判断。 三、关于责任承担 综合考虑案件的具体情况,法院对责任承担作出如下认定。

裁判要点

  • 1用户恶意诱导导致AI产生幻觉,平台不应承担责任
  • 2平台已设置合理的技术防护措施和提示
  • 3AI技术存在固有局限性,不能要求平台承担绝对责任
  • 4判决驳回原告诉讼请求

最终判决结果

一审判决:驳回原告诉讼请求,平台不构成侵权

延伸阅读

法律意义

本案是国内首例涉AI智能体的侵权纠纷案件,明确了AI服务提供者的责任边界。判决合理平衡了技术发展与权益保护,认可了AI技术的固有局限性,对于促进AI商业应用具有积极意义。