中国已终审
唐某诉平台监测AI生成内容算法未尽到合理说明义务案
重要性评级
法院:北京互联网法院

案情概述

原告唐某某在被告某科技有限公司运营的网络平台上 发布二百多字文字内容“打工并不能让你真的赚到多少钱, 但可以开启你的新视角……如果你对学车感兴趣的话并且 以后打算开车的话,可以在你最清闲的一个假期完成它…… 工作之后就没有太多完整的时间学驾照了”。被告某科技有 限公司运营的平台将该内容判定为“包含 AI 生成内容但未 标识”的违规情况,并将该内容隐藏并作出将用户禁言一天 的处理。后原告唐某某进行申诉未成功。原告唐某某主张其 并未使用 AI 创作,被告某科技有限公司的行为违约,请求 法院判令被告撤销隐藏涉案内容和禁言账号一天的违规处 理,并在后台系统中删除违规处理记录。

法院说理

法院认为,网络用户在使用 AI 工具进行创作并将相关 内容发布到网络平台时,应依照诚信原则如实标记。被告发 布社区公告要求创作者在发布包含 AIGC 生成的内容时,应 主动使用标识,对发布时未主动声明的内容,平台将采取适 当措施进行流通限制并添加相关标识;未经标签声明,使用 人工智能生成的内容构成违规。原告系平台注册用户,上述 公告属于平台服务协议的组成部分,被告有权根据协议对用 户发布内容是否属于 AI 生成合成内容进行审查和处理。在 一般情况下,原告应该提供如创作底稿、原件、源文件、源 数据等证明人类创作属性的初步证据,但本案中原告回答内 容系即时性创作文本,客观上无法提供上述证据,由其提供 上述证据不存在合理性和现实可行性。被告基于算法工具的 运算结果得出涉案内容为 AI 生成合成的审查结论,被告既 是算法工具掌控方又是结果判断方,算法工具运算过程和审 查结果由被告掌控,被告应就该事实进行合理举证或解释说 明。虽然被告提供了算法的备案信息,但无法确认备案信息 与本案争议的关联性。被告未对算法决策依据和结果进行适 度的解释和说明,未对涉案内容属于 AI 生成合成的判断依 据和结果作出合理解释,应对其没有事实依据的情况下对涉 案账户的处理行为承担违约责任。被告进行人工复核的标准 要求具有非常明显的人类情感特征,该判断并不具有科学依 据以及较强的说服力和可信度。

最终判决结果

法院判决被告展开折叠的回答并删除相关后台记录。被告不服一审判决提起上诉,后撤回上诉,一审判决生效。

延伸阅读

法律意义

本案是对 AI 生成合成内容标识的标记、平台识别和治 理在司法审查规则方面的有益探索,一方面肯定了网络内容 服务平台利用算法工具对 AI 生成合成内容进行审查和处理, 履行信息内容管理主体责任的积极作用;另一方面,认定网 15 络内容服务平台在即时性创作文本场景下对使用算法自动 化决策结果承担适度说明义务,并为司法审查阶段的算法解 释说明程度确立了一定的标准。本案通过司法个案裁判,合 理分配网络内容服务平台和用户的举证责任,推动网络内容 服务平台提高算法的识别能力和决策能力,切实提升人工智 能信息内容治理水平