导语：为什么笔者在这里强调对AI定向滥用“源头”的治理呢？核心在于AI生成能力远远超出过往任何人类已有的内容生产工具，其生成的频率之高、内容之丰富、与人类写作水平之接近（甚至超出）程度都来到了令人必须

互联网将人类带入了信息爆炸的时代，一个人一天接触的信息量大于古代一个一生的信息获取量，这无疑是一个巨大的技术进步，但随之而来的一大困扰是，在海量的信息巨浪面前，用户如何甄别有效、真实的内容，尤其是当基于大模型技术的AIGC出现之后，人工智能将充当互联网内容生产的主力军，从数量上看，恐怕接下来网络信息将因为AI的无上限生成能力实现远超以往的指数级增长，但质量如何呢，这个问题在AI虚假内容日渐泛滥的今天，已经成为一个全球性的挑战。

当然，这并不是说互联网上的信息都是以真假作为唯一一个评判维度，真假只对于涉及到客观事实的内容有判断价值，而对于不涉及客观事实的内容，就无所谓真假了，例如小说、音乐，这类内容本来就是基于想象力的创作，评判这类信息的标准应该是艺术和审美而非真假。

所以，讨论虚假AIGC内容的问题，我们首先需要甄别哪些种类的网络信息有真实性的要求，然后再看这些类别下AIGC虚假内容带来的具体影响。尽管对真实性内容有要求的领域有很多，但是目前跟AIGC强相关的应该是如下四类：

时事新闻类信息

用户行为数据信息（成交量、点击量、点赞、粉丝量、下载量、用户评论等）

广告、产品详情、种草体验类信息

真人言论、真人社交类信息

这四类内容中，第一类时事新闻很好理解，AIGC在这个领域主要是存在生产虚假新闻甚至是诋毁、谣言类内容的问题。

第二类也比较普遍，这些用户行为数据对于互联网平台而言是其做出各种算法决策的基础，所以确保真实性是不发生算法失灵的前提，而且对于以这些数据作为决策参考的消费者而言也很重要，但AIGC有可能通过控制虚假账号、爬虫等方式对这些数据进行篡改。

第三类是跟商品直接相关的信息，无论是对产品本身特征的描述（商品详情），还是对产品的推广宣传，又或者是对产品的使用体验，都需要保持真实性，否则会对潜在消费者产生误导。值得特别指出的是，商品详情和广告信息是可以借助AI来辅助生成的，毕竟这些内容可以通过向大模型提供足够准确的数据进行训练来确保基本的真实性，而且这些内容通常都是由商家进行发布，商家也会基于法律要求和可能面临的消费者索赔进行认真确认。但种草体验类的内容就有所不同了，如果通过AIGC生成种草体验内容，本质上就是“虚假”内容，因为AI作为机器不可能有人类特有的“体验”能力，

第四类

已有的法律规制：标识的局限

目前的法律规定：备案、打标签

源头解决：定向用途边界

当前司法在对AIGC技术造成的侵权问题上，i普遍存在一种“兼顾双重效果”的心理状态，那就是既希望限制技术滥用，又不希望阻止技术发展。这个理念当然是正确的，但前提条件一定是满足技术中立，而当一种AI技术已经限定了明确的使用场景、面对的用户、实现的功能和效果时，就应该剥离“技术中立”视角来进行评价，对这种具体限定下的AI技术整体给予否定性评价完全不会影响其他类型AI技术的发展，而且法院真正要做的恰恰就是在AI的应用边界问题上给出明确态度，尤其是那些事情不能做，而不是哪些事情能做。

例如，如果开发者开发了一个专门用来制作谣言的AI模型，那就不用考虑这个模型是不是还有可能用于生成内容后被用户纠正修改成为真实新闻这种小概率事件了，直接认定违法侵权即可。再比如AI种草文案生成类的专门应用，既然AI不可能有真人才有的“经验、体验”能力，其生成的必然都是“虚假体验”，此时就没必要考虑是不是有可能AI“猜中”了用户的真实感受，或者用户基于AI的“猜测”再进行修改这种小概率事件。

为什么笔者在这里强调对AI定向滥用“源头”的治理呢？核心在于AI生成能力远远超出过往任何人类已有的内容生产工具，其生成的频率之高、内容之丰富、与人类写作水平之接近（甚至超出）程度都来到了令人惊叹的新阶段，此时司法不能在停留在过往对技术的惯性认知中做出判断，否则会导致海量违法侵权内容流入互联网，接下来要投入难以想象的成本进行事后治理，而且治理速度一定无法赶上污染速度。