涉AI案件增长较快 向文娱、金融、广告营销等产业领域渗透

21世纪经济报道记者 王俊 北京报道

时至今日，人工智能早已不在庙堂之上，而是渗透进入我们日常生活。与此同时，相关纠纷也逐渐涌入司法领域。

9月10日，北京互联网法院召开发布会发布涉人工智能案件审理情况，提及该类案件增长较快，纠纷类型也日益复杂化和多元化。

当前，司法裁判对于市场行为的示范引领作用不断增强，因此法院的研判具有重要参考价值。

为发布会的内容划几个重点：

一、技术的不确定性带来了风险升级。但技术门槛高，事实查明难度大，对司法专业性提出了更高的要求；

二、当前规范性法律文件存在一定的滞后性，与快速发展的技术错配，这对司法人员也带来了新挑战；

三、责任的认定是业界、司法界关注的焦点。人工智能产业链条复杂、上下游相互依存，案件往往涉及训练者、开发者、服务提供者、使用者等不同角色，一个司法判决很可能影响相关产业健康有序发展。

人工智能案件主要涉及著作权权属、侵权等

北京互联网法院副院长赵长新在会上通报：涉人工智能案件增长较快，纠纷类型也日益复杂化和多元化，主要涉及著作权权属、侵权，网络侵权责任，网络服务合同等案由。

赵长新总结了该类案件的特点：

一是覆盖产业领域持续扩展。随着人工智能赋能千行百业，涉人工智能案件不再局限于互联网行业，而是向文娱、金融、广告营销等传统产业领域广泛渗透。

二是市场主体创新风险迭代升级。应用人工智能技术的产品和服务快速出新，AI幻觉、算法黑箱等问题的不确定性可能使模型开发者、服务提供者和用户等市场主体面临新型、复合性法律风险。

三是裁判规则引领作用凸显。涉人工智能案件司法裁判不仅是对个案技术与法律层面的裁判，更承载着对科技伦理、创新激励与权益保护进行平衡的价值引导功能，深刻影响着技术发展方向与社会伦理规范的形成。

法律存在滞后性，难以适配技术的快速发展

新型矛盾纠纷与技术发展相伴而生。赵长新也坦陈了面临的挑战：

首先，技术应用复杂导致事实查明难。案件往往涉及对人工智能的生成过程、算法模型以及数据来源等进行司法审查，技术门槛高，事实查明难度大，对司法专业性要求高。

比如因AI生成内容打标引发的纠纷，原告唐某某在某平台上发布二百多字文字内容，被该平台判定为“包含AI生成内容但未标识”的违规情况，并将该内容隐藏并作出将用户禁言一天的处理。唐某某进行申诉未成功，此后唐某某主张其并未使用AI创作，对这一平台进行提告。

最终北互裁判，平台作为被告既是算法工具掌控方又是结果判断方，算法工具运算过程和审查结果由被告掌控，应就该事实进行合理举证或解释说明。

21世纪经济报道记者注意到，9月1日起，《人工智能生成合成内容标识办法》及配套国标正式实施：AI合成内容需打标，并且，用户和传播平台也有责任标明“内容由AI生成”，以免与真实信息混淆。

当前多家社交平台已经上线“用AI识别AI”的技术，主动给疑似合成内容加注标识。但这引发了另一重担忧：有的用户担心真实作品被误判，正如上述案件中的情况；另一部分用户认为平台对AI创作“不够友好”，主动标识会影响流量分发。

北互的这个案件对AI生成合成内容标识的标记、平台识别和治理在司法审查规则方面进行了探索，一方面肯定了平台利用算法工具对AI生成合成内容进行审查和处理，履行信息内容管理主体责任的积极作用；另一方面，认定平台在即时性创作文本场景下对使用算法自动化决策结果承担适度说明义务。

这个判决也会随着9月1日新规的施行变得更具有参考意义。

规则适配不足导致法律适用困难也是挑战。人工智能领域规范性法律文件制定存在一定的滞后性，难以完全适应技术快速发展的新形势，相关案件的司法裁判常常无法规可依、无先例可循。

赵长新举例，在著作权领域，涉及AI文生图、文生视频、虚拟数字人等新型权益客体是否构成著作权法意义的作品，其著作权应归属于AI服务提供者还是使用者；大模型训练对作品的利用在著作权法如何定性等问题。

在人格权领域，涉及自然人的人格权保护范围是否及于AI合成的虚拟形象、虚拟声音；以人脸信息作为模型应用深度合成技术是否侵犯个人信息等问题。

“这些具体争议需要法官充分发挥司法智慧，综合法律原则、政策导向、价值衡量等进行合理裁判。”他表示。

而责任认定是业内最关注的话题之一。人工智能产业链条复杂、上下游相互依存，案件往往涉及训练者、开发者、服务提供者、使用者等不同角色，各方主体分工合作形成复杂关联，影响法律责任的认定。

北互审结的全国首例“AI声音权案”中，原告主张侵犯其声音权益的被告涵盖录音制品制作者、文本转语音产品开发者、服务提供者以及云服务平台等人工智能数据训练、模型研发和技术服务链条下的众多环节中的多个主体。

赵长新表示：如何理顺相应的产业链条，在众多主体中确定责任由谁承担，既关涉个案公平正义的实现，又深刻影响着相关产业能否健康有序发展。

开发者应提升AI透明度，提高生成内容准确性和可靠性

面对人工智能案件纠纷，北互建议，开发者应在算法设计、训练数据选择、模型生成和优化、提供服务等过程中，采取有效措施防止歧视产生，提升人工智能的透明度，提高生成内容的准确性和可靠性。明确并公开其服务的适用人群、场合、用途，指导使用者科学理性认识和依法使用生成式人工智能技术。依法开展训练数据处理活动，使用具有合法来源的数据和基础模型。采取有效措施提高训练数据质量，增强训练数据的真实性、准确性、客观性、多样性。

提供者则应依法承担网络信息内容生产者责任，违法内容，及时采取停止生成、停止传输、消除等处置措施，采取模型优化训练等措施进行整改，并向有关部门报告。落实生成内容标识义务，对用户发布的内容是否为人工智能生成合成进行审查和处理。发现平台内违法内容或利用人工智能从事违法活动的，应当及时采取处置措施，保存有关记录，并向有关部门报告。

更多内容请下载21财经APP