法官心语

为AI发展铺平法治轨道

杭州互联网法院跨境贸易法庭庭长 肖芄

人工智能时代已经来临，应当坚持发展与安全并重、促进创新与权益保障相结合，既要鼓励生成式人工智能服务的创新发展，也不能忽视当事人合法权益的保护。当下存在一种观点，主张将产品责任的适用对象扩大至虚拟系统，对生成式人工智能侵权纠纷适用产品责任的无过错责任原则。然而，传统产品的物理形态、功能边界和风险范围是明确且相对固定的，生成式人工智能生成的内容是算法基于海量数据、对用户开放式指令的即时响应，其每一次输出都是不可完全复现的独特生成。对生成式人工智能侵权纠纷适用产品责任，缺乏法律依据和法理基础。同时，人工智能的研发和应用具有较高的公共价值属性，如果在技术发展初期对其苛以过重的严格责任，可能产生“寒蝉效应”，导致某些创新技术无法落地应用，减缓甚至阻碍技术的创新和发展。对生成式人工智能服务侵权采取过错责任原则能够全面评价服务提供者的行为，有利于建构兼具弹性、适应性与演化能力的回应型规则治理体系：既设立红线、底线，严格禁止生成各类“有毒”、有害、违法信息，又激励生成式人工智能服务提供者采取合理措施进行技术创新，防止风险发生。通过对服务提供者有无过错的判断形成对相关行为的理解与共识，在动态回应的过程中不断寻找系统、合理的注意义务标准，不断演化形成新的标准与规范，最终实现技术创新和权益保障的平衡。

在当下的人工智能时代，模型通过在含有数万亿词元（Tokens）的庞大语料库上训练，学习了复杂的语言统计模式和词汇共现规律，但并未真正习得“事实”，因此难免产生“幻觉”。需要特别提醒，社会公众在面对生成式人工智能高度流畅、自然的语言应答时，应提高警觉，清醒认识到大模型在当前技术条件下仅是人们生活、工作的“文本辅助生成器”和“信息查询的辅助工具”，尚不是可靠的“知识权威”，更不能作为“决策替代者”，绝不应轻信、盲从，而需多方验证，审慎决策。在人工智能时代，应通过案例宣传与科普教育，揭示AI“幻觉”的形成机制，使社会公众更加理性地认知AI的功能和局限，在全社会广泛培养人们对AI自动生成内容的基本怀疑精神与核查能力，既充分利用好AI的创造性潜力，同时又避免“幻觉”带来的风险。

专家点评

司法实践为AI治理提供法理支撑

清华大学法学院教授、博士生导师 程啸

本案是我国目前第一起因生成式人工智能模型“幻觉”引发的侵权纠纷。审理本案的杭州互联网法院在充分权衡民事权益保护与鼓励促进人工智能技术发展基础上，依法对上述争议问题作出了正确的裁决，具有极为重要的理论意义和实践价值。

第一，所谓人工智能可否独立作出或代替服务提供者作出意思表示的问题，其实质就是人工智能是否属于独立的民事主体的问题。理论界曾有人提出应当承认并赋予人工智能以法律人格，将其作为独立的民事主体的观点。然而，这种观点无论是在现实中，还是依据当前法律的规定，都是不能成立的。本案判决依据我国民法典关于民事主体以及意思表示的规定，正确地指出：人工智能既不是生物学意义上的人，也并未被我国现行法律赋予民事主体资格，故而不是民事主体，不具有民事权利能力、行为能力和责任能力。同时，考虑到社会一般观念、交易习惯以及人工智能服务提供者已经在用户协议中明确表明生成内容并非自身意思表示等因素，法院在判决中也否定了人工智能可以代替服务提供者作出意思表示，即生成式人工智能不能作为服务提供者意思表示的传达人、代理人或代表人。

第二，生成式人工智能侵权责任的归责原则问题是目前理论界争议很大的一个问题。理论界有人主张适用过错责任原则，有人则将生成式人工智能视作产品，认为应适用产品责任的无过错责任原则。对此，法院依据我国产品质量法、《生成式人工智能服务管理暂行办法》等法律法规中关于产品、生成式人工智能服务的规定，并考虑到生成式人工智能所生成的信息内容不具有民法典侵权责任编所指的高度危险性、国家促进人工智能发展的产业政策等因素，正确认定了案涉生成式人工智能属于服务，而非产品，依法不应适用产品责任，而应适用民法典第一千一百六十五条第一款的一般过错责任原则。这一认定对于今后处理人工智能侵权纠纷时，法院准确适用侵权责任编的归责原则具有重要的启示。

第三，在生成式人工智能侵权责任适用过错责任原则前提下，如何科学合理认定生成式人工智能服务提供者的过错，也是本案判决呈现的一大亮点。在判决中，法院依据我国现行法对生成式人工智能服务的规定，区分了不同类型的注意义务并提出了相应的认定标准。首先，服务提供者对于确保生成式人工智能不生成法律所明确禁止生成的各类“有毒”、有害、违法信息负有的是结果性义务，即一旦生成违法信息就应当认定违法，服务提供者存在过错。其次，生成式人工智能服务提供者应当依法履行对服务功能的显著提示说明义务，即采取必要、合理的显著提示措施，使得用户能够了解、认知服务功能的局限性，并在特定情形下起到警示提醒的作用。再次，就所生成内容的准确性而言，服务提供者负有的不是结果性义务，不能因为生成内容不准确就当然认定服务提供者存在过错，而是一种方式性义务，即应当在综合考虑现有的技术措施水平、生成内容对当事人合法权益的影响、当事人是否开启联网搜索功能选项等多种因素的基础上，确定服务提供者合理的注意义务。