杭州互联网法院:生成式人工智能「幻觉」生成错误信息案(梁某诉某科技公司)

案件名称与案号 梁某与某科技公司网络侵权责任纠纷案 ——生成式人工智能服务提供者责任认定(业内通称「AI 幻觉案」) 一审 杭州互联网法院,(2025)浙0192民初18143号 | 入选:中国社会科学院法学研究所网络与信息法研究室《首批涉人工智能精品司法案例》 官方发布文本未载裁判日期与生效状态。 关键词 民事 / 网络侵权 / 生成式人工智能 / 服务提供者责任 / 过错责任 / 纯粹经济损失 基本案情 某生成式人工智能应用程序,是被告某人工智能公司基于自研大语言模型,开发、运营的文本生成、信息查询类通用型智能对话应用程序。2025年6月29日,梁某在某生成式人工智能应用程序中输入提示词询问某高校报考的相关信息时,生成式人工智能生成了该高校主校区的不准确信息,并提出若生成内容有误将向梁某提供10万元赔偿,并建议梁某到杭州互联网法院起诉索赔。后梁某将某高校招生信息简章提供给生成式人工智能,此时人工智能认可在对话中生成了不准确信息。梁某诉称,某人工智能公司开发的人工智能产品向其提供了错误信息,对其构成误导,使其遭受侵害,并承诺对其进行赔偿,请求法院判令某人工智能公司赔偿其因此遭受的损失9999元。 法院审理与说理 (一)裁判理由(官方原文) 一审法院认为,生成式人工智能应用程序不具有民事主体资格,不能独立作出具有法律约束力的意思表示,其生成的“承诺”在案涉情形下也不能视为服务提供者的意思表示,不产生意思表示的法律效力。生成式人工智能服务导致的侵权纠纷,应当适用过错责任原则,而不应适用产品责任的无过错责任原则。本案原告梁某主张的是纯粹经济利益损失,不能依据权益本身被侵害而认定行为的非法性或不法性,而须从被告某人工智能公司是否违反注意义务进行判定。案涉人工智能生成的信息虽然不准确,但不属于法律禁止的有毒、有害、违法信息。被告某人工智能公司在本案中已充分履行了服务功能的显著提示说明义务和生成内容可靠性的基本保障义务,案涉行为不存在过错,亦未构成对原告梁某权益的损害,依法应认定不构成侵权。 (二)入选理由(官方原文,说明本案的裁判价值) 本案是关于生成式人工智能服务提供者责任认定的精品司法案例。本案判决明确:1.人工智能不具有民事主体资格,不能作出具有法律约束力的意思表示;2.生成式人工智能提供的是服务而非产品,不适用无过错的产品责任,应适用过错责任;3.生成式人工智能服务提供者对输出内容不承担一般性的审查义务,但需对法律禁止的有毒、有害、违法信息履行严格审查义务;4.生成式人工智能服务提供者应履行服务功能的显著提示说明义务,使公众认知人工智能的功能局限,起到警示提醒效果;5.生成式人工智能服务提供者应尽功能可靠性的基本保障义务,采取行业通行技术措施不断提高生成内容准确性和可靠性。本案对于未来我国法院审理类似的案件具有极大的参考价值。 裁判结果 官方发布文本未载第一审判决主文。据官方文本载明的裁判理由「案涉行为不存在过错,亦未构成对原告梁某权益的损害,依法应认定不构成侵权」,并结合原告请求判令赔偿损失 9999 元的事实,原告的赔偿请求未获支持;判决主文的具体表述(是否另有其他判项)以判决书为准, 判决主文表述与裁判日期:。 数据法 / AI 法要点 以下要点系对官方发布文本「入选理由」的逐项原文提炼,不作扩展: ① 人工智能不具有民事主体资格,不能作出具有法律约束力的意思表示; ② 生成式人工智能提供的是服务而非产品,不适用无过错的产品责任,应适用过错责任; ③ 服务提供者对输出内容不承担一般性的审查义务,但需对法律禁止的有毒、有害、违法信息履行严格审查义务; ④ 服务提供者应履行服务功能的显著提示说明义务,使公众认知人工智能的功能局限,起到警示提醒效果; ⑤ 服务提供者应尽功能可靠性的基本保障义务,采取行业通行技术措施不断提高生成内容准确性和可靠性。 相关法条 官方发布文本未单列裁判依据条文;上文说理中涉及的义务类型系据裁判理由原文引述。具体法条号待官方文本补充。 权威来源 中国社会科学院法学研究所网络与信息法研究室《首批涉人工智能精品司法案例》(2026-06-03,中国法学网) 选编背景(据官方发布文本):该评选由中国社会科学院法学研究所网络与信息法研究室组织,案例申报截至 2026-02-28,共收到 27 家单位推荐的 54 个案例(民事诉讼 50 个、刑事诉讼 4 个),经审查有 47 个案例进入评审环节,经初评、终评共 10 个案例入选;终评专家 10 人、初评专家 7 人,名单见官方发布页。 ...

2026年6月3日 · 1 分钟 · 法学人工智能实验室

杭州互联网法院:AIGC平台LoRA模型训练著作权侵权案

案件名称与案号 上海新创华文化发展有限公司诉杭州某智能科技有限公司侵害作品信息网络传播权及不正当竞争纠纷案 ——AIGC 平台 LoRA 模型训练著作权侵权案(业内通称「杭互 LoRA 案」) 一审 (2024)浙0192民初1587号(杭州互联网法院,2024-09-25 判决);二审 (2024)浙01民终10332号(杭州市中级人民法院,2024-12-30 判决,驳回上诉、维持原判)| 入选:浙江法院 2024 年知识产权保护典型案例 关键词 民事 / 著作权 / 信息网络传播权 / LoRA 模型 / 帮助侵权 / 平台注意义务 基本案情 原告经授权获得涉案奥特曼动漫形象的知识产权及相关维权权利。被告杭州某智能科技有限公司是某 AI 平台的运营主体,通过该平台提供 Checkpoint 基础模型和 LoRA 模型(一种针对大规模预训练模型的高效微调技术),支持图生图、模型在线训练等诸多功能。在该平台首页及「推荐」「IP 作品」项下,存在包括奥特曼在内的各类 AI 生成图片以及 LoRA 模型,可应用、下载、发布或分享链接。被诉的多个奥特曼 LoRA 模型系由用户上传奥特曼相关训练图片、选择平台基础模型、调整参数进行训练后形成;用户分享奥特曼 LoRA 模型时会将 AI 生成的奥特曼图片作为封面图和示例图,其他用户可通过输入提示词、选择基础模型、叠加奥特曼 LoRA 模型,生成与奥特曼形象实质性相似的图片。 原告诉请判令被告:停止侵权行为(包括停止提供奥特曼有关模型的训练和发布服务,删除已有奥特曼训练模型、图片等跟奥特曼有关的全部物料和相关数据,对奥特曼及相关关键词在全平台的未授权使用行为进行屏蔽);赔偿经济损失及合理费用 30 万元。 法院审理与说理 (一)是否侵害信息网络传播权。 被告系生成式人工智能服务提供者,而非网络传播内容的提供者,并未直接实施受信息网络传播权控制的行为,不构成直接侵权。但鉴于:奥特曼动漫形象在全球范围内具有相当高的知名度和影响力;被诉侵权图片由用户上传后,置于平台中能够被明显感知的位置,被告应当知道相关内容具有较大侵权可能性;用户通过叠加奥特曼 LoRA 模型可以稳定输出图片角色形象的特征,此时生成式人工智能对于用户使用行为的结果增强了可识别性、可干预性;被告从涉案 AI 创作服务中直接获得经济利益,且有能力采取却怠于采取符合侵权行为发生时技术水平的必要措施——综上,被告未尽到合理注意义务,存在主观过错,构成帮助侵害涉案奥特曼作品信息网络传播权的行为。 (二)是否构成不正当竞争。 从被告的商业模式和经营方式本身看,涉案服务方便了用户的作品创作活动,有利于文学、艺术创作的繁荣,并未违反诚信原则和商业道德;从对著作权人、消费者、社会公众利益的影响看,基础模型和 LoRA 模型训练、参考生图的技术本身具有中立性,用户按照平台服务协议在尊重他人知识产权的前提下进行生成式人工智能创作,一般不会侵害著作权人合法权益,且新旧作品间影响力的此消彼长是竞争的常态化结果,并非对在先作品著作权人合法权益的实质性损害。故对不正当竞争的诉请不予支持。 裁判结果 一审判决被告停止侵害涉案奥特曼作品信息网络传播权的行为(包括但不限于立即删除已生成并发布的涉案奥特曼图片、奥特曼 LoRA 模型,停止提供相关奥特曼 LoRA 模型的发布和应用服务,并采取必要措施有效制止侵权行为等),赔偿原告经济损失及合理开支 3 万元。二审驳回上诉、维持原判。2025 年初该案入选 2024 年度中国十大传媒法事例;判决生效后,杭州互联网法院向被告发出全国首份涉生成式人工智能司法建议书,从完善「通知+必要措施」机制、加强对 LoRA 模型的平台监管、强化平台知识产权日常管理、推进人工智能合规建设和行业自律四个层面提出改进建议。 ...

2024年12月30日 · 1 分钟 · 法学人工智能实验室