北京互联网法院典型案例：平台算法检测AI生成内容违约案（唐某某诉某科技公司）
案件名称与案号 唐某某诉某科技有限公司网络服务合同纠纷案 ——网络平台利用算法工具检测 AI 生成内容但未尽到合理适度说明义务的应承担违约责任 北京互联网法院 ｜ 发布：2025-09-10 涉人工智能典型案例 ｜ 案由：网络服务合同纠纷 关键词 民事 / 网络服务合同 / AIGC 内容标识 / 算法说明义务 基本案情 原告系某网络平台用户，其在平台上发布了题为「打工并不能让你真的赚到多少钱，但可以开启你的新视角……」的内容，主要涉及鼓励用户利用假期学车。涉案平台经检测认定该内容「包含 AI 生成内容但未标识」，遂作出隐藏该内容并对原告账号禁言一天的违规处理，原告申诉未获支持。原告主张其未使用 AI 创作，被告的行为构成违约，请求法院判令被告撤销隐藏内容及禁言处理，并删除后台违规记录。 法院审理与说理 法院认为，平台有权依据合同约定对涉案内容是否属于 AI 生成合成内容进行审查和处理，但平台的审查及处理结果应有合理依据。经审理发现，被告未对算法决策依据和结果进行适度的解释和说明，应对其没有事实依据的情况下对涉案账户的处理行为承担违约责任。被告系统后台仅存在「折叠回答」这一条处理记录，现因该处理已在本案中被判定为不合规，被告应对该处理记录予以删除。 裁判结果 被告承担违约责任；删除后台相应处理记录。 数据法 / AI 法要点 这是 AI 内容标识制度落地后「算法结论须可说明」的第一批司法样本：平台有权自动化检测与处置 AI 生成内容，但算法判断本身必须给出合理依据与适度说明，否则构成违约。与《人工智能生成合成内容标识办法》的实施相衔接，提示平台建立可追溯、可复核、可申诉的处置记录机制。 相关法条 官方发布文本未单列裁判依据法条，上文说理部分所引法律依据以原文引述为准。 权威来源 北京互联网法院 2025-09-10 涉人工智能典型案例发布文本。 补充来源 组级官方来源：最高人民法院网站转发北互涉人工智能典型案例发布消息 材料来源：北京互联网法院 2025 年 9 月 10 日涉人工智能典型案例发布文本 站内关联法规 人工智能生成合成内容标识办法