×

打开微信,扫一扫二维码
订阅我们的微信公众号

×

扫码分享

EN
首页>汉盛研究>最高法AI意见24条(上):AI产品上线后的责任边界

最高法AI意见24条(上):AI产品上线后的责任边界

2026-09-15   林绮雯
引言


AI客服答错了退款规则,责任在模型供应商还是接入客服的零售企业?采购的录音能不能拿去克隆声音?公开网页上的个人信息,能不能直接用于训练?产品上线之后,这些问题往往会在同一条业务链上接连出现。


2026年9月7日,最高人民法院发布《关于依法审理涉人工智能纠纷案件的意见》(法发〔2026〕10号,以下简称《意见》)。全文共24条,涉及人格权、个人信息、消费者权益、产品责任、知识产权、技术合同和诉讼证据等问题。


这组文章分上下两篇。本篇读第1—11条,沿着“责任链—输入端—输出端—产品端”,讨论企业开发、部署和使用AI时应当如何判断责任。下篇再讨论知识产权、合同和证据。


如果你的企业正在开发、采购或者使用AI,这篇文章尤其与你有关:


企业类型
建议重点看
大模型、生成式AI服务企业
第1—8条:责任划分、训练数据、输出侵权
AI应用、Agent、SaaS企业
第1—8条:上游模型不等于替你承担全部责任
普通采购和使用AI的企业
第1—7、10条:数据输入、AI客服、数字人、算法决策
机器人、智能硬件、汽车企业
第9—11条:产品责任、宣传、版本和事故数据



第一章|责任链:出了问题,究竟算谁的?(第1—3条)



企业使用AI以后,一个很常见的误区是:


模型是第三方提供的,出了问题就找模型公司。


但真正发生争议时,责任通常没有这么简单。


同一个AI项目里,可能同时存在基础模型提供商、系统集成商、AI应用企业和最终使用者。法院真正需要判断的,不只是合同里每个人叫什么,而是:谁决定了这件事怎么做,谁能够控制风险,谁本来有能力避免损害。


第1—2条原文节选:



第1条:“坚持发展和安全并重、促进创新和依法治理相结合,依法公正审理涉人工智能纠纷案件”。

第2条:“区分通用与专用、开源与闭源等不同类型大模型在技术原理、风险外溢与控制能力上的差异,对开发者、提供者、使用者等主体的法律责任作出合理划分。”



第1条提出总体要求,第2条明确以人为本、支持创新发展和筑牢安全底线三项原则。第1—2条给出的其实是一套责任判断方法:AI并没有创造一套全新的责任体系,仍然先回到现有法律;真正特殊的是,法院会结合场景、技术特点和各方控制能力判断过错。

这意味着,同一家企业在不同AI业务里,法律身份可能完全不同。

它既可能是基础模型开发者,也可能只是调用第三方模型的应用提供者;既可能接受客户委托处理数据,也可能自行决定把客户资料加入训练;既可能只给员工提供内部工具,也可能直接通过AI客服、推荐系统或者交易服务面对消费者。如果主体身份一开始判断错了,后面的合同和合规措施通常也会错位。


《意见》第3条原文:



(三)准确把握涉人工智能侵权责任的归责原则。准确适用民法典、个人信息保护法、产品质量法、道路交通安全法等相关法律规定,依法认定利用人工智能侵害民事权益产生的法律责任。法律没有明确规定适用无过错责任或者过错推定责任的,应当依照民法典第一千一百六十五条第一款规定的过错责任原则认定行为人是否承担侵权责任。在判断行为人有无过错以及过错程度时,应当综合考量人工智能应用的具体场景、自主化程度、技术与信息透明度、潜在风险及影响范围,人工智能开发者、提供者等相关主体为预防和减少人工智能侵权所采取的措施及技术上的可能性,人工智能使用者对利用人工智能技术实施的侵权行为可能造成损害的预见能力与控制能力等因素。



第3条进一步说明,AI侵权不能简单套用一种统一的归责规则。


法律没有规定适用无过错责任或过错推定责任时,才依《民法典》第1165条第1款适用一般过错责任。例如,个人信息处理侵害个人信息权益造成损害的,个人信息保护法》第69条实行过错推定;缺陷AI实物产品致害,则要审查产品责任。因此,既不能说“所有AI侵权都适用一般过错责任”,也不能因为损害与AI有关,就直接认定某一方必须赔偿。

所以,既不能说“所有AI侵权都按一般过错责任处理”,也不能因为损害与AI有关,就直接认定模型公司、应用企业或者使用者中的某一方当然承担责任。


一个AI客服出错,为什么可能牵出三家公司?


以零售企业接入AI客服为例。


模型供应商提供基础模型,集成商负责系统部署,零售企业负责退款政策、知识库内容以及最终面向消费者的客服渠道。

如果AI客服错误告诉消费者“这笔订单可以退款”,零售企业很难仅仅因为“模型是第三方提供的”就退出争议。


真正需要继续查的是:


退款政策本身有没有写错;集成商有没有接错知识库或者版本;模型有没有偏离已经提供的信息;企业发现类似错误后,是否仍然继续让AI直接面对消费者。


同样一句错误回答,原因不同,最终需要承担责任的人也可能完全不同。


企业与模型供应商、集成商之间能不能进一步追偿,则还要继续看合同约定、故障原因和能够留下来的证据。


所以,对企业而言,比争论“我到底算开发者还是使用者”更有意义的问题,是把一个笼统的“AI项目”拆成具体行为:


谁决定数据怎么用,谁配置模型和知识库,谁决定输出是否直接给客户看,谁有权限暂停功能,谁负责收到投诉以后处理。

法院最终判断过错,也会落到这些具体事实。


对于开发者和服务提供者,需要看其在当时的技术条件下是否做过必要测试、风险提示和安全控制;对于采购、部署和使用AI的企业,则要看企业有没有擅自改变用途、关闭安全设置,或者明明能够预见风险,却仍然未经核实把AI结果用于对外决策。

如果企业已经上线AI业务,我更建议先拿一个真实项目做一次“责任链自查”。


只回答几个问题就够了:


数据是谁提供和决定用途的?模型是谁提供的?功能和规则是谁配置的?AI结果由谁决定直接交给客户或者消费者?一旦发生风险,谁能够暂停、修改或者下架?


如果这几个问题在企业内部都找不到明确答案,那么发生争议以后,合同、日志和证据往往也很难对应起来。

责任链还需要有记录支持。


上线前做过哪些测试,使用的是哪个版本,什么时候发现问题,收到投诉以后谁做了什么处置,都最好能够对应到时间、版本和责任人。


当然,留痕并不是要求企业无限保存所有数据。保存范围仍应围绕风险判断的必要性,并遵守个人信息处理中的最小必要和保存期限要求。


所以,第1—3条对企业最重要的提醒可以压缩成一句话:


判断AI责任,不能只看合同上我是开发者还是使用者,更要看这个环节究竟是谁决定、谁控制、谁有能力避免风险。


第二章|输入端:数据和素材拿得到,不等于AI就能用(第4—6条)


企业做AI项目时,输入端最容易出现的一种误判是:


素材是我买的、数据是网上公开的、客户资料也确实在我手里,那我当然可以拿给AI用。


但AI带来的问题恰恰在于,同一份素材进入不同使用场景以后,法律评价可能完全不同。


一段已经合法取得的录音,用于播放,和拿去克隆声音,不是一回事;公开网页上的个人信息,被普通用户浏览,和被AI持续抓取、关联、分析甚至用于模型训练,也不是一回事。


所以,第4—6条其实都在回答同一个企业问题:


“拿得到”,解决的是来源问题;“能不能这样用”,还要继续判断使用目的和权利范围。

第4条:有照片、有录音,不代表已经取得了AI生成授权


《意见》第4条原文:



(四)依法规制“AI换脸拟声”“AI复活逝者”等利用生成式人工智能侵害人格权益的行为。利用生成式人工智能处理特定自然人或者死者的姓名、肖像等,不得违反法律、法规,不得违背公序良俗。除法律另有规定的外,未经自然人同意,利用人工智能处理自然人的姓名、肖像等,生成可识别该自然人的虚拟数字形象并使用、公开,该自然人主张行为人侵害其姓名权、肖像权等人格权益的,人民法院依法予以支持。除法律另有规定的外,未经自然人同意,使用自然人的声音作为训练语料,模仿该自然人的音色、语调和发音风格等生成能够识别该自然人的合成人声,该自然人主张行为人侵害其声音权益的,人民法院依法予以支持。操控生成合成的能够识别特定自然人的虚拟数字形象、声音实施不当行为或者发表不实言论,降低该自然人或者他人社会评价的,人民法院应当依法认定构成对名誉权的侵害。利用人工智能技术擅自制作、使用死者的虚拟数字形象致使死者的姓名、肖像、名誉等受到侵害,死者近亲属依据民法典第九百九十四条的规定请求行为人承担民事责任的,人民法院依法予以支持。



第4条对企业最直接的提醒,是重新检查过去已经取得的素材授权。


企业可能合法持有一张照片、一段采访录音,甚至已经支付过使用费用,但这并不当然意味着企业获得了利用AI重新生成这个人的形象、声音和新内容的权利。


例如:


允许使用一段原始配音,不当然等于允许拿这段声音训练模型;
允许使用本人拍摄的照片,也不当然等于允许制作能够持续生成新内容的数字人。


企业需要注意的是,购买录音、取得录音制品的相关许可,或者由员工自行拍摄照片,都不当然包含声音克隆、虚拟形象训练、生成新台词、转授权和长期商业化的同意。


最高人民法院2025年发布的典型案例“殷某某诉甲公司、乙公司等人格权纠纷案”具有直接参考价值。殷某某为甲公司录制声音,甲公司将音频提供给乙公司;乙公司使用AI技术处理,制成能够再现殷某某声音的文本转语音产品,丙公司购买后又包装销售。各公司均未就AI化使用取得殷某某授权。


法院最终判令甲、乙公司连带赔偿25万元,乙、丙公司赔礼道歉;丙公司因支付合理对价、信赖上游授权且没有主观过错,不承担赔偿责任。相关产品此前已经下架,停止侵害的诉讼目的已经实现。最高法典型案例,案例二


上游承诺“素材合法”,不能补足实际缺失的人格权益授权;善意采购可能影响赔偿责任,也不等于企业可以免除所有责任。


所以,数字人、AI配音、虚拟主播、广告和营销项目中,企业最好不要只问一句:


“这个素材有没有版权?”


而应进一步问:


是否允许用于AI训练?是否允许生成本人从未说过、做过的新内容?可以使用在哪些场景?能否转授权给模型公司或其他供应商?授权期限多长?终止以后,训练素材和已经生成的数字人如何处理?


如果涉及“AI复活逝者”,还需要按照《民法典》第994条进一步核查相关人格利益保护问题,而不能仅仅因为取得某一名亲属的同意,就当然认为所有风险都已经解决。


这里真正值得企业记住的是:


传统的“素材使用授权”,不一定覆盖新的AI使用方式。

第5—6条:信息已经公开,不等于AI可以任意分析和使用


如果说第4条解决的是企业“已经拿到素材以后能不能继续AI化使用”,第5—6条面对的则是另一个更常见的问题:


网上已经公开的数据,还需不需要管?


答案不是简单的“可以”或者“不可以”。

这里首先要把第5条和第6条分开。


第5条管的不是“抓取公开信息”,而是利用AI进一步刺探隐私


《意见》第5条原文:



(五)依法规制利用人工智能实施“网络开盒”“人肉搜索”等侵害自然人隐私权的行为。以刺探隐私为目的,利用人工智能对特定自然人的电话号码、网络账号及社交媒体等公开信息进行追踪、分析,获取私密信息,或者将所获取的私密信息泄露、公开,或者利用所获取信息侵扰私人生活安宁的,应当认定构成对隐私权的侵害。利用人工智能对特定自然人的私密空间、私密活动等实施拍摄、窥视、窃听等行为的,应当认定构成对隐私权的侵害,但是法律另有规定或者该自然人明确同意的除外。



这里很容易产生一个误读:


是不是只要把多个公开网页的信息用AI汇总起来,就侵犯隐私?


不是。


第5条针对的是以刺探隐私为目的,对特定自然人的公开信息持续追踪、关联和分析,进一步获取私密信息,或者将这些信息用于泄露、公开、侵扰私人生活等行为。


所以,对智能搜索、背景调查、销售线索、风控等AI产品来说,企业不能只停留在一个问题:


“我的原始数据是不是公开的?”


还要继续看AI究竟做了什么。


例如,一个人在职业社交平台主动公开姓名、任职单位和工作经历,并不意味着第三方就当然可以将这些信息与其他平台的数据持续关联,进一步推断其家庭关系、住所、行踪或者其他私密事实。

这里真正发生变化的是:


原始数据可能分别公开,但经过AI的大规模聚合、关联和推断以后,最终形成的信息产品已经可能完全不同。

因此,第5条最值得企业关注的不是“能不能抓公开网页”,而是:


AI有没有从公开信息继续向个人的私密领域推进。


第6条进一步回答:合法公开的个人信息,能不能拿去训练AI?


《意见》第6条原文:



(六)依法认定人工智能训练过程中侵害个人信息权益的民事责任。为人工智能模型训练,在合理范围内处理个人自行公开的或者其他已经合法公开的个人信息,且个人未明确拒绝的,一般不认定为侵害个人信息权益的行为。对个人权益有重大影响的,应当依照法律规定取得个人同意。在认定合理范围时,应当综合考量处理个人信息的目的与模型功能的必要性和适当性,所涉个人信息的类型、敏感程度及对个人权益的潜在影响,个人公开信息时的场景及可合理预期的使用范围等因素。



第6条进一步处理已经合法公开的个人信息能否用于AI训练。它与《个人信息保护法》第27条衔接:在合理范围内处理个人自行公开或者其他已经合法公开的个人信息,个人未明确拒绝的,一般不认定侵害个人信息权益;但处理对个人权益有重大影响的,应当依法取得同意。


判断是否属于合理范围,需要结合模型功能、处理目的、信息类型和敏感程度、公开场景及个人合理预期。“合法公开”解决的是信息来源状态问题,并不自动回答“能不能拿来训练模型”。

企业还要继续判断:


为什么要处理这类个人信息?模型功能真的需要吗?信息本身敏不敏感?个人当初公开这些信息时,是否能够合理预期它会被用于这样的AI训练?训练和后续使用又可能给个人带来什么影响?


所以,对于AI企业而言,一个很危险的合规逻辑是:


数据来自公开互联网 → 所以可以直接进入训练集。


中间其实少掉了最关键的一层:


公开来源 → 是否属于合法公开 → 当前训练用途是否仍在合理范围内。


如果进一步涉及生物识别、医疗健康、金融账户、行踪轨迹等敏感个人信息,还要继续审查《个人信息保护法》第28—30条规定的条件。


企业的数据管理也因此不能只保存“来源网址”。


至少需要能够说明:数据什么时候取得、为什么认为属于合法公开、用于什么模型或功能、是否涉及敏感信息,以及是否存在个人已经明确拒绝处理的信号。


还有一种很常见的场景:把客户数据直接交给模型供应商


这也是很多企业最容易忽略的一层。


企业使用第三方模型进行微调、知识库建设或者其他处理时,不能只确认:


“我的客户数据是不是合法取得的。”


还需要继续确认第三方模型供应商拿到数据以后究竟做什么。


例如:

供应商是不是只按照企业指示处理?

还是可以把这些数据进一步加入自己的通用模型训练?

是否还会转给其他服务商处理?

项目结束以后如何删除或者继续保存?


这些事实会影响《个人信息保护法》第21条、第23条等不同规则的适用。


因此,合同里只写一句:


“客户保证其上传数据合法合规。”


远远不够。


客户要审查自己为什么可以把数据交出去,模型供应商也需要对自己的后续处理行为承担相应责任。


如果后续收到个人的拒绝、撤回同意或者删除请求,还应当区分原始数据、清洗后的副本、知识库以及模型相关处理,分别判断如何响应。


《个人信息保护法》第47条也已经给出一个现实边界:如果删除从技术上确实难以实现,应当停止除存储和必要安全保护之外的处理。


所以,企业面对AI输入端时,真正需要建立的不是一句:

“数据来源合法。”


而是一条能够回答清楚的链条:

数据从哪里来 → 为什么可以取得 → 为什么可以用于现在这个AI用途 → 交给谁继续处理 → 后续如何退出。


如果企业正在把数据、客户资料、公开网页信息、照片或者录音输入AI,建议先回答以下问题。


记录内容 要回答的问题
数据来源 从哪里取得?什么时候取得?
权利基础 是授权、合同、自行公开还是其他依据?
AI用途 训练、微调、知识库、检索还是直接生成?
权利范围 原授权是否覆盖AI训练、生成、转授权和商业使用?
特殊信息 是否涉及敏感个人信息、声音、肖像等?
上游供应商 数据是否会进入供应商自己的通用训练?
后续处置 收到拒绝、撤回或删除请求以后怎么办?


最后还需要保留一个边界:

第5—6条主要解决的是隐私权和个人信息权益,并没有因为数据已经公开,就给企业一张“公开数据万能许可证”。

如果数据同时涉及作品、商业秘密、声音、肖像或者其他权利,仍然需要按照相应规则分别判断。


所以,第4—6条最终可以压缩成一句话:

企业做AI输入合规,不能只证明“我是怎么拿到这份数据的”,还必须说明“为什么我有权把它用于现在这种AI用途”。


第三章|输出端:AI生成侵权内容,什么时候轮到平台负责?(第7—8条)


AI生成内容出问题以后,企业最容易问两个问题:


模型自动生成的,又不是企业员工写的,为什么平台要负责?


以及:


只要我没有收到权利人投诉,是不是就不用管?


第7—8条真正解决的,就是生成式AI服务提供者在“输出已经产生风险”以后,责任从什么时候开始变得具体。

第7条:AI生成侵权内容,不是当然由平台赔,但收到通知以后不能什么都不做


《意见》第7条原文:



(七)审慎认定生成式人工智能服务提供者的侵权责任。生成式人工智能自动生成的内容侵害他人名誉权、隐私权等人格权益,经权利人通知,生成式人工智能服务提供者未及时采取停止生成侵权内容等必要措施的,应当对造成的损害依法承担侵权责任。通知应当包括构成侵权的初步证据及权利人的真实身份信息。网络用户通过输入侵权提示词等方式恶意诱导生成式人工智能生成侵权内容并造成他人损害的,该网络用户应当依法承担侵权责任;经权利人通知,生成式人工智能服务提供者未及时采取停止生成侵权内容、屏蔽相关生成指令等必要措施,权利人依据民法典第一千一百九十五条的规定请求该网络用户、生成式人工智能服务提供者承担民事责任的,人民法院依法予以支持。



生成式AI每天可能产生大量内容,服务提供者很难事先预测和逐一审查所有结果。因此,第7条没有简单规定“AI一旦生成侵权内容,服务提供者就要赔偿”,而是把权利人通知以及通知后的处置作为重要的责任判断节点

条文主要处理两种情况。模型自动生成侵害名誉权、隐私权等人格权益的内容,服务提供者收到通知后未及时采取必要措施的,应依法承担侵权责任。用户恶意诱导AI生成侵权内容并造成损害的,用户首先要为自己的行为负责;服务提供者收到通知后仍未及时采取必要措施的,还要依《民法典》第1195条等规则判断责任,相关规定涉及对损害扩大部分承担连带责任。

最高人民法院在答记者问中,将其解释为生成式AI场景下对“避风港规则”的参照适用。核心是不能要求企业事先预测每一次输出,但已经收到具体侵权通知后,就需要采取合理措施。最高法答记者问


收到投诉以后,企业到底要做到什么程度?


这可能是第7条对企业最现实的问题。


答案首先不是:

客服回复一句“您的投诉已经收到”。

通知需要包含构成侵权的初步证据以及权利人的真实身份信息,但生成式AI和传统网页内容有一个很明显的不同:很多内容是即时生成、点对点展示的,权利人未必能够像投诉普通网页一样提供一个固定公开链接。


因此,企业不能机械地把“必须提供URL”作为唯一受理条件。


如果投诉人能够提供生成内容、截图、提示词、账号信息、生成时间或者其他足以帮助企业定位问题的材料,企业就需要结合自身技术能力判断能否进一步查找相关输出和生成路径。


真正需要落实的是后面的“必要措施”。


不同案件未必要求企业采取完全相同的措施,但至少要回答几个问题:


能不能找到问题在哪里?
能不能让已经暴露的侵权内容停止继续生成?
如果存在恶意诱导,能不能限制相应提示词或者账号行为?
措施采取以后,有没有重新测试是否有效?


例如,某个用户不断诱导模型生成针对特定个人的虚假侮辱内容。


这时候,企业可能需要处理的就不仅是某一条已经生成的文本,还包括相关生成指令、账号行为或者具体生成路径。


“删掉一个结果”和“控制住已经暴露的生成风险”,不是一回事。


《意见》没有给所有投诉设定统一时限,也没有要求模型在任何条件下绝不再出现类似结果。企业需要说明,面对已经具体暴露的风险,采取了符合现有技术水平、与风险相匹配的合理必要措施。复测和处置记录的作用,是证明这一过程。


但第7条还有一个重要边界:它主要处理人格权益侵害


第7条直接讨论的是生成式AI输出侵害名誉权、隐私权等人格权益的情形。


因此,不能因为这一条存在,就把它直接套成:


“所有AI知识产权侵权,只要平台收到通知再处理就可以免责。”


知识产权、合同、个人信息、产品责任等问题仍然要分别回到相应法律规则判断。


所以,企业内部如果设计统一的AI投诉机制,可以共用入口,但后续最好根据投诉类型区分处理逻辑。


一条“名誉侵权投诉”和一条“模型输出涉嫌侵犯著作权”的投诉,后面的法律判断并不完全相同。


第8条:有些风险不能等最后判赔,法院可以先要求停下来


《意见》第8条原文:



(八)依法适用人格权侵害禁令制度。自然人、法人或者非法人组织有证据证明行为人利用人工智能正在实施或者即将实施侵害其人格权益的违法行为,不及时制止将使其合法权益受到难以弥补的损害,向人民法院申请采取责令行为人停止有关行为或者责令有关网络服务提供者、生成式人工智能服务提供者停止提供有关服务的措施的,人民法院可以依法作出人格权侵害禁令。在作出人格权侵害禁令时,人民法院应当结合被侵害的人格权类型、违法行为的方式以及可能造成损害的范围、程度等因素,采取相应的禁令措施,不得超出必要限度。



第8条对应的是更紧迫的救济需要:有证据证明人格权益侵害正在发生或即将发生,不及时制止将造成难以弥补的损害时,权利人可以申请人格权侵害禁令。这与《民法典》第997条相衔接,既可能制止用户的侵权行为,也可能要求有关服务提供者停止相关服务。


例如,AI换脸制造的不雅内容正在持续扩散,事后赔偿未必足以挽回损害。权利人可以在固定服务入口、输出内容和传播范围后,评估申请禁令,无须把“先投诉、投诉无效”当作申请禁令的前提。


对于企业,紧急处置应具体到涉案账号、数字人模板、声音模型、生成路径或相关功能。法院的禁令不得超出必要限度,企业提出的措施也应当能够实际制止侵害,并可以验证执行情况。


第7—8条放在一起看,企业真正需要建立的不是一个抽象的“内容审核制度”。


而是两种能力:


普通风险出现以后,能够及时定位、处置并证明自己做过什么;
重大、紧急风险出现以后,能够快速而精准地停止相关行为。


所以,这一章最终可以压缩成一句话:


AI平台不需要保证模型永远不出错,但风险已经暴露以后,企业要有能力找到它、停下来,并证明自己是怎么处理的。


第四章|产品端:交付了什么、承诺了什么,出了问题能否说清?(第9—11条)


第9—11条进入的是更具体的产品和交易场景。

对企业来说,真正需要关注的不是再增加一套抽象规则,而是三个问题:

我提供的到底是AI服务还是法律意义上的“产品”?
算法作出的交易条件,企业能不能解释?
发生事故以后,能不能还原当时产品真实的运行状态?

第9条:不是所有“AI产品”都适用产品责任


《意见》第9条原文:



(九)准确认定人工智能产品责任。人民法院应当依据产品质量法关于“产品”的定义,依法准确认定以实物为载体的人工智能产品并适用相应的法律规则。人工智能产品存在缺陷造成损害的,生产者、销售者应当依法承担产品责任。在认定人工智能产品是否存在危及人身、财产安全的不合理危险时,应当综合考量人工智能产品的性质与用途、自主学习能力、升级更新情况、用户对系统的控制程度,以及是否符合相关国家标准、行业标准等因素,并重点审查生产者、销售者是否就人工智能产品的适用场景、固有局限及可预见的风险等进行了真实的说明和明确的警示。



这里的“AI产品”有特定法律含义。最高法答记者问明确,产品责任中的人工智能产品限定为以实物为载体的产品,如智能机器人、自动驾驶汽车,将没有实物载体的人工智能服务排除在外。最高法答记者问


最高法答记者问进一步说明,这里主要指以实物为载体的AI产品,例如智能机器人、自动驾驶汽车;没有实物载体的生成式AI服务,不直接纳入这一条的产品责任范围。


如果把单纯的生成式AI服务直接纳入产品责任,可能导致无过错产品责任被过度扩大。


这个区分对企业非常实际。


如果企业提供的是生成式AI、Agent、AI SaaS等软件或者服务,不能仅仅因为AI输出造成损失,就直接套用缺陷产品责任。

但这并不意味着服务提供者免责。


它仍然可能涉及合同、一般侵权、消费者权益、个人信息保护等其他责任。


所以,第9条真正划出的不是“AI服务免责线”,而是一条:


先判断法律关系,再决定适用哪一套责任规则。


对智能硬件企业来说,“出厂合格”也不等于以后永远没有产品责任


对于机器人、智能终端、自动驾驶汽车等有实物载体的AI产品,判断产品有没有缺陷,也不能只看产品刚出厂时有没有通过测试。


《意见》明确要求综合考虑:

产品性质和用途、自主学习能力、升级更新情况、用户对系统的控制程度,以及相关国家标准、行业标准。

还会重点审查生产者和销售者有没有真实说明产品的适用场景、固有局限以及可以预见的风险。


这对AI产品企业提出了一个和传统硬件很不一样的问题:


产品交付以后,它可能还在持续变化。


软件更新、模型升级、功能开关调整,都可能改变实际风险状态。


所以,一台设备发生事故以后,企业真正需要回答的往往不只是:

“这个型号出厂的时候有没有通过测试?”


而是:

事故发生那一天,这台设备运行的是哪个软件和模型版本?开了哪些功能?最近更新过什么?用户收到过什么提示?

这也是为什么企业需要保留硬件状态、软件版本、升级记录、测试结果和风险提示。


交付时测试通过,不代表后续升级带来的风险无需再审查;企业写过风险提示,也不当然意味着产品就不存在缺陷。

第10条:差别定价要能解释,仿冒带货要审查是否构成欺诈


《意见》第10条原文:



(十)依法规制“大数据杀熟”“仿冒名人带货”等侵害消费者合法权益的行为。针对同一商品或者服务,经营者利用算法在交易价格等交易条件上实行不合理的差别待遇,侵害他人合法权益造成损害的,人民法院应当依法认定其承担相应的侵权责任。在认定是否构成不合理的差别待遇时,应当根据差别待遇是否对消费者的知情权、自主选择权、公平交易权等造成实质性限制或者损害,是否基于消费者的消费偏好、支付意愿、支付能力、浏览记录等信息形成针对其个人的交易条件,是否违背诚信原则及商业伦理等,综合考量实行差别待遇的理由是否正当、充分、非歧视。经营者提供商品或者服务时,利用人工智能实施“仿冒名人带货”且构成欺诈,消费者依据消费者权益保护法第五十五条的规定主张惩罚性赔偿的,人民法院依法予以支持。

 


“大数据杀熟”的关键,不只是不同消费者看到了不同价格,还要判断差别待遇是否不合理。《个人信息保护法》第24条要求自动化决策透明、公平、公正,不得在交易价格等条件上实行不合理的差别待遇。


因此,经营者要能说明价格差异来自下单时间、供需变化、合法促销等因素,还是针对消费者的支付意愿、支付能力等个人信息设置条件,并解释理由是否正当、充分、非歧视。不能把所有差异化定价都视为违法。


所以,企业真正需要避免的,不只是“价格不一样”,而是:


发生争议以后,连自己都解释不清为什么这个消费者需要多付钱。


如果企业的价格或者交易条件由算法动态决定,就应当能够保留相应规则和主要影响因素。

“系统自动算的”,本身不是一个完整解释。


第10条的另一部分,是“仿冒名人带货”。


这个场景至少可能同时出现两类问题。


一类是前面第4条已经讨论过的姓名、肖像、声音等人格权益授权。


另一类则是消费者有没有被误导。


如果企业利用AI合成视频,让消费者误以为某位公众人物真的进行了代言、推荐,并且最终构成欺诈,就可能进一步触发消费者权益保护法上的惩罚性赔偿。


所以:

使用数字人本身并不当然违法;真正需要判断的是,企业有没有让消费者对“谁在说话、谁在推荐、这个内容是不是真实代言”产生错误认识。


对于营销部门来说,这其实意味着AI内容审核不能只检查:

“有没有侵权素材。”


还要继续问一句:

“消费者看到以后,会不会误以为这是真的?”


类似的对外信息风险也会出现在AI客服


加拿大的 Moffatt v. Air Canada 案中,旅客依据航空公司官网聊天机器人给出的丧亲优惠票价信息购票,聊天机器人答复可以在出行后90日内申请,而网站另一页面写着相反政策。旅客依此购买机票并申请退款,被航空公司拒绝。审裁机构认定航空公司未合理确保信息准确,构成过失性失实陈述,判令赔偿650.88加元,连同利息和程序费用合计812.02加元。官方裁决,2024 BCCRT 149


这个案件并不是中国第10条的直接适用案例,也不能简单移植到中国法。裁决也未确认聊天机器人的技术架构。

但对企业有一个非常直观的提示:


AI客服虽然是自动生成内容,但它仍然可能成为企业面对客户的正式信息出口。


因此,价格、退款、赔付、服务条件等直接影响交易的重要信息,最好不要因为“由AI生成”就脱离业务审核。

就中国合同关系而言,《民法典》第593条还规定,一方因第三人原因违约,仍应向合同相对方承担违约责任,再依法或依约处理与第三人的关系。

第11条:辅助驾驶实务,要把人的行为、车辆缺陷和宣传放在一起看

《意见》第11条原文:



(十一)依法认定涉自动驾驶汽车、具备辅助驾驶功能汽车交通事故的赔偿责任。自动驾驶汽车、具备辅助驾驶功能汽车上道路行驶,发生交通事故造成损害的,依据民法典和道路交通安全法有关规定承担赔偿责任。因车辆存在产品缺陷导致交通事故造成损害,当事人请求生产者或者销售者依照民法典第七编第四章的规定承担赔偿责任的,人民法院应予支持。具备辅助驾驶功能的汽车因车辆缺陷与驾驶人的过错行为结合导致同一损害,当事人依据民法典第一千一百七十二条等规定同时请求驾驶人和车辆生产者或者销售者承担赔偿责任的,人民法院依法予以支持。车辆生产者、销售者对自动驾驶汽车、具备辅助驾驶功能汽车的自动化等级、智能程度、性能、用途等进行虚假或者引人误解的宣传,损害消费者合法权益,消费者依据民法典、消费者权益保护法等法律规定请求车辆生产者、销售者承担民事责任的,人民法院依法予以支持。为查明道路交通事故发生原因,人民法院可以要求车辆生产者、销售者或者运营者等数据控制方,在必要范围内提供真实、完整的自动驾驶、辅助驾驶事件记录等查明案件事实所需要的数据。



第11条仍然依照《民法典》和《道路交通安全法》处理交通事故责任。车辆缺陷造成损害的,可以向生产者或销售者主张产品责任;车辆缺陷与驾驶人过错结合导致同一损害时,应结合《民法典》第1172条等规定划分责任,不能预设各方一律连带,也不能只看驾驶人或只看系统。


相关企业需要回答:事故时开启了什么功能,系统是否发出接管请求,驾驶人如何响应,运行的是哪个软件版本,销售页面和交付人员怎样介绍功能。技术等级是事实审查入口,不能单独决定责任。


销售时夸大自动化等级、性能或用途,损害消费者权益的,也可能产生民事责任。因此,宣传材料、使用说明、功能提示和实际能力需要前后一致。


第11条还有一个容易被低估的部分:事故数据可能真的要拿出来


《意见》进一步明确,为了查明事故原因,法院可以要求生产者、销售者或者运营者等数据控制方,在必要范围内提供真实、完整的自动驾驶、辅助驾驶事件记录。


很多关键事实恰恰掌握在企业一侧。

例如:

事故发生时辅助驾驶是否开启,系统有没有识别到障碍物,有没有发出接管提示,驾驶人何时进行了操作,当时运行的是哪个软件版本。


这些事实,驾驶人或者受害人未必能够自行证明,而相关日志、事件记录和后台数据通常由车辆生产者、运营者等主体掌握。

这就会带来一个非常现实的诉讼问题:


如果法院要求企业提供这些事故数据,企业不提供,会不会直接发生举证责任倒置


严格来说,不能这么理解。


第11条本身并没有规定:只要企业没有提交事故数据,就当然由企业承担举证责任,也没有规定可以直接推定车辆存在缺陷。

但这并不意味着企业可以没有后果地拒绝提交。


《最高人民法院关于民事诉讼证据的若干规定》第95条规定,一方当事人控制证据,无正当理由拒不提交,而对待证事实负有举证责任的一方主张该证据内容不利于控制人的,人民法院可以认定该主张成立。


同时,该规定关于书证的规则也适用于电子数据。


因此,更准确的理解不是“举证责任倒置”,而是:

企业控制关键证据,却无正当理由拒绝提交时,可能产生证明妨碍的不利后果。


举个例子。


消费者主张:

“事故发生前,辅助驾驶系统根本没有发出应有的接管提示。”


真正能够证明系统有没有发出提示的事件记录主要掌握在车企手里。


如果消费者已经明确指出需要调取事故对应时间段的事件记录,并说明希望证明的事实,法院也要求企业提供,而企业在实际控制相关数据的情况下仍无正当理由拒绝提交,那么法院可能根据证据规则,对消费者关于相关证据内容的不利主张作出认定。


所以,这和“举证责任倒置”还是存在区别。


举证责任倒置,是法律预先改变某项事实应当由谁负责证明;


而这里更接近于:


原来的举证责任没有当然改变,但关键证据掌握在另一方手中,控制证据的一方又无正当理由不提供,法院因此可以对其作出不利的证据评价。


当然,“拿不出来”和“拒绝拿出来”,也不能简单画等号


企业还需要注意另一个边界。


第95条针对的是控制证据而无正当理由拒不提交。


因此,并不是企业最终没有提供某一项数据,就当然产生不利推定。


例如相关数据是否客观存在、企业是否仍然控制、保存期限是否已经届满、数据因何灭失、企业能否说明正常的数据保存和删除机制,都需要结合具体案件判断。


但反过来看,这也意味着企业不能等到诉讼发生以后,才第一次思考:


“我们的事故数据到底保存在哪里?”


如果关键日志本应由企业掌握,却无法解释为什么不存在、什么时候被删除、按照什么规则删除,企业在事实解释和证据评价上都会变得更加被动。


如果进一步存在故意删除、毁损或者阻碍法院获取证据的情况,风险还可能继续上升。


因此,对自动驾驶和辅助驾驶企业来说,数据留存已经不仅是技术运维问题,也是诉讼风险管理的一部分。


企业至少需要提前想清楚:


记录什么数据、保存多长时间、谁有权限调取、事故发生后如何冻结相关数据、导出的记录如何保证完整性,以及最终能不能对应到具体车辆、具体时间和具体软件版本。


这也是第11条非常值得企业重视的一点:


发生事故以后,企业失去的可能不只是一份日志,而是解释事故为什么发生的主动权。


所以,第11条最终要求企业能够回答的,其实是一条完整的事实链:


事故时人做了什么 → 系统做了什么 → 产品有没有缺陷 → 企业此前怎么宣传 → 相关数据能不能还原。


在自动驾驶、辅助驾驶纠纷里,谁能够把这条链条说清楚、证据留下来,往往就更有能力解释事故责任究竟应当落在哪里。

如果你的企业正在开发或者使用AI,可以先问自己四个问题:


  1. 谁真正决定数据、模型功能和产品用途?
  2. 输入AI的声音、肖像和公开信息,企业究竟取得了什么权利?
  3. 模型输出侵权以后,能否快速定位、停止并留下处置记录?
  4. 产品发生争议时,能否还原当时的版本、功能、宣传和运行状态?

下一篇,我们把视角从“产品出了问题谁负责”,转向技术成果、合同和证据:模型被指控侵权时要提交哪些材料,开源软件上游能否免责,AI参与研发如何认定发明人,以及模型已经升级、输出无法复现时如何举证。


相关研究