从“AI偷脸”到“大模型虚假输出”，司法如何追赶技术狂奔的速度？

“AI时代人机协同的创作模式，彻底打碎了传统网络领域内容提供与技术服务的二元划分，AI换脸、大模型幻觉、人机创作侵权等新型纠纷，不能再用旧有避风港规则简单一刀切裁判。”7月9日，在“2026第二十五届中国互联网大会”——智能时代的司法挑战与应对圆桌讨论上，北京互联网法院立案庭（诉讼服务中心）副庭长王彦杰指出行业问题。

随后，王彦杰和杭州互联网法院政治部副主任王岩、广州互联网法院审管办（研究室）主任胡剑敏，共同围绕当下AI偷脸、虚拟人商用、AI图文抄袭、大模型虚假输出等热议话题展开深度对话。

《每日经济新闻》记者现场获悉，AI工具大幅降低侵权成本，批量换脸、著作权侵权案件持续爆发，广州互联网法院近三年涉AI案件约700件。

而上述案件普遍存在技术黑箱难拆解、参与主体多层、责任边界模糊等难点。那么，在技术高速发展之下，司法如何既保护受害者，又避免扼杀创新？

图片来源：每经记者 温沐夏 摄

“偷脸”还是创作？法律正在面对“人机混同”的新客体

圆桌现场，王彦杰分享的“春风案”引发关注。在该案中，原告利用AI绘画软件，通过输入提示词、历经多轮修改生成了图片，却被他人擅自使用。原告对涉案图片享有著作权法意义上的权利，被告未经许可使用涉案图片，构成侵权。享有权利的并非AI，而是通过智力投入进行选择和操控的人类创作者。这确立了“AI是工具，人是创作主体”的核心原则。

与确认“AI创作”权利相伴的，是严峻的侵权风险。

记者了解到，近三年，广州互联网法院受理涉人工智能案件约700件。其中，商业维权现象较为突出，AI图文、短视频生成工具大幅降低侵权成本，批量抄袭、换脸商用案件持续攀升。

“我归纳了一下相关案件，存在以下特色。首先是存在着多重主体，而且法律关系特别复杂。因为整个人工智能涉及到从数据的训练到提示词的输入，再到内容的输出以及智能体化平台的调取，执行任务的过程中会涉及不同主体，包括工具的使用者、服务的提供者等多层主体，甚至涉及内容平台。”胡剑敏表示，同时技术解构难度大，算法黑箱、模型训练流程超出传统法官认知；再者是商业侵权规模化，AI工具让批量侵权实现高效率、低成本，传统维权模式应对乏力。

打破“二分法”，从控制力与场景化视角重构责任边界

当AI换脸侵犯肖像权、大模型搜索输出误导结论引发名誉侵权时，责任链条在用户、应用方、模型提供方之间如何切分？

现场，胡剑敏提到的广州互联网法院近期一起已经生效的“AI幻觉案”极具代表性。据其介绍，当事人用AI查询“某机构是否是正规机构”，AI给出的回答是：“不是正规机构。”相关机构认为这一回答侵害了自身权益，因此向法院提起诉讼。

法院审查发现，用户提出的属封闭式问题，答案非黑即白，而“正规”本身定义模糊，用户在输入提示词时，实际上已经对回答方向施加了一定引导。

最终，法院认为，输出结果与提示词结构存在密切关系。提示词的设计直接影响了答案的真实性和准确性，责任不能全部由服务提供者承担。

这给用户敲响了警钟，不能将一切责任推给技术。胡剑敏表示：“从用户角度看，审查其注意义务时，除了要看用户是否存在规避平台审查的行为，还要判断用户是否进行了误导性发问。”

对于服务提供者，责任划分远非“技术中立”可以豁免。胡剑敏表示，在上述案件中，广州互联网法院考察了服务提供者的注意义务，主要涵盖数据来源是否可信、平台是否符合当前通行技术水平、输出结果是否存在人工干预等方面。

而在王彦杰看来，AI时代的人机协同创作模式，已打破传统网络“内容提供”与“技术服务”的二元结构，在具体侵权场景下，应兼顾其作为“内容生产者”和“平台服务者”的双重角色来认定责任。

为应对技术审理难点，胡剑敏透露，广州互联网法院目前也在尝试建立数字技术管理中心，或将于8月底正式挂牌成立。区别于传统知识产权法院技术调查官制度，该机构专司解构数据训练、输出逻辑等专业化知识鸿沟。

三方共识在于：责任分担必须锚定控制力度与过错程度。在AI换脸黑灰产中，不能因算法黑箱让平台背负无限连带责任，也不能让用户以“机器自动生成”为挡箭牌脱责。

正如王岩所言，责任最终要综合侵权后果，若服务提供者尽到注意义务则不需承担，且不能以技术不可操作或不可预知性推卸；而使用AI的当事人，必须为自己的不当输入与诱导发问承担不利后果，这才是智能时代司法定分止争的底层法理。