百度AI错误生成执业律师李小亮“因犯爆炸罪”“被判处有期徒刑三年”的虚假信息，百度以“AI幻觉不可预见”为由抗辩。近日，该案二审宣判，法院最终维持原判，认定百度公司构成名誉权侵权，并判决百度公司向李小亮书面道歉。
本案判决向AI行业发出明确信号：技术上的局限性与不确定性，不再构成法律责任的豁免理由。用户协议中的免责条款或页面底部的免责声明，已无法完全免除运营者的法律责任。
AIGC技术先行，司法裁判迭代跟进，合规在PRD里不写，等来的就是判决。
面对当前技术阶段无法完全根除的“幻觉”（Hallucination）痛点，AI项目究竟该怎么做，才能充分规避法律风险？致高律师事务所高级合伙人、数字经济研究中心主任梁德明律师将结合本案判决就AI产品合规化开发给出建议。
行业痛点与案件的交汇：概率计算与侵权事实的界定
从底层逻辑看，大模型是基于海量语料的概率预测引擎。当检索关键词（如“李小亮律师”）与特定负面词汇在训练语料中存在关联时，模型可能会基于概率生成错误的文本组合。在自然语言处理领域，这是典型的“幻觉”表现。
但从法律视角审视，本案的关键在于：AI不仅生成了“有期徒刑三年”“犯爆炸罪”等负面文字，还将其与原告真实的职业照片进行了加工合成。这种定向输出，消解了概率计算的模糊性，不但“有理有据”而且“图文并茂”。对于普通网络受众而言，很难判断这是技术层面上的错误输出，反而会认定为对特定自然人明确的事实性贬损，客观上降低了其社会评价，从而满足了名誉侵权的构成要件。
裁判规则：同业技术标准与注意义务
诉讼中，百度以“国内人工智能发展初期”“AI幻觉具有偶发性和不可预见性”为由进行抗辩。这代表了行业内普遍的免责思维——即要求法律对初创期的技术给予宽容。
然而，二审法院并未采纳此抗辩。庭审中，主审法官提出了核心反问：“豆包、DeepSeek上发问，为什么没有这些评价？”
这不是随口一问，这一反问体现出对新兴行业技术的重要司法审查标准：行业同类产品的现有技术水平，将作为评判特定AI产品是否尽到合理注意义务的参照物。既然同期其他主流大模型能够通过检索增强等技术手段规避此类严重事实错误，产品方就不能单纯以普遍的“技术局限性”作为免责抗辩。
避风港原则适用受限：从被动检索到主动生成的责任升维
传统互联网服务长期依赖“避风港原则”（通知-删除）进行责任隔离。本案一审法院对传统搜索功能（如下拉词条、相关搜索）适用了该原则，认定其系客观抓取，未对数据进行加工处理，不构成侵权。
但对于“AI智能回答”，法院明确将其定性为通过AI技术将文字与图片进行加工合成。这意味着，AIGC产品在法律上不再被视为被动的信息传输通道或存储空间。AIGC虽然是概率预测引擎，但其主动介入内容的逻辑重组和事实生成，必然要求AI服务提供者承担与内容创作者同等的审慎义务。
应对策略：安全对齐（Safety Alignment）工程
面对司法裁判规则的变化，仅依靠用户协议中的免责条款或页面底部的免责声明，已无法阻断实质性的法律风险。安全对齐（Safety Alignment）工程会逐渐成为AI产品开发的“标配”，需求论证和原型设计阶段就应当把法律责任落实到具体的开发需求中：
1. 高危实体交互的强制校验（RAG优化）
针对涉及自然人姓名、肖像，以及刑事犯罪、行政处罚等高风险维度的内容输出，不能完全依赖模型的自由生成。必须强制引入检索增强生成（RAG），以权威且经核实的白名单数据源（如官方通报、司法文书公开平台）为准。如无确凿信源，模型应触发标准化的拒答策略或仅提供中立的检索链接。
虽然RAG无法把幻觉率降为绝对的0，但强制以白名单数据源为准，能在一定程度上证明产品方已尽到审慎的核实义务。
2. 诱导性输入（Leading Prompts / Inductive Prompts）的防御机制
判决中，法院未支持“用户诱导提问导致出错”的抗辩，表明防御对抗性输入是服务提供者的法定义务。在RLHF（基于人类反馈的强化学习）或SFT（监督微调）阶段，需系统性增加针对风险输出结果（如人格权相关）的对抗性测试集，提升模型在面临诱导性前提（如用户刻意预设某人已犯罪）时的识别与中立干预能力。
3.强制溯源与信源外显（实时标注）
AIGC产品不能仅仅提供一个“结论”，而应当像学术论文一样提供“出处”。在涉及实体人物、法律事实的回答中，UI界面应强制将RAG检索到的网页链接或权威出处以“角标”或“引用卡片”的形式实时展示。这不仅是自证清白（证明AI并非恶意捏造），也是将部分核实义务合理转移给用户的关键设计。
4.动态风险提示与“视觉摩擦”
仅仅在页面最底部放一行灰色小字免责声明的做法已经不够了。当系统识别到用户的Prompt包含特定人名、企业名或“判决”“犯罪”等高危意图词时，生成的回答上方应触发高亮（如醒目的黄色警告框）的动态提示：“当前回答涉及特定自然人/机构事实，AI可能产生幻觉，请务必交叉验证”。在极高风险场景下，甚至可以增加“点击确认后查看”的交互摩擦，确保用户明确知晓风险。
结语
技术的演进必然伴随试错，但试错的边界不能逾越公民的合法权益。李小亮诉百度AI名誉侵权案表明，司法系统正在建立针对AIGC产品的实质性责任框架。对于AI行业从业者而言，正视“幻觉”引发的侵权风险，将合规逻辑嵌入算法底层与产品设计之中，是确保大模型商业化平稳落地的核心前提。
