当 AI 一本正经地 “乱说八道” 从订餐乌龙、误导退票
，，，演变为凭空捏造犯罪事实、恶意诽谤个人信用
，，，手艺的界线在那里？？？？？？谁该为 AI 的 “幻觉” 买单？？？？？？

去年9月
，，，北京锦钟律所黄贵耕状师因被AI造谣“威胁法官、伪造印章”
，，，将涉事平台告上法庭。。。。。。6月12日
，，，在南都举行的数字经济治理沙龙现场
，，，黄贵耕连系自身维权履历
，，，剖析了天生式AI侵权背后的现实逆境与执法争议。。。。。。“我从未对AI宣战
，，，我抵制的是将AI幻觉作为恶意侵权挡箭牌的行为。。。。。。”

黄贵耕状师在论坛现场在线讲话。。。。。。

从“荒唐乌龙”到“恶意离间”AI幻觉侵权正演变为公共危害

“作为一名执业状师
，，，我亲自履历了被AI平台捏造虚伪信息、恶意离间的全历程。。。。。。”在论坛分享环节
，，，黄贵耕展示了一组截图。。。。。。截图中
，，，AI精准标注了他的姓名和执业机构
，，，并凭空捏造出他“威胁法官”“先容行贿”“伪造印章”“涉嫌刑事犯罪被吊销执照”等卑劣情节。。。。。。

黄贵耕体现
，，，这些虚伪负面信息被案件当事人及亲友普遍撒播
，，，致使他的社会评价严重贬损
，，，潜在客户流失不可估量
，，，遭受着重大的精神压力。。。。。。

这并非孤例。。。。。。据黄贵耕先容
，，，南京李小亮状师、北京安振杰状师均遭涉事AI及其旗下产品捏造治罪判刑的虚伪内容；；；；；公益人士寇延丁被无故诬陷“判刑十三年”；；；；；山东青年冀承祥被恶意编造“组织卖淫罪”；；；；；就连“清芝灵卵磷脂”“栖贤山黄酒”等企业产品也未能幸免
，，，被造谣为禁售商品。。。。。。除了李小亮一案已宣判外
，，，状师黄贵耕、作家寇延丁两人划分提起的另外两起诉讼
，，，现在仍处于法院审理程序。。。。。。

“从自然人到企业
，，，受害者规模一连扩大。。。。。。”黄贵耕指出
，，，这类频仍损害不特定个人信用权的行为
，，，已不但是针对个人的危险
，，，更袒露出极大的公共危害性
，，，势必造成社会秩序杂乱和公众对AI手艺的信任崩塌。。。。。。

在黄贵耕的维权谈判中
，，，涉事平台搬出“AI幻觉”作为挡箭牌
，，，声称这是目今大模子手艺生长的局限性。。。。。。对此
，，，黄贵耕不可认同。。。。。。在他看来
，，，“AI幻觉”实质是模子对数据漫衍的过失明确
，，，通常体现为位置禁绝、数目误差等稍微瑕疵。。。。。。这与该平台编造他人罪名、改动司法纪录等行为的危害性不可等同
，，，绝非“不可阻止的手艺误差”。。。。。。他也同步横向比照了豆包、DeepSeek、千问等同类AI产品
，，，发明在输入相同要害词后
，，，其他主流大模子均能通过过滤机制阻挡侵权内容。。。。。。

黄贵耕从手艺归因角度剖析了涉事平台输出的焦点原因：一是训练数据缺陷
，，，平台未接入权威数据库
，，，反而在抓取网络负面信息后私自“去匿名化”
，，，将他人处分纪录张冠李戴；；；；；二是算法设计导向误差
，，，在交互中重复通过“关联问题指导”自动推送负面提问
，，，靠流量变现驱动侵权；；；；；三是校验机制缺失
，，，对涉及犯罪事实等高风险内容没有任何人工核验或风险提醒。。。。。。

“AI幻觉”成平台侵权挡箭牌？？？？？？享受AI盈利必需肩负对等责任

在遭遇AI侵权后
，，，受害者面临的最大痛点是“算法黑箱”。。。。。。通俗人很难证实平台在数据投喂和算法设计中保存详细过错
，，，也难以溯源虚伪信息事实是哪一次交互引发的。。。。。。这种手艺壁垒让受害者在维权时处于绝对弱势。。。。。。

AI侵权爆发后
，，，平台是否真的无法核查和纠错？？？？？？黄贵耕在论坛现场引用了山东教育电视台的一则报道：腾讯元宝AI在除夕夜泛起詈骂用户的异常输出后
，，，官方迅速核查日志并宣布致歉声明
，，，明确“与用户操作无关
，，，不保存人工回复
，，，属于小概率下的模子异常输出”
，，，并允许后续将紧迫优化。。。。。。

“这说明天生式AI服务提供者
，，，具备对用户调取AI服务的操作日志举行周全核查及整改的手艺能力。。。。。。”因此黄贵耕以为
，，，其所诉涉事平台以“AI幻觉”不可预见为由
，，，在首次侵权泛起后未实时整改
，，，一连天生侵权内容
，，，实属以算法黑箱甩锅。。。。。。“这就像司机明知刹车失灵仍上路撞人
，，，不可把责任推给汽车。。。。。。”

在执法责任的界定上
，，，黄贵耕批判了平台常引用的“手艺中立”和“AI非民事主体”的免责逻辑。。。。。。他以为
，，，司法实践中
，，，“手艺中立”的条件是平台已尽到合理防控义务。。。。。。若偕行业其他产品可规避同类过失
，，，唯独某平台重复泛起恶性侵权
，，，就证实平台保存显着过错。。。。。。“所谓的‘避风港原则’
，，，针对的是平台仅作为信息载体、供用户上传内容的情形。。。。。。但我所诉的AI恶意侵权内容是平台自主生产的
，，，实质是平台行为的延伸
，，，基础不适用避风港原则。。。。。。” 黄贵耕说
，，，近期德国慕尼黑地要领院首次裁定谷歌要为 AI 搜索摘要的幻觉问题肩负直接责任
，，，这也印证了平台主体责任是全球共识。。。。。。

“就像养狗伤人主人要担责、汽车肇事司神秘赔偿
，，，平台从AI服务中攫取了重大流量与商业收益
，，，绝无可能只享盈利而不肩负风险。。。。。。”他强调
，，，凭证《天生式人工智能服务治理暂行步伐》等相关规则
，，，AI 服务提供者必需落实内容清静主体责任。。。。。。在将AI产品推向公众时
，，，有义务对天生内容审核把关、留存日志、实时处理违法虚伪信息。。。。。。

只管深受AI幻觉侵权之害
，，，但黄贵耕始终对人工智能手艺持正面态度。。。。。。“AI 确实极大提高了事情效率
，，，我日常也会使用豆包、元宝、Kimi 等 AI 产品作为办公助手。。。。。。媒体报道中说我‘对 AI 宣战’
，，，这是禁绝确的
，，，我只是对涉事AI平台的恶意侵权行为说不。。。。。。”

他以为
，，，AI 行业必需离别 “重立异、微风控
，，，重流量、轻责任” 的野蛮生长模式。。。。。。对此
，，，他提出三点建议：平台要补全全流程风控
，，，接入官方权威数据库
，，，优化算法作废负面诱导设计
，，，建设 7×24 小时投诉通道；；；；；羁系部分要细化 AI 侵权处分规则
，，，对风控缺失、频仍恶性侵权的平台依法重罚
，，，对缺陷 AI 产品必需像缺陷汽车一样召回整改；；；；；用户要提高小心
，，，涉及职业资质、司法纪录等要害信息
，，，务必通过官方渠道核实。。。。。。

在手艺狂飙突进确当下
，，，怎样突破算法黑箱、完善执律例制、让平台真正扛起主体责任
，，，已成为天生式AI行业康健生长的必答题。。。。。。“AI 的未来充满想象
，，，但底线永远是执法与知己。。。。。。” 黄贵耕在讲话的最后体现
，，，希望通过自己的维权履历
，，，推动行业规范生长
，，，让 AI 真正回归便民利民的实质
，，，而非沦为伤人的利器。。。。。。

出品：南都数字经济治理研究中心

采写：南都N视频记者吕虹 发自北京

更多报道请看专题：AI蜕化
，，，谁为模子“幻觉”买单？？？？？？