泉源：东北发明“更好挖”的新稀土矿作者： 陈建廷：

遭AI诬陷的状师：我不反AI, 只反甩锅AI的恶意侵权

当 AI 一本正经地 “乱说八道” 从订餐乌龙、误导退票，，，，，演变为凭空捏造犯罪事实、恶意诽谤个人信用，，，，，手艺的界线在那里？？？谁该为 AI 的 “幻觉” 买单？？？

去年9月，，，，，北京锦钟律所黄贵耕状师因被AI造谣“威胁法官、伪造印章”，，，，，将涉事平台告上法庭。。。6月12日，，，，，在南都举行的数字经济治理沙龙现场，，，，，黄贵耕连系自身维权履历，，，，，剖析了天生式AI侵权背后的现实逆境与执法争议。。。“我从未对AI宣战，，，，，我抵制的是将AI幻觉作为恶意侵权挡箭牌的行为。。。”

黄贵耕状师在论坛现场在线讲话。。。

从“荒唐乌龙”到“恶意离间”AI幻觉侵权正演变为公共危害

“作为一名执业状师，，，，，我亲自履历了被AI平台捏造虚伪信息、恶意离间的全历程。。。”在论坛分享环节，，，，，黄贵耕展示了一组截图。。。截图中，，，，，AI精准标注了他的姓名和执业机构，，，，，并凭空捏造出他“威胁法官”“先容行贿”“伪造印章”“涉嫌刑事犯罪被吊销执照”等卑劣情节。。。

黄贵耕体现，，，，，这些虚伪负面信息被案件当事人及亲友普遍撒播，，，，，致使他的社会评价严重贬损，，，，，潜在客户流失不可估量，，，，，遭受着重大的精神压力。。。

这并非孤例。。。据黄贵耕先容，，，，，南京李小亮状师、北京安振杰状师均遭涉事AI及其旗下产品捏造治罪判刑的虚伪内容；；公益人士寇延丁被无故诬陷“判刑十三年”；；山东青年冀承祥被恶意编造“组织卖淫罪”；；就连“清芝灵卵磷脂”“栖贤山黄酒”等企业产品也未能幸免，，，，，被造谣为禁售商品。。。除了李小亮一案已宣判外，，，，，状师黄贵耕、作家寇延丁两人划分提起的另外两起诉讼，，，，，现在仍处于法院审理程序。。。

“从自然人到企业，，，，，受害者规模一连扩大。。。”黄贵耕指出，，，，，这类频仍损害不特定个人信用权的行为，，，，，已不但是针对个人的危险，，，，，更袒露出极大的公共危害性，，，，，势必造成社会秩序杂乱和公众对AI手艺的信任崩塌。。。

在黄贵耕的维权谈判中，，，，，涉事平台搬出“AI幻觉”作为挡箭牌，，，，，声称这是目今大模子手艺生长的局限性。。。对此，，，，，黄贵耕不可认同。。。在他看来，，，，，“AI幻觉”实质是模子对数据漫衍的过失明确，，，，，通常体现为位置禁绝、数目误差等稍微瑕疵。。。这与该平台编造他人罪名、改动司法纪录等行为的危害性不可等同，，，，，绝非“不可阻止的手艺误差”。。。他也同步横向比照了豆包、DeepSeek、千问等同类AI产品，，，，，发明在输入相同要害词后，，，，，其他主流大模子均能通过过滤机制阻挡侵权内容。。。

黄贵耕从手艺归因角度剖析了涉事平台输出的焦点原因：一是训练数据缺陷，，，，，平台未接入权威数据库，，，，，反而在抓取网络负面信息后私自“去匿名化”，，，，，将他人处分纪录张冠李戴；；二是算法设计导向误差，，，，，在交互中重复通过“关联问题指导”自动推送负面提问，，，，，靠流量变现驱动侵权；；三是校验机制缺失，，，，，对涉及犯罪事实等高风险内容没有任何人工核验或风险提醒。。。

“AI幻觉”成平台侵权挡箭牌？？？享受AI盈利必需肩负对等责任

在遭遇AI侵权后，，，，，受害者面临的最大痛点是“算法黑箱”。。。通俗人很难证实平台在数据投喂和算法设计中保存详细过错，，，，，也难以溯源虚伪信息事实是哪一次交互引发的。。。这种手艺壁垒让受害者在维权时处于绝对弱势。。。

AI侵权爆发后，，，，，平台是否真的无法核查和纠错？？？黄贵耕在论坛现场引用了山东教育电视台的一则报道：腾讯元宝AI在除夕夜泛起詈骂用户的异常输出后，，，，，官方迅速核查日志并宣布致歉声明，，，，，明确“与用户操作无关，，，，，不保存人工回复，，，，，属于小概率下的模子异常输出”，，，，，并允许后续将紧迫优化。。。

“这说明天生式AI服务提供者，，，，，具备对用户调取AI服务的操作日志举行周全核查及整改的手艺能力。。。”因此黄贵耕以为，，，，，其所诉涉事平台以“AI幻觉”不可预见为由，，，，，在首次侵权泛起后未实时整改，，，，，一连天生侵权内容，，，，，实属以算法黑箱甩锅。。。“这就像司机明知刹车失灵仍上路撞人，，，，，不可把责任推给汽车。。。”

在执法责任的界定上，，，，，黄贵耕批判了平台常引用的“手艺中立”和“AI非民事主体”的免责逻辑。。。他以为，，，，，司法实践中，，，，，“手艺中立”的条件是平台已尽到合理防控义务。。。若偕行业其他产品可规避同类过失，，，，，唯独某平台重复泛起恶性侵权，，，，，就证实平台保存显着过错。。。“所谓的‘避风港原则’，，，，，针对的是平台仅作为信息载体、供用户上传内容的情形。。。但我所诉的AI恶意侵权内容是平台自主生产的，，，，，实质是平台行为的延伸，，，，，基础不适用避风港原则。。。” 黄贵耕说，，，，，近期德国慕尼黑地要领院首次裁定谷歌要为 AI 搜索摘要的幻觉问题肩负直接责任，，，，，这也印证了平台主体责任是全球共识。。。

“就像养狗伤人主人要担责、汽车肇事司神秘赔偿，，，，，平台从AI服务中攫取了重大流量与商业收益，，，，，绝无可能只享盈利而不肩负风险。。。”他强调，，，，，凭证《天生式人工智能服务治理暂行步伐》等相关规则，，，，，AI 服务提供者必需落实内容清静主体责任。。。在将AI产品推向公众时，，，，，有义务对天生内容审核把关、留存日志、实时处理违法虚伪信息。。。

只管深受AI幻觉侵权之害，，，，，但黄贵耕始终对人工智能手艺持正面态度。。。“AI 确实极大提高了事情效率，，，，，我日常也会使用豆包、元宝、Kimi 等 AI 产品作为办公助手。。。媒体报道中说我‘对 AI 宣战’，，，，，这是禁绝确的，，，，，我只是对涉事AI平台的恶意侵权行为说不。。。”

他以为，，，，，AI 行业必需离别 “重立异、微风控，，，，，重流量、轻责任” 的野蛮生长模式。。。对此，，，，，他提出三点建议：平台要补全全流程风控，，，，，接入官方权威数据库，，，，，优化算法作废负面诱导设计，，，，，建设 7×24 小时投诉通道；；羁系部分要细化 AI 侵权处分规则，，，，，对风控缺失、频仍恶性侵权的平台依法重罚，，，，，对缺陷 AI 产品必需像缺陷汽车一样召回整改；；用户要提高小心，，，，，涉及职业资质、司法纪录等要害信息，，，，，务必通过官方渠道核实。。。

在手艺狂飙突进确当下，，，，，怎样突破算法黑箱、完善执律例制、让平台真正扛起主体责任，，，，，已成为天生式AI行业康健生长的必答题。。。“AI 的未来充满想象，，，，，但底线永远是执法与知己。。。” 黄贵耕在讲话的最后体现，，，，，希望通过自己的维权履历，，，，，推动行业规范生长，，，，，让 AI 真正回归便民利民的实质，，，，，而非沦为伤人的利器。。。

出品：南都数字经济治理研究中心

采写：南都N视频记者吕虹 发自北京

更多报道请看专题：AI蜕化，，，，，谁为模子“幻觉”买单？？？