当 AI 一本正经地 “乱说八道” 从订餐乌龙、误导退票，，演变为凭空捏造犯罪事实、恶意诽谤个人信用，，手艺的界线在那里？？？谁该为 AI 的 “幻觉” 买单？？？

去年9月，，北京锦钟律所黄贵耕状师因被AI造谣“威胁法官、伪造印章”，，将涉事平台告上法庭。。。6月12日，，在南都举行的数字经济治理沙龙现场，，黄贵耕连系自身维权履历，，剖析了天生式AI侵权背后的现实逆境与执法争议。。。“我从未对AI宣战，，我抵制的是将AI幻觉作为恶意侵权挡箭牌的行为。。。”

黄贵耕状师在论坛现场在线讲话。。。

从“荒唐乌龙”到“恶意离间”AI幻觉侵权正演变为公共危害

“作为一名执业状师，，我亲自履历了被AI平台捏造虚伪信息、恶意离间的全历程。。。”在论坛分享环节，，黄贵耕展示了一组截图。。。截图中，，AI精准标注了他的姓名和执业机构，，并凭空捏造出他“威胁法官”“先容行贿”“伪造印章”“涉嫌刑事犯罪被吊销执照”等卑劣情节。。。

黄贵耕体现，，这些虚伪负面信息被案件当事人及亲友普遍撒播，，致使他的社会评价严重贬损，，潜在客户流失不可估量，，遭受着重大的精神压力。。。

这并非孤例。。。据黄贵耕先容，，南京李小亮状师、北京安振杰状师均遭涉事AI及其旗下产品捏造治罪判刑的虚伪内容；；；；公益人士寇延丁被无故诬陷“判刑十三年”；；；；山东青年冀承祥被恶意编造“组织卖淫罪”；；；；就连“清芝灵卵磷脂”“栖贤山黄酒”等企业产品也未能幸免，，被造谣为禁售商品。。。除了李小亮一案已宣判外，，状师黄贵耕、作家寇延丁两人划分提起的另外两起诉讼，，现在仍处于法院审理程序。。。

“从自然人到企业，，受害者规模一连扩大。。。”黄贵耕指出，，这类频仍损害不特定个人信用权的行为，，已不但是针对个人的危险，，更袒露出极大的公共危害性，，势必造成社会秩序杂乱和公众对AI手艺的信任崩塌。。。

在黄贵耕的维权谈判中，，涉事平台搬出“AI幻觉”作为挡箭牌，，声称这是目今大模子手艺生长的局限性。。。对此，，黄贵耕不可认同。。。在他看来，，“AI幻觉”实质是模子对数据漫衍的过失明确，，通常体现为位置禁绝、数目误差等稍微瑕疵。。。这与该平台编造他人罪名、改动司法纪录等行为的危害性不可等同，，绝非“不可阻止的手艺误差”。。。他也同步横向比照了豆包、DeepSeek、千问等同类AI产品，，发明在输入相同要害词后，，其他主流大模子均能通过过滤机制阻挡侵权内容。。。

黄贵耕从手艺归因角度剖析了涉事平台输出的焦点原因：一是训练数据缺陷，，平台未接入权威数据库，，反而在抓取网络负面信息后私自“去匿名化”，，将他人处分纪录张冠李戴；；；；二是算法设计导向误差，，在交互中重复通过“关联问题指导”自动推送负面提问，，靠流量变现驱动侵权；；；；三是校验机制缺失，，对涉及犯罪事实等高风险内容没有任何人工核验或风险提醒。。。

“AI幻觉”成平台侵权挡箭牌？？？享受AI盈利必需肩负对等责任

在遭遇AI侵权后，，受害者面临的最大痛点是“算法黑箱”。。。通俗人很难证实平台在数据投喂和算法设计中保存详细过错，，也难以溯源虚伪信息事实是哪一次交互引发的。。。这种手艺壁垒让受害者在维权时处于绝对弱势。。。

AI侵权爆发后，，平台是否真的无法核查和纠错？？？黄贵耕在论坛现场引用了山东教育电视台的一则报道：腾讯元宝AI在除夕夜泛起詈骂用户的异常输出后，，官方迅速核查日志并宣布致歉声明，，明确“与用户操作无关，，不保存人工回复，，属于小概率下的模子异常输出”，，并允许后续将紧迫优化。。。

“这说明天生式AI服务提供者，，具备对用户调取AI服务的操作日志举行周全核查及整改的手艺能力。。。”因此黄贵耕以为，，其所诉涉事平台以“AI幻觉”不可预见为由，，在首次侵权泛起后未实时整改，，一连天生侵权内容，，实属以算法黑箱甩锅。。。“这就像司机明知刹车失灵仍上路撞人，，不可把责任推给汽车。。。”

在执法责任的界定上，，黄贵耕批判了平台常引用的“手艺中立”和“AI非民事主体”的免责逻辑。。。他以为，，司法实践中，，“手艺中立”的条件是平台已尽到合理防控义务。。。若偕行业其他产品可规避同类过失，，唯独某平台重复泛起恶性侵权，，就证实平台保存显着过错。。。“所谓的‘避风港原则’，，针对的是平台仅作为信息载体、供用户上传内容的情形。。。但我所诉的AI恶意侵权内容是平台自主生产的，，实质是平台行为的延伸，，基础不适用避风港原则。。。” 黄贵耕说，，近期德国慕尼黑地要领院首次裁定谷歌要为 AI 搜索摘要的幻觉问题肩负直接责任，，这也印证了平台主体责任是全球共识。。。

“就像养狗伤人主人要担责、汽车肇事司神秘赔偿，，平台从AI服务中攫取了重大流量与商业收益，，绝无可能只享盈利而不肩负风险。。。”他强调，，凭证《天生式人工智能服务治理暂行步伐》等相关规则，，AI 服务提供者必需落实内容清静主体责任。。。在将AI产品推向公众时，，有义务对天生内容审核把关、留存日志、实时处理违法虚伪信息。。。

只管深受AI幻觉侵权之害，，但黄贵耕始终对人工智能手艺持正面态度。。。“AI 确实极大提高了事情效率，，我日常也会使用豆包、元宝、Kimi 等 AI 产品作为办公助手。。。媒体报道中说我‘对 AI 宣战’，，这是禁绝确的，，我只是对涉事AI平台的恶意侵权行为说不。。。”

他以为，，AI 行业必需离别 “重立异、微风控，，重流量、轻责任” 的野蛮生长模式。。。对此，，他提出三点建议：平台要补全全流程风控，，接入官方权威数据库，，优化算法作废负面诱导设计，，建设 7×24 小时投诉通道；；；；羁系部分要细化 AI 侵权处分规则，，对风控缺失、频仍恶性侵权的平台依法重罚，，对缺陷 AI 产品必需像缺陷汽车一样召回整改；；；；用户要提高小心，，涉及职业资质、司法纪录等要害信息，，务必通过官方渠道核实。。。

在手艺狂飙突进确当下，，怎样突破算法黑箱、完善执律例制、让平台真正扛起主体责任，，已成为天生式AI行业康健生长的必答题。。。“AI 的未来充满想象，，但底线永远是执法与知己。。。” 黄贵耕在讲话的最后体现，，希望通过自己的维权履历，，推动行业规范生长，，让 AI 真正回归便民利民的实质，，而非沦为伤人的利器。。。

出品：南都数字经济治理研究中心

采写：南都N视频记者吕虹 发自北京

更多报道请看专题：AI蜕化，，谁为模子“幻觉”买单？？？