当 AI 一本正经地 “乱说八道” 从订餐乌龙、误导退票，，
，，，，演变为凭空捏造犯罪事实、恶意诽谤个人信用，，
，，，，手艺的界线在那里？？？？？谁该为 AI 的 “幻觉” 买单？？？？？

去年9月，，
，，，，北京锦钟律所黄贵耕状师因被AI造谣“威胁法官、伪造印章”，，
，，，，将涉事平台告上法庭。。。。。。6月12日，，
，，，，在南都举行的数字经济治理沙龙现。。。。。。，
，，，，黄贵耕连系自身维权履历，，
，，，，剖析了天生式AI侵权背后的现实逆境与执法争议。。。。。。“我从未对AI宣战，，
，，，，我抵制的是将AI幻觉作为恶意侵权挡箭牌的行为。。。。。。”

黄贵耕状师在论坛现场在线讲话。。。。。。

从“荒唐乌龙”到“恶意离间”AI幻觉侵权正演变为公共危害

“作为一名执业状师，，
，，，，我亲自履历了被AI平台捏造虚伪信息、恶意离间的全历程。。。。。。”在论坛分享环节，，
，，，，黄贵耕展示了一组截图。。。。。。截图中，，
，，，，AI精准标注了他的姓名和执业机构，，
，，，，并凭空捏造出他“威胁法官”“先容行贿”“伪造印章”“涉嫌刑事犯罪被吊销执照”等卑劣情节。。。。。。

黄贵耕体现，，
，，，，这些虚伪负面信息被案件当事人及亲友普遍撒播，，
，，，，致使他的社会评价严重贬损，，
，，，，潜在客户流失不可估量，，
，，，，遭受着重大的精神压力。。。。。。

这并非孤例。。。。。。据黄贵耕先容，，
，，，，南京李小亮状师、北京安振杰状师均遭涉事AI及其旗下产品捏造治罪判刑的虚伪内容；；；；；公益人士寇延丁被无故诬陷“判刑十三年”；；；；；山东青年冀承祥被恶意编造“组织卖淫罪”；；；；；就连“清芝灵卵磷脂”“栖贤山黄酒”等企业产品也未能幸免，，
，，，，被造谣为禁售商品。。。。。。除了李小亮一案已宣判外，，
，，，，状师黄贵耕、作家寇延丁两人划分提起的另外两起诉讼，，
，，，，现在仍处于法院审理程序。。。。。。

“从自然人到企业，，
，，，，受害者规模一连扩大。。。。。。”黄贵耕指出，，
，，，，这类频仍损害不特定个人信用权的行为，，
，，，，已不但是针对个人的危险，，
，，，，更袒露出极大的公共危害性，，
，，，，势必造成社会秩序杂乱和公众对AI手艺的信任崩塌。。。。。。

在黄贵耕的维权谈判中，，
，，，，涉事平台搬出“AI幻觉”作为挡箭牌，，
，，，，声称这是目今大模子手艺生长的局限性。。。。。。对此，，
，，，，黄贵耕不可认同。。。。。。在他看来，，
，，，，“AI幻觉”实质是模子对数据漫衍的过失明确，，
，，，，通常体现为位置禁绝、数目误差等稍微瑕疵。。。。。。这与该平台编造他人罪名、改动司法纪录等行为的危害性不可等同，，
，，，，绝非“不可阻止的手艺误差”。。。。。。他也同步横向比照了豆包、DeepSeek、千问等同类AI产品，，
，，，，发明在输入相同要害词后，，
，，，，其他主流大模子均能通过过滤机制阻挡侵权内容。。。。。。

黄贵耕从手艺归因角度剖析了涉事平台输出的焦点原因：一是训练数据缺陷，，
，，，，平台未接入权威数据库，，
，，，，反而在抓取网络负面信息后私自“去匿名化”，，
，，，，将他人处分纪录张冠李戴；；；；；二是算法设计导向误差，，
，，，，在交互中重复通过“关联问题指导”自动推送负面提问，，
，，，，靠流量变现驱动侵权；；；；；三是校验机制缺失，，
，，，，对涉及犯罪事实等高风险内容没有任何人工核验或风险提醒。。。。。。

“AI幻觉”成平台侵权挡箭牌？？？？？享受AI盈利必需肩负对等责任

在遭遇AI侵权后，，
，，，，受害者面临的最大痛点是“算法黑箱”。。。。。。通俗人很难证实平台在数据投喂和算法设计中保存详细过错，，
，，，，也难以溯源虚伪信息事实是哪一次交互引发的。。。。。。这种手艺壁垒让受害者在维权时处于绝对弱势。。。。。。

AI侵权爆发后，，
，，，，平台是否真的无法核查和纠错？？？？？黄贵耕在论坛现场引用了山东教育电视台的一则报道：腾讯元宝AI在除夕夜泛起詈骂用户的异常输出后，，
，，，，官方迅速核查日志并宣布致歉声明，，
，，，，明确“与用户操作无关，，
，，，，不保存人工回复，，
，，，，属于小概率下的模子异常输出”，，
，，，，并允许后续将紧迫优化。。。。。。

“这说明天生式AI服务提供者，，
，，，，具备对用户调取AI服务的操作日志举行周全核查及整改的手艺能力。。。。。。”因此黄贵耕以为，，
，，，，其所诉涉事平台以“AI幻觉”不可预见为由，，
，，，，在首次侵权泛起后未实时整改，，
，，，，一连天生侵权内容，，
，，，，实属以算法黑箱甩锅。。。。。。“这就像司机明知刹车失灵仍上路撞人，，
，，，，不可把责任推给汽车。。。。。。”

在执法责任的界定上，，
，，，，黄贵耕批判了平台常引用的“手艺中立”和“AI非民事主体”的免责逻辑。。。。。。他以为，，
，，，，司法实践中，，
，，，，“手艺中立”的条件是平台已尽到合理防控义务。。。。。。若偕行业其他产品可规避同类过失，，
，，，，唯独某平台重复泛起恶性侵权，，
，，，，就证实平台保存显着过错。。。。。。“所谓的‘避风港原则’，，
，，，，针对的是平台仅作为信息载体、供用户上传内容的情形。。。。。。但我所诉的AI恶意侵权内容是平台自主生产的，，
，，，，实质是平台行为的延伸，，
，，，，基础不适用避风港原则。。。。。。” 黄贵耕说，，
，，，，近期德国慕尼黑地要领院首次裁定谷歌要为 AI 搜索摘要的幻觉问题肩负直接责任，，
，，，，这也印证了平台主体责任是全球共识。。。。。。

“就像养狗伤人主人要担责、汽车肇事司神秘赔偿，，
，，，，平台从AI服务中攫取了重大流量与商业收益，，
，，，，绝无可能只享盈利而不肩负风险。。。。。。”他强调，，
，，，，凭证《天生式人工智能服务治理暂行步伐》等相关规则，，
，，，，AI 服务提供者必需落实内容清静主体责任。。。。。。在将AI产品推向公众时，，
，，，，有义务对天生内容审核把关、留存日志、实时处理违法虚伪信息。。。。。。

只管深受AI幻觉侵权之害，，
，，，，但黄贵耕始终对人工智能手艺持正面态度。。。。。。“AI 确实极大提高了事情效率，，
，，，，我日常也会使用豆包、元宝、Kimi 等 AI 产品作为办公助手。。。。。。媒体报道中说我‘对 AI 宣战’，，
，，，，这是禁绝确的，，
，，，，我只是对涉事AI平台的恶意侵权行为说不。。。。。。”

他以为，，
，，，，AI 行业必需离别 “重立异、微风控，，
，，，，重流量、轻责任” 的野蛮生长模式。。。。。。对此，，
，，，，他提出三点建议：平台要补全全流程风控，，
，，，，接入官方权威数据库，，
，，，，优化算法作废负面诱导设计，，
，，，，建设 7×24 小时投诉通道；；；；；羁系部分要细化 AI 侵权处分规则，，
，，，，对风控缺失、频仍恶性侵权的平台依法重罚，，
，，，，对缺陷 AI 产品必需像缺陷汽车一样召回整改；；；；；用户要提高小心，，
，，，，涉及职业资质、司法纪录等要害信息，，
，，，，务必通过官方渠道核实。。。。。。

在手艺狂飙突进确当下，，
，，，，怎样突破算法黑箱、完善执律例制、让平台真正扛起主体责任，，
，，，，已成为天生式AI行业康健生长的必答题。。。。。。“AI 的未来充满想象，，
，，，，但底线永远是执法与知己。。。。。。” 黄贵耕在讲话的最后体现，，
，，，，希望通过自己的维权履历，，
，，，，推动行业规范生长，，
，，，，让 AI 真正回归便民利民的实质，，
，，，，而非沦为伤人的利器。。。。。。

出品：南都数字经济治理研究中心

采写：南都N视频记者吕虹 发自北京

更多报道请看专题：AI蜕化，，
，，，，谁为模子“幻觉”买单？？？？？