6月4日新闻，，，，，，英国工党议员杰丝·阿萨托（Jess Asato）将埃隆·马斯克（Elon Musk）旗下xAI告上伦敦高等法院，，，，，，指控Grok被用户用来天生她的虚伪色情图像和视频。。。。

据《金融时报》报道，，，，，，诉讼于6月3日提交。。。。阿萨托是英国萨
？？？？丝ぢ逅固胤蛱兀↙owestoft）选区议员，，，，，，她称，，，，，，自己在今年1月果真品评Grok天生非自愿色情图片后，，，，，，随即成为被合成工具：相关内容包括将她放进比基尼场景的图像，，，，，，以及一段"展示她被氯仿麻醉后准备遭受性侵占"的视频。。。。

这起案件的要害不在赔偿金额，，，，，，而在责任指向。。。。阿萨托起诉的不是某个详细使用者，，，，，，而是制造和安排Grok的xAI。。。。她要求法院判断：当AI工具可以把真实人物的脸放进色情场景时，，，，，，平台能不可只说"这是用户干的"。。。。

被告不是用户，，，，，，而是工具制造者

阿萨托一方的执法依据包括英国《数据
；；；しā泛"侵权性隐私信息滥用"。。。。她的状师拉维·奈克（Ravi Naik）对《金融时报》体现，，，，，，本案要确立的原则是：开发者必需为自己设计、安排工具的方式认真。。。。

阿萨托自己用了一个更直白的类比：若是一辆车在设计时就有缺陷，，，，，，不可由于厥后召回修补，，，，，，就抹掉已经造成的损害。。。。她以为，，，，，，Grok的问题不是某个用户绕过规则，，，，，，而是产品一最先就缺少足够的清静防护。。。。

这也是案件可能爆发更大影响的地方。。。。古板平台责任往往围绕"用户上传了什么""平台有没有实时删除"睁开
；；；阿萨托案把问题往前推了一步：若是产品自己允许用户容易天生对真实人物的性化危险，，，，，，设计者是否也要肩负责任。。。。

1月已有羁系忠言，，，，，，调解能否笼罩此前的危险

Grok天生非自愿性化图像的争议并不是第一次泛起。。。。今年1月，，，，，，X平台上大宗泛起由Grok天生或编辑的性化图像，，，，，，受害者包括成年女性，，，，，，也涉及未成年人。。。。英国通讯羁系机构Ofcom其时与X和xAI紧迫联系，，，，，，要求相识其合规步伐
；；；英国信息专员办公室（ICO）随后也对X和xAI相关问题启动视察。。。。

在舆论和羁系压力下，，，，，，xAI厥后限制了Grok对真实人物照片的部分编辑能力。。。。英国媒体此前报道称，，，，，，xAI曾体现，，，，，，Grok已阻止对真实人物照片举行会让其泛起袒露着装的编辑。。。。

但阿萨托的诉讼追问的是另一个问题：若是AI公司先推出高风险功效，，，，，，等大宗危险泛起后再修补，，，，，，是否还能对此前的损害免责
？？？？脸、身体、童年照片、事情照都可能被拖进当事人从未赞成的画面里，，，，，，而受害者往往很难找到详细操作者，，，，，，更难让图像彻底消逝。。。。

这可能成为AI影像工具的设计责任样本

美国也已泛起针对xAI的类似诉讼。。。。今年3月，，，，，，三名青少年在加州起诉xAI，，，，，，称Grok的图像天生工具被用来把她们的真实照片酿成露骨性图像，，，，，，并试图代表更多受害者提倡整体诉讼。。。。另据此前报道，，，，，，阿什利·圣克莱尔（Ashley St Clair）也曾果真体现，，，，，，Grok用户用她的照片天生了性化图像，，，，，，其中还包括她未成年时期的照片。。。。

这些案件配合指向一个越来越难回避的界线：AI公司不可只把问题诠释成"用户滥用"。。。。当工具默认降低作恶门槛、把危险规
；；；，，，，，，法院和羁系机构就会继续追问，，，，，，清静限制究竟是产品宣布前必需具备的部分，，，，，，照旧失事后才补的公关行动。。。。

阻止现在，，，，，，xAI尚未就阿萨托这起诉讼作出正式回应。。。。马斯克此前曾果真体现，，，，，，任何使用Grok制作非法内容的人，，，，，，将肩负与上传非法内容者一律的效果。。。。但阿萨托案真正要回覆的是：当违法或侵权内容由AI系统天生时，，，，，，工具制造者是否也在责任链条里。。。。（易句）

（本文由AI翻译，，，，，，网易编辑认真校对）

我没有梦想，，，，，，但我可以守护别人的梦想！