泉源：工人用水泥振捣器洗衣服作者： 张永修：

担心AI天生虚伪内容扰乱司法，，，，，，英国警方被叫停使用AI撰写法庭陈述

IT之家 6 月 7 日新闻，，，，，，据英国《金融时报》报道，，，，，，由于担心人工智能天生的禁绝确内容会扰乱司法流程，，，，，，英国多个警员部分已接到通知，，，，，，阻止使用人工智能系统撰写法庭陈述及开展其他刑事司法相关事情。。

英国警方人工智能中心（Police.AI）认真人亚历克斯?默里体现，，，，，，他已介入干预部分警队。。这些警队在未完玉成面合规评估的情形下，，，，，，就最先使用市面上的商用人工智能工具。。

“我们已经叫停了部分相关应用。。”默里称，，，，，，他见告相关警队：“连忙暂停使用，，，，，，我们需要放磺寰缠节奏。。”

他增补道，，，，，，应用于刑事司法系统的任何手艺，，，，，，其准确性都必需抵达扫除合理嫌疑的严苛标准。。

此次叫停行动，，，，，，凸显出天生式人工智能在警务领域的应用争议日益加剧。。默里认真羁系英格兰和威尔士地区警方的人工智能使用事情。。他体现，，，，，，这项手艺最终有望加速案件侦查与证据处理效率，，，，，，但周全推广使用前必需先建设完善的清静包管机制。。

Police.AI 于今年正式建设，，，，，，是英国政府为提升警务整体效率推出的刷新行动之一。。英海内政大臣沙巴娜?马哈茂德体现，，，，，，该项目三年合计获 1.15 亿英镑（IT之家注：现汇率约合 10.46 亿元人民币）资金支持，，，，，，投入使用后节约的人力时间，，，，，，相当于为英格兰和威尔士现有的约 14.5 万名在职警员增配 3000 名警力。。

据默里先容，，，，，，部分警队最先借助商用人工智能系统，，，，，，协助警员将审讯笔录整理为法庭陈述文书，，，，，，警方人工智能中心随即脱手干预。。

默里并未透露涉及的详细警队，，，，，，但他体现，，，，，，警方同时也收到提醒：在完玉成部合规审查前，，，，，，不得将人工智能应用于其他警务事情。。

“我们明确见告部分警队：现在不可这么做，，，，，，由于全套审核与制衡流程尚未走完。。”他说道。。

他特殊指出，，，，，，证据披露清单的体例事情需要格外审慎。。这类清单是庭审前必需提交给辩方的证据纪录。。使用人工智能处理该项事情的警队，，，，，，必需说明该手艺的训练方式与现实应用流程。。

默里坦言，，，，，，警方此前使用人工智能已有过前车之鉴。。去年，，，，，，西米德兰兹郡警方在整理一份禁令佐证质料时，，，，，，使用了微软智能助手 Copilot 天生的内容。。这份质料旨在申请榨取某足球俱乐部球迷观赛，，，，，，其中竟编造出以色列特拉维夫马卡比队的一场过往赛事。。相关球迷原定前往现场寓目该队与阿斯顿维拉队的角逐。。

这起事务进一步引发了各界对人工智能幻觉问题的普遍担心，，，，，，人工智能幻觉也就是人工智能系统天生看似真实、实则虚伪信息的征象。。

“现在所有警队都已出台规范使用 Copilot 的相关制度，，，，，，划定警员必需核查该工具天生的所有内容。。”默里说。。

只管保存诸多隐患，，，，，，但默里以为，，，，，，经由周全测试的人工智能系统，，，，，，能够为深陷事情量激增、案件侦查日趋重大逆境的警队带来显著助益。。

监控录像剖析就是极具远景的应用偏向。。现阶段，，，，，，警员往往要泯灭数小时人工回看录像，，，，，，从中征采嫌疑人。。

默里体现：“只要指令设置适当，，，，，，人工智能完全可以做到按要求检索，，，，，，好比‘找出戴红帽子的男子’。。在证据尚存要害价值的黄金数小时以致一两天内，，，，，，我们就能锁定目的、上门抓捕，，，，，，就地查获带有血迹的鞋证。。”

他还提到，，，，，，人工智能有能力处理海量电子证据，，，，，，儿童性侵案件侦查即是典范场景。。现在警方人工智能中心正在研发一款工具，，，，，，可对查扣装备中的图片举行识别与分类，，，，，，镌汰警员直接浏览不良影像的次数。。

默里说：“警员只需抽样核验即可，，，，，，不必逐一审查所有画面。。这类内容会对人的身心造成极大危险。。我以为，，，，，，只要配套完善羁系规则、使用规范与职员培训，，，，，，自动化手艺带来的益处远大于误差。。”