担忧 AI 生成虚假内容扰乱司法，英国警方被叫停使用 AI 撰写法庭陈述

IT之家 6 月 7 日消息，据英国《金融时报》报道，由于担忧人工智能生成的不准确内容会扰乱司法流程，英国多个警察部门已接到通知，停止使用人工智能系统撰写法庭陈述及开展其他刑事司法相关工作。

英国警方人工智能中心（Police.AI）负责人亚历克斯・默里表示，他已介入干预部分警队。这些警队在未完成全面合规评估的情况下，就开始使用市面上的商用人工智能工具。

“我们已经叫停了部分相关应用。”默里称，他告知相关警队：“立刻暂停使用，我们需要放缓推进节奏。”

他补充道，应用于刑事司法体系的任何技术，其准确性都必须达到排除合理怀疑的严苛标准。

此次叫停行动，凸显出生成式人工智能在警务领域的应用争议日益加剧。默里负责监管英格兰和威尔士地区警方的人工智能使用工作。他表示，这项技术最终有望加快案件侦查与证据处理效率，但全面推广使用前必须先建立完善的安全保障机制。

Police.AI 于今年正式成立，是英国政府为提升警务整体效率推出的改革举措之一。英国内政大臣沙巴娜・马哈茂德表示，该项目三年合计获 1.15 亿英镑（IT之家注：现汇率约合 10.46 亿元人民币）资金支持，投入使用后节省的人力时间，相当于为英格兰和威尔士现有的约 14.5 万名在职警员增配 3000 名警力。

据默里介绍，部分警队开始借助商用人工智能系统，协助警员将审讯笔录整理为法庭陈述文书，警方人工智能中心随即出手干预。

默里并未透露涉及的具体警队，但他表示，警方同时也收到提醒：在完成全部合规审查前，不得将人工智能应用于其他警务工作。

“我们明确告知部分警队：目前不能这么做，因为全套审核与制衡流程尚未走完。”他说道。

他特别指出，证据披露清单的编制工作需要格外谨慎。这类清单是庭审前必须提交给辩方的证据记录。使用人工智能处理该项工作的警队，必须说明该技术的训练方式与实际应用流程。

默里坦言，警方此前使用人工智能已有过前车之鉴。去年，西米德兰兹郡警方在整理一份禁令佐证材料时，使用了微软智能助手 Copilot 生成的内容。这份材料旨在申请禁止某足球俱乐部球迷观赛，其中竟编造出以色列特拉维夫马卡比队的一场过往赛事。相关球迷原定前往现场观看该队与阿斯顿维拉队的比赛。

这起事件进一步引发了各界对人工智能幻觉问题的广泛担忧，人工智能幻觉也就是人工智能系统生成看似真实、实则虚假信息的现象。

“目前所有警队都已出台规范使用 Copilot 的相关制度，规定警员必须核查该工具生成的所有内容。”默里说。

尽管存在诸多隐患，但默里认为，经过全面测试的人工智能系统，能够为深陷工作量激增、案件侦查日趋复杂困境的警队带来显著助益。

监控录像分析就是极具前景的应用方向。现阶段，警员往往要耗费数小时人工回看录像，从中搜寻嫌疑人。

默里表示：“只要指令设置得当，人工智能完全可以做到按要求检索，比如‘找出戴红帽子的男子’。在证据尚存关键价值的黄金数小时乃至一两天内，我们就能锁定目标、上门抓捕，当场查获带有血迹的鞋证。”

他还提到，人工智能有能力处理海量电子证据，儿童性侵案件侦查便是典型场景。目前警方人工智能中心正在研发一款工具，可对查扣设备中的图片进行识别与分类，减少警员直接浏览不良影像的次数。

默里说：“警员只需抽样核验即可，不必逐一查看全部画面。这类内容会对人的身心造成极大伤害。我认为，只要配套完善监管规则、使用规范与人员培训，自动化技术带来的益处远大于弊端。”