IT之家6月7日消息，据英国《金融时报》报道，由于担忧人工智能（885728）生成的不准确内容会扰乱司法流程，英国多个警察部门已接到通知，停止使用人工智能（885728）系统撰写法庭陈述及开展其他刑事司法相关工作。
英国警方人工智能（885728）中心(Police.AI)负责人亚历克斯默里表示，他已介入干预部分警队。这些警队在未完成全面合规评估的情况下，就开始使用市面上的商用人工智能（885728）工具。
“我们已经叫停了部分相关应用。”默里称，他告知相关警队：“立刻暂停使用，我们需要放缓推进节奏。”
他补充道，应用于刑事司法体系的任何技术，其准确性都必须达到排除合理怀疑的严苛标准。
此次叫停行动，凸显出生成式人工智能（885728）在警务领域的应用争议日益加剧。默里负责监管英格兰和威尔士地区警方的人工智能（885728）使用工作。他表示，这项技术最终有望加快案件侦查与证据处理效率，但全面推广使用前必须先建立完善的安全保障机制。
Police.AI于今年正式成立，是英国政府为提升警务整体效率推出的改革举措之一。英国内政大臣沙巴娜马哈茂德表示，该项目三年合计获1.15亿英镑(IT之家注：现汇率约合10.46亿元人民币)资金支持，投入使用后节省的人力时间，相当于为英格兰和威尔士现有的约14.5万名在职警员增配3000名警力。
据默里介绍，部分警队开始借助商用人工智能（885728）系统，协助警员将审讯笔录整理为法庭陈述文书，警方人工智能（885728）中心随即出手干预。
默里并未透露涉及的具体警队，但他表示，警方同时也收到提醒：在完成全部合规审查前，不得将人工智能（885728）应用于其他警务工作。
“我们明确告知部分警队：目前不能这么做，因为全套审核与制衡流程尚未走完。”他说道。
他特别指出，证据披露清单的编制工作需要格外谨慎。这类清单是庭审前必须提交给辩方的证据记录。使用人工智能（885728）处理该项工作的警队，必须说明该技术的训练方式与实际应用流程。
默里坦言，警方此前使用人工智能（885728）已有过前车之鉴。去年，西米德兰兹郡警方在整理一份禁令佐证材料时，使用了微软（MSFT）智能助手Copilot生成的内容。这份材料旨在申请禁止某足球俱乐部球迷观赛，其中竟编造出以色列特拉维夫马卡比队的一场过往赛事。相关球迷原定前往现场观看该队与阿斯顿维拉队的比赛。
这起事件进一步引发了各界对人工智能（885728）幻觉问题的广泛担忧，人工智能（885728）幻觉也就是人工智能（885728）系统生成看似真实、实则虚假信息的现象。
“目前所有警队都已出台规范使用Copilot的相关制度，规定警员必须核查该工具生成的所有内容。”默里说。
尽管存在诸多隐患，但默里认为，经过全面测试的人工智能（885728）系统，能够为深陷工作量激增、案件侦查日趋复杂困境的警队带来显著助益。
监控录像分析就是极具前景的应用方向。现阶段，警员往往要耗费数小时人工回看录像，从中搜寻嫌疑人。
默里表示：“只要指令设置得当，人工智能（885728）完全可以做到按要求检索，比如‘找出戴红帽子的男子’。在证据尚存关键价值的黄金数小时乃至一两天内，我们就能锁定目标、上门抓捕，当场查获带有血迹的鞋证。”
他还提到，人工智能（885728）有能力处理海量电子证据，儿童性侵案件侦查便是典型场景。目前警方人工智能（885728）中心正在研发一款工具，可对查扣设备中的图片进行识别与分类，减少警员直接浏览不良影像的次数。
默里说：“警员只需抽样核验即可，不必逐一查看全部画面。这类内容会对人的身心造成极大伤害。我认为，只要配套完善监管规则、使用规范与人员培训，自动化技术带来的益处远大于弊端。”
