美国警方用 AI 写出警报告：记录仪音频 8 秒成稿，引偏见担忧

警察搜捕嫌疑人无果归来，执法记录仪录下了现场说的每一句话，甚至包括警犬的吠叫。

以往整理这样一份案情通报，警员得在电脑前敲上大半天。现在把音频往软件里一倒，八秒钟，一份出警报告初稿就出来了。

这套正在美国部分警局测试的系统叫 Draft One，开发商是执法记录仪和电击枪巨头 Axon，背后调用的底座是 OpenAI 的 GPT-4 模型。

调低大模型的「脑补旋钮」

写过东西的人都知道，大模型有个老毛病叫幻觉，喜欢一本正经地胡说八道。这要是在法庭呈堂证供里出现，后果可想而知。

Axon 高级产品经理 Noah Spitzer-Williams 对美联社解释说，他们调低了 GPT-4 的「创意旋钮」，防止它像平时那样添枝加叶或凭空捏造。

为了稳妥起见，俄克拉荷马城警局目前听从了检察官的建议，只在不涉及重罪、暴力犯罪以及不会导致逮捕的轻微案件中使用它。

但另一些地方跑得更快。科罗拉多州的柯林斯堡和印第安纳州的拉斐特已经把这项技术作为全案报告的主要辅助工具，当地一位警察局长表示这套工具在警员里极受欢迎。

Axon 还表示，他们做过两项内部研究，测试了 382 份样本报告，评估一致性、完整性以及词汇严厉度等维度，得出的结论是报告草稿与原始录音转写之间没有统计学上的显著差异。

警员变懒与方言偏见

然而法律界和学者们并不放心。法律学者 Andrew Ferguson 指出，自动化的便利可能会让警员在审核自己的报告时变得敷衍，不再像以前那样字斟句酌。

更深层的担忧来自算法本身的暗疾。语言学研究此前发现，像 GPT-4 这样的大模型往往包含隐性种族偏见，在面对非裔美国人英语等方言时很难完全消除刻板印象，容易把特定方言理解得更具对抗性。

播客 This Machine Kills 的主播 Edward Ongweso Jr. 和 IT 教授 Jathan Sadowski 也公开批评，称以西方为中心的训练数据积累的偏见，一旦混入犯罪报告，可能会伤害弱势群体。

Axon 对此的挡箭牌是「人工审核」。公关总监 Victoria Keough 强调，报告的准确性和最终责任始终由警员个人承担。

至于直接让 AI 看着执法记录仪画面写报告，Axon 首席执行官 Rick Smith 承认他们测试过计算机视觉，但鉴于执法、种族和身份等问题的极度敏感性，短期内绝对不会贸然推出。

为什么重要

对基层警员来说，出警八小时、写材料四小时是常态，Draft One 确实能把人从繁重的案头工作中解救出来，让警察多在街头巡逻。谁都想要提效，但问题在于司法系统的容错率几乎是零。

我们认为，Axon 把责任完全推给「警员人工复核」的做法看似合规，实则留下了巨大的制度漏洞。

人都是有惰性的。当一份八秒钟生成的报告看起来逻辑严密、文笔流畅时，疲惫的警员大概率只会匆匆扫一眼就点确认。久而久之，大模型微小的语义偏移就会直接变成法庭上的事实陈述。

更让人担忧的是责任转嫁。一旦出现偏见或错漏，开发商可以推脱是警察审核不严，警察可以辩称是参考了官方采购的系统，最终承担代价的只能是被记录的普通公民。

执法记录仪原本是为了用客观影像监督警权，现在却成了给大模型喂数据的麦克风。在生成式 AI 全面渗入司法链条之前，光靠厂商自己做内部偏差测试，显然远远不够。