美國警方用 AI 寫出警報告：記錄儀音訊 8 秒成稿，引偏見擔憂

警察搜捕嫌疑人無果歸來，執法記錄儀錄下了現場說的每一句話，甚至包括警犬的吠叫。

以往整理這樣一份案情通報，警員得在電腦前敲上大半天。現在把音訊往軟體裡一倒，八秒鐘，一份出警報告初稿就出來了。

這套正在美國部分警局測試的系統叫 Draft One，開發商是執法記錄儀和電擊槍巨頭 Axon，背後呼叫的底座是 OpenAI 的 GPT-4 模型。

調低大模型的「腦補旋鈕」

寫過東西的人都知道，大模型有個老毛病叫幻覺，喜歡一本正經地胡說八道。這要是在法庭呈堂證供裡出現，後果可想而知。

Axon 高階產品經理 Noah Spitzer-Williams 對美聯社解釋說，他們調低了 GPT-4 的「創意旋鈕」，防止它像平時那樣添枝加葉或憑空捏造。

為了穩妥起見，奧克拉荷馬城警局目前聽從了檢察官的建議，只在不涉及重罪、暴力犯罪以及不會導致逮捕的輕微案件中使用它。

但另一些地方跑得更快。科羅拉多州的柯林斯堡和印第安納州的拉斐特已經把這項技術作為全案報告的主要輔助工具，當地一位警察局長表示這套工具在警員裡極受歡迎。

Axon 還表示，他們做過兩項內部研究，測試了 382 份樣本報告，評估一致性、完整性以及詞彙嚴厲度等維度，得出的結論是報告草稿與原始錄音轉寫之間沒有統計學上的顯著差異。

警員變懶與方言偏見

然而法律界和學者們並不放心。法律學者 Andrew Ferguson 指出，自動化的便利可能會讓警員在稽核自己的報告時變得敷衍，不再像以前那樣字斟句酌。

更深層的擔憂來自演算法本身的暗疾。語言學研究此前發現，像 GPT-4 這樣的大模型往往包含隱性種族偏見，在面對非裔美國人英語等方言時很難完全消除刻板印象，容易把特定方言理解得更具對抗性。

播客 This Machine Kills 的主播 Edward Ongweso Jr. 和 IT 教授 Jathan Sadowski 也公開批評，稱以西方為中心的訓練資料積累的偏見，一旦混入犯罪報告，可能會傷害弱勢群體。

Axon 對此的擋箭牌是「人工稽核」。公關總監 Victoria Keough 強調，報告的準確性和最終責任始終由警員個人承擔。

至於直接讓 AI 看著執法記錄儀畫面寫報告，Axon 執行長 Rick Smith 承認他們測試過計算機視覺，但鑑於執法、種族和身份等問題的極度敏感性，短期內絕對不會貿然推出。

為什麼重要

對基層警員來說，出警八小時、寫材料四小時是常態，Draft One 確實能把人從繁重的案頭工作中解救出來，讓警察多在街頭巡邏。誰都想要提效，但問題在於司法系統的容錯率幾乎是零。

我們認為，Axon 把責任完全推給「警員人工複核」的做法看似合規，實則留下了巨大的制度漏洞。

人都是有惰性的。當一份八秒鐘生成的報告看起來邏輯嚴密、文筆流暢時，疲憊的警員大機率只會匆匆掃一眼就點確認。久而久之，大模型微小的語義偏移就會直接變成法庭上的事實陳述。

更讓人擔憂的是責任轉嫁。一旦出現偏見或錯漏，開發商可以推脫是警察稽核不嚴，警察可以辯稱是參考了官方採購的系統，最終承擔代價的只能是被記錄的普通公民。

執法記錄儀原本是為了用客觀影像監督警權，現在卻成了給大模型喂資料的麥克風。在生成式 AI 全面滲入司法鏈條之前，光靠廠商自己做內部偏差測試，顯然遠遠不夠。