米警察がAIで調書作成：GPT-4搭載ツールが音声から8秒で初稿生成、偏見の懸念も

容疑者の捜索が終わった後、警察官の装着したボディカメラには現場の全音声や警察犬の鳴き声までが克明に記録されています。

これまで長時間を要していた報告書の作成が、録音データをツールに投入するだけで、わずか8秒で初稿として仕上がる時代になりました。

米国の複数の警察署が導入を進めているのは、テーザー銃やボディカメラの大手メーカーである米Axonが開発した「Draft One」です。その中核にはOpenAIのGPT-4が組み込まれています。

「創造性ダイヤル」を絞る工夫

報告書作成で最大の懸念となるのは、LLM特有のハルシネーションです。

AxonのシニアプロダクトマネージャーであるNoah Spitzer-Williams氏はAP通信に対し、ChatGPTの「創造性ダイヤル」を意図的に下げることで、勝手な脚色や虚偽の生成を防ぐチューニングを施していると説明しました。

オクラホマシティ警察では検察官の助言を受け、重大犯罪や暴力事件、逮捕を伴わない軽微な事案に限定してこのツールを運用しています。

一方で、コロラド州フォートコリンズやインディアナ州ラファイエットの警察署では、全事案を対象に報告書作成の主力補助ツールとして導入済みで、現場の警察官の間で非常に好評を得ているといいます。

同社はバイアス検証として382件のサンプル報告書を分析し、一貫性や網羅性、語彙の重大度において、書き起こしデータとAI出力との間に統計的に有意な差は見られなかったと主張しています。

警察官の手抜きと潜在的な偏見

しかし、法律やAI倫理の専門家からは強い懸念の声が上がっています。

法学者のAndrew Ferguson氏はAP通信に対し、作業が自動化されてあまりに簡単になることで、警察官が文章の確認や記述に対して注意を払わなくなる危険性を指摘しました。

さらに言語学の研究では、GPT-4などのモデルがアフリカ系アメリカ人英語をはじめとする方言に対して潜在的な偏見を示し、攻撃的または不審なニュアンスとして要約してしまうリスクが報告されています。

Axon側は最終的な確認と承認を必ず人間の警察官が行うため責任の所在は現場にあると強調していますが、人間のバイアスや見落としを完全に防ぐことはできません。

なお、Axonは映像自体の画像認識による要約も実験したものの、人種やアイデンティティを巡る問題が極めて敏感であることから、現段階での実用化は見送ったとCEOのRick Smith氏は述べています。

なぜ重要か

事務作業に追われる警察官をデスクから解放し、パトロールなどの現場業務に時間を振り向けられる点において、Draft Oneの作業効率化は現場にとって極めて魅力的です。

しかし、私たちは「人間の警察官による最終確認」を安全弁とするAxonの設計には大きな死角があると考えています。

整然としたそれらしい文章が8秒で出力されれば、多忙な警察官が内容を十分に吟味せず、そのまま承認ボタンを押してしまう形骸化が起きるのは目に見えています。AIのわずかなニュアンスのズレが、そのまま法廷で提出される公式記録になりかねません。

警察の透明性を高めるはずだったボディカメラの記録が、検証の不十分なAIモデルのフィルターを通ることで、かえって予断や偏見を固定化させてしまう恐れがあります。司法判断の根幹に関わる領域だけに、性急な全件導入には慎重であるべきです。