NY市長、AIで話せない言語の音声を複製し自動架電　倫理的批判集まる

ニューヨーク市のエリック・アダムス市長が、自身が話せない外国語の音声をAIで生成し、市民への自動架電（ロボコール）に市長本人の声として利用していたことが明らかになりました。

対象となったのはスペイン語、中国語（北京語および広東語）、イディッシュ語、ハイチ・クレオール語などです。しかし、音声がAIによる合成であることは市民に一切知らされていませんでした。

多言語を操る「AI市長」の登場

この取り組みは、ニューヨーク市が発表した新たな「AI行動計画」の記者会見でアダムス市長自らが明かしたものです。会見では、中小企業の起業を支援するマイクロソフトのAzure AI採用チャットボット「MyCityChatbot」も公開されました。同市の最高技術責任者（CTO）マット・フレイザー氏は、将来的にあらゆる行政サービスをボット化していく構想を語っています。

自らを「元プログラマーでテック好き」と語るアダムス市長は、会話型AIを使えば原稿を入力するだけで自分の声のまま任意の言語で発信できるとアピールしました。

市長室の発表によると、ロボコールはこれまでに400万人以上の市民に届けられました。主に雇用イベントや無料コンサート「Rise Up NYC」の告知に使われ、数千件のスペイン語、250件以上のイディッシュ語、160件以上の北京語、89件の広東語、23件のハイチ・クレオール語の発信が含まれています。

街頭で「いつ中国語を学んだのか」と声をかけられるのが嬉しいと語る市長は、市民を誤導しているのではないかという記者の追及に対し、市民が理解できる言語で語りかける必要があると反論し、最後は笑顔で「ニーハオ」と言って会見を締めくくりました。

市民サービスか、自己顕示のディープフェイクか

しかし、倫理の専門家やプライバシー擁護団体からは厳しい批判が噴出しています。

監視技術監視プロジェクト（STOP）のエグゼクティブディレクター、アルバート・フォックス・カーン氏は、税金を使って話せもしない言語を話せるかのように見せかける行為は極めて不道徳であり、オーウェル的だと強く非難しました。多言語での告知自体は必要であるものの、市長のディープフェイクを作成することは単なる気味の悪い自己顕示欲にすぎないと指摘しています。

フォーダム大学のアニカ・マーレン・ヒンツェ准教授も、市長自らが多言語を話していると錯覚させる手法には深刻な倫理的懸念があるとコメントしました。

ニューヨーク市の法律では主要10言語での情報提供や約100言語の電話通訳が義務付けられています。過去のブルームバーグ元市長やデブラシオ前市長も拙いスペイン語を披露して揶揄されることはありましたが、少なくとも本人が生声で語りかけていました。

なぜ重要か

私たちは、今回の事例が自治体によるAI活用における「開示と透明性」の重要性を浮き彫りにしたと考えています。

英語を母語としない移民コミュニティに母語で情報を届けること自体は、行政として極めて価値があります。問題は、AIによる合成音声であることを隠したまま市長自身の声を使った点にあります。これでは純粋な行政情報というよりも、市長個人の政治的イメージアップにAIが悪用されていると受け取られかねません。

テクノロジー業界と公共政策の観点からも、悪しき前例になり得ます。生成AIによる音声クローンは安価で身近になりましたが、政府機関自らが明示なしでディープフェイクを公務に導入してしまえば、選挙妨害や偽情報の取り締まりにおいて説得力を欠くことになります。

解決策は決して難しくありません。「この音声はAIによって市長の声をもとに翻訳・生成されました」という一言を冒頭に添えるか、標準的なアナウンス音声を採用すれば済んだ話です。透明性を軽視した今回のやり方は、せっかくのテクノロジー活用を行政への不信へと変えてしまうリスクを孕んでいます。