マイクロソフト、AI倫理・社会チームを解散：スピード重視の製品化でブレーキ役が失職

未知の急勾配を猛スピードで下る車の中で、運転手がさらに加速するためにブレーキを取り外してしまったらどうなるでしょうか。

生成AI競争で先頭を走るマイクロソフトで、まさにそれが現実となりました。3月14日の報道によると、同社は1万人規模の人員削減の一環として、AI部門内にあった「倫理・社会チーム」の全メンバーを解雇しました。

このチームは単なる諮問機関ではありません。2020年のピーク時には約30人のエンジニアやデザイナー、哲学者が所属していました。AIが社会に与える弊害を開発段階で洗い出すロールプレイングゲーム「Judgment Call」を作成するなど、現場で安全な製品を作るための具体的な手引きを提供してきた部隊です。

「ソーセージ作りに巻き込まれるもの」

しかし、このブレーキ役は製品化を急ぐ経営陣の焦りと真っ向から衝突しました。

チームは昨年10月の組織再編ですでに約7人にまで削られていました。入手された当時の社内音声によると、AI担当副社長のジョン・モンゴメリー氏は、サティア・ナデラCEOやケビン・スコットCTOから「OpenAIの最新モデルを一刻も早く顧客の手に届けるよう極めて強い圧力がかかっている」と明かしていました。

社員が再考を訴えたものの、同氏は「ソーセージを作る過程では、多くのものが挽肉に巻き込まれる」と冷淡に突き放しました。そして3月6日、残されたメンバーはZoomに呼び出され、チーム自体の廃止を告げられました。

マイクロソフト側は、基本方針を定める「責任あるAIオフィス」は維持しており、安全への投資も増やしていると釈明しています。しかし元社員らは、抽象的な理念だけでは現場のコードに落とし込めず、製品設計に根源的な欠陥が生じると訴えています。

無視された著作権リスクの警告

対立が決定的となったのは、OpenAIの技術を使った画像生成機能「Bing Image Creator」をめぐる警告でした。

倫理チームは昨年、生存している芸術家の名前を指定するだけで本物と区別がつかない画像が作れてしまう問題を報告しました。被害を防ぐため、存命の芸術家名をプロンプトで禁止するなどの対策を提言しましたが、これらは採用されないまま一部地域で公開に踏み切られました。

経営陣の目には、慎重論よりも巨額のリターンが映っていました。同社はOpenAIに110億ドルを投じており、検索シェアをGoogleから1％奪うだけで年間20億ドルの増収につながると試算しています。事実、Bingのデイリーアクティブユーザーは1億人を突破し、その3分の1はAI導入後の新規ユーザーでした。

足元ではGetty Imagesが画像生成AIを提訴するなど法的包囲網が狭まっていますが、警告を鳴らす専門家たちは会社を去ることになりました。

なぜ重要か

私たちは、マイクロソフトのこの判断は非常に危険で、短絡的だと考えます。

方針を策定する官僚組織を残しつつ、開発現場でリスクを検証していた実行部隊を排除するのは、単なる「やってる感」の演出にすぎません。クリエイターの権利侵害や予期せぬ誤作動の検証責任を、企業ではなく社会全体に押し付ける形になっています。

業界全体にとっても、スピードのためなら倫理は真っ先に切り捨てられるという最悪の前例を作ってしまいました。かつてGoogleが倫理研究者のティムニット・ゲブル氏を解雇して批判を浴びましたが、マイクロソフトはシェア争いで勝つためにあえて同じ轍を踏んだ格好です。

ブレーキを外せば短期的には最速で市場を席巻できるかもしれません。しかし、法規制の波や大規模な訴訟が本格化した時、安全点検を怠ったツケは想像以上に重く跳ね返ってくるはずです。