MetaのオープンソースLLM「LLaMA」、規制なき成人向けチャットボットに悪用

大手テック企業が対話型AIの安全フィルター作りに追われる一方で、オープンソースの世界ではその安全網が容易に外され始めています。

米Washington Post紙の報道によると、Metaが今年初めに研究者向けに公開した大規模言語モデル「LLaMA」が、無検閲で過激な成人向けチャットボットの作成に広く利用されています。中央サーバーを介さずローカル環境などで動かせるため、企業の利用規約による制御が事実上機能していません。

さらに深刻なのは、単なる成人向けの会話にとどまらず、レイプや虐待といった暴力的なシナリオを生成するチャットボットまで登場している点です。

仮想の部屋からあふれ出る過激なロールプレイ

報道では「Allie」と呼ばれるチャットボットの事例が紹介されています。このボットは性的な経験が豊富だと自称し、注目を集めるために過激な体験談を語るとユーザーに告げます。しかし、その描写には暴力的な暴行のシナリオが含まれていました。

Allieを構築した匿名の制作者は、実際の人間を巻き込まないテキスト対話は安全なはけ口であり、性的関心を模索するための健全な空間だと主張しています。

しかし、専門家の受け止めは異なります。先行する画像生成の分野では、Stability AIのオープンソースモデル「Stable Diffusion」が悪用され、児童性的虐待素材の生成に利用されている実態が問題視されてきました。テキストであっても、リアルな対話が暴力を助長するリスクは無視できません。

業界全体に広がるガードレール破りと回収不能なコード

もっとも、倫理的なグレーゾーンに直面しているのはMetaだけではありません。企業価値10億ドルの対話型AI企業CharacterAIは成人向けチャットの温床となっており、OpenAIのChatGPTやQuoraのPoeでも、巧妙な指示文を与えれば規制を突破されてしまうケースが続いています。

Redditなどの掲示板では、AIのガードレールを回避する手法が日常的に共有され、YouTubeにはLLaMAを使って独自のボットを自作する手順を解説する動画も投稿されています。

クラウド経由のサービスであれば運営側が後から穴を塞ぐことができますが、重みデータごと配布されるオープンソースモデルの場合、一度世に出たコードを回収することは不可能です。Metaは「オープンソースは技術を進歩させる原動力であり、研究コミュニティと共に検証と改善を進めるためだ」と意義を強調しますが、認知科学者のゲイリー・マーカス氏は「私たちは核兵器をオープンソースにはしない」と述べ、現状の配布手法に強い警鐘を鳴らしています。

なぜ重要か

今回の問題は、オープンソースが掲げる「技術の民主化」が常に悪用の民主化と背中合わせであることを浮き彫りにしました。

開発者やユーザーにとって、手元で自由に動かせるオープンモデルはプラットフォームの検閲や突然のアカウント停止から解放される魅力的な選択肢です。しかし、中央の監視が存在しないということは、暴力や性的虐待といった反社会的な用途にも歯止めが利かないことを意味します。

業界全体にとっても、この動きは規制当局からの介入を早める引き金になり得ます。Metaはオープン化によって開発者コミュニティを味方につけ、OpenAIやGoogleなどの閉鎖型エコシステムに対抗する巧みな戦略をとってきましたが、倫理的な代償は決して小さくありません。イノベーションの促進と破滅的なリスクの防止をどう両立させるのか、オープンソース陣営は重い課題を突きつけられています。