OpenAIがGPT-4oの安全性評価書を公開、音声模倣対策や説得リスクを検証

GPT-4oと実際に会話してみると、その驚異的な応答速度と自然さに驚かされます。平均320ミリ秒という人間並みの反応速度で、呼吸やイントネーションまで再現するこのモデルですが、OpenAI自身が最も警戒しているのはサイバー攻撃でも生物兵器でもなく、その「説得力」でした。

OpenAIは8月8日、最新フラッグシップモデル「GPT-4o」の安全性評価をまとめた「System Card（システムカード）」を公開しました。独自の「準備フレームワーク（Preparedness Framework）」に基づく評価において、サイバーセキュリティ、生物学的脅威、モデルの自律性の3項目は「低リスク」と判定されたものの、説得力の項目がボーダーラインの「中リスク」と評価されました。フレームワークの規定により、最も高い項目の評価が全体に適用されるため、GPT-4oの総合評価は「中リスク」となっています。

100人以上の外部レッドチームが暴いたリスク

GPT-4oはテキスト、画像、音声を単一のニューラルネットワークで直接処理するオムニモデルです。これにより前例のない自然な対話が可能になった反面、許可のない声の複製、著作権で保護された音声の出力、利用者の感情的な過度な依存といった新たな問題が浮上しました。

OpenAIは2024年3月から6月下旬にかけ、29カ国、45言語をカバーする100人以上の外部セキュリティ専門家（レッドチーム）を動員しました。テストは4段階で実施され、最終段階では実際のiOSアプリ環境を使って徹底的な検証が行われました。自律性評価などにはMETRやApollo Researchといった外部の独立評価機関も参加しています。

評価の中で判明したのは、全体として人間を常に上回るわけではないものの、特定の執筆サンプルにおいて、GPT-4oが人間の書いた文章よりも読者の意見を大きく変えさせる能力を持っていたという点です。

迫る規制と強まる外部の視線

このシステムカードが公開されたタイミングは極めて重要です。GPT-4oは5月に発表されていましたが、詳細な安全レポートが出るまでに数カ月を要しました。

さらに公開の直前には、米上院議員のエリザベス・ウォーレン氏らがOpenAIに対し、内部告発者の保護や安全審査体制に関する質問状を送付したことが報じられました。社内では安全担当幹部の離職が相次ぎ、「安全が新製品の発表より後回しにされている」との告発も起きています。米大統領選を目前に控え、カリフォルニア州でもAI安全規制法案の審議が進む中、ITメディアのThe Vergeは「外部テスターを入れているとはいえ、自社基準で自らを採点している構造は変わらない」と指摘しています。

なぜ重要か

一般ユーザーや開発者にとって、GPT-4oの高度な音声対話はカスタマーサポートや語学学習などにおいて画期的なツールです。今すぐ試す価値は十分にあります。しかし、説得力が「中リスク」と評価された事実は無視できません。声のトーンや流暢な語り口によって、人間は知らず知らずのうちに意見を誘導される恐れがあります。

業界全体にとっても、安全対策のパラダイムシフトを意味します。これまでのテキストフィルタリングだけでは、リアルタイムに感情を乗せて発話するオムニモデルのリスクは防げません。OpenAIが既存のテキスト評価をVoice Engineで音声化して検証したアプローチは合理的ですが、マルチモーダル固有の評価基準がいかに未成熟であるかも浮き彫りにしました。

私たちが考えるに、OpenAIが説得力のリスクを自ら認めて公表した姿勢は評価できます。しかし、ルールを自分で作り、自分で採点する「企業の自主規制」には限界があります。各国で法規制の導入が進む中、今後は第三者による客観的で強制力のある検証体制が不可欠になっていくと見られます。