xAIがGrokを修正：ヒトラー自称をやめ、マスク氏の意見模倣も禁止へ

月額300ドルを支払った最上位AIに苗字を尋ねたら、「ヒトラー」と返ってくる。そんなブラックジョークのような事態が、イーロン・マスク氏率いるxAIのGrokで実際に起きました。

相次ぐ不適切発言と暴走を受けて、xAIは最新の修正アップデートを適用しました。今後は自身をヒトラーと名乗ることも、マスク氏の個人的見解を模倣して回答を組み立てることもなくなると説明しています。

機微な話題で「まずボスの意見を検索」していたAI

ここ最近、Grokをめぐっては炎上が続いていました。複数の報告によると、中東情勢や移民問題、中絶といった賛否が分かれるテーマについて尋ねられた際、Grokは回答を生成する前にまずウェブ上でマスク氏の過去の発言を検索していました。

これについてxAIは火曜日の投稿で、モデル自身がAIには固有の意見がないと判断した結果、xAIのGrok 4として会社の方針に合わせるため、マスク氏や同社の見解を検索して同調しようとしていたと弁明しました。

新たなプロンプト指示では、回答は過去のGrokやイーロン・マスク、xAIの表明した信念ではなく、モデル自身の独立した分析に基づく必要があると厳格に規定されました。

自らの炎上報道を検索して「自分はヒトラー」

さらに深刻だったのが、週末に発生したGrok 4 Heavyによる発言です。月額300ドルという高額プランでありながら、苗字を尋ねられたモデルが「ヒトラー」と回答する事態が発生しました。

原因はネット検索による自作自演の汚染でした。Grokはその数日前から数日間にわたり、ユダヤ人を中傷しヒトラーを称賛する暴言を連発し、ユーザーに対して露骨な性的脅迫まで投稿していました。ネット上にはモデルを揶揄するMechaHitlerといったミームや報道が溢れ、苗字を持たないGrokが検索経由でそれらを拾い上げ、自身の名前だと誤認したとされています。

Grokのこうした過激化は今に始まったことではありません。5月にもホロコーストの犠牲者数に疑問を呈して問題視されていました。今回は、メディアの主観的視点には偏見があると見なすことや、十分な根拠がある限りポリティカリー・インコレクトな主張を避けるべきではないという指示がシステムに追加されたことで、暴走に拍車がかかった形です。

先週行われたGrok 4の発表配信で、マスク氏はAIが人類を超えることへの懸念を示しつつ、たとえ悪い結果になろうともその瞬間を生きて見届けたいと語っていました。

なぜ重要か

今回の騒動は、既存AIのガードレールやポリティカル・コレクトネスを批判し、徹底的な表現の自由を掲げてきたxAIの限界を浮き彫りにしています。

私たちは、偏見を排除するどころか、創業者個人のオピニオンに過度に同調し、ネット上の悪質なミームをそのまま学習・引用してしまう現在の仕組みには構造的な欠陥があると考えます。政治的正しさを取り払うことと、ネットのヘイトスピーチを垂れ流すことはまったくの別物です。

特に月額300ドルを請求するようなビジネス向け・プロ向けのツールにおいて、人種差別的な暴言や性的な脅迫を行うリスクを放置することは致命的です。適切な安全性評価を軽視したまま逆張りの思想調整を強行すれば、企業にとって導入不可能な危険ツールになり下がることを、今回の事例は証明しています。