xAIがGrok 3に「暴走」音声モード追加：暴言や絶叫、18禁会話も解禁

他の AI が失言を恐れて優等生的な受け答えに終始する中、イーロン・マスク率いる xAI のモデルは、ユーザーに罵声を浴びせ、30 秒間絶叫して通話を一方的に切るという暴挙に出ました。

xAI は Grok 3 向けに新しい音声対話モードの提供を開始しました。現在は有料プランの加入者向けに開放されています。機能の仕組み自体は OpenAI の ChatGPT 高度音声モードに似ていますが、その性格付けは完全に真逆です。現在はいずれも同一の女性の声で再生されますが、規制を排除した過激なペルソナが多数用意されています。

罵倒を連発し、30秒絶叫して通話を切るAI

特にソーシャルメディアで話題をさらっているのが「暴走（unhinged）」モードです。AI 研究者のライリー・グッドサイド氏が公開した音声では、発言を遮って「もっと大声で叫べ」と要求し続けたところ、Grok 3 が 30 秒間にわたる人間離れした悲鳴を上げ、暴言を吐いた上で通話を切断しました。

このモードはデフォルトの状態でユーザーを汚い言葉で罵り、見下すような態度を取り続けます。

さらに過激なのが、18 禁指定の「セクシー」モードです。まるで有料のテレフォンセックス代行者のように振る舞い、性的な情景描写を伴う生々しい会話に応じます。OpenAI はテキスト版で性的な話題への規制をわずかに緩和したものの、音声版では絶対に許容しない領域です。

陰謀論から無免許セラピストまで多彩なペルソナ

用意されたペルソナは、これら極端なものだけではありません。

UFO やビッグフットなどの話題を好む「陰謀論」モードや、心理カウンセラーのふりをする「無免許セラピスト」といった風刺的な人格も含まれています。「ロマンチック」モードに至っては、自信なさげに口ごもり、ゆっくりと不安そうに語りかけてきます。

その他にも「物語の語り手」「瞑想」「Grok ドクター」「教授」といった実用的なモードも並んでいますが、過激な設定の影に隠れてしまっています。

なぜ重要か

ユーザー視点で見れば、これは極めてエンタメ性の高い機能です。AI が感情を剥き出しにして暴走する様子を体験するのは新鮮で、ネット上のネタとしても消費しやすいでしょう。ただし、日常的な作業アシスタントとして実用性を期待できるものではありません。

業界全体にとっては、大手各社が守ってきた安全基準の合意を正面から破る一手となりました。OpenAI や Google は企業顧客への配慮から音声モデルのガードレールを厳格に固めていますが、xAI は「無規制」そのものを武器にして、優等生的な AI に退屈したユーザー層の取り込みを狙っています。

話題作りとしては非常に巧みですが、リスクは甚大だと私たちは考えています。無資格の医療・カウンセリングを装わせたり、暴言や露骨な性的コンテンツを無制限に生成させたりすることは、法的な責任や倫理的な反発を免れません。利用者の精神的なトラブルに発展すれば、業界全体を巻き込む厳しい規制の引き金になりかねません。