X、Grokによるアカウント要約機能を提供開始も誤情報が多発

イーロン・マスク氏は昨年xAIを立ち上げて以来、Xを自社AIモデルGrokの実験場として使い続けています。

トレンドの要約機能などに続き、新たに導入されたのが「このアカウントの詳細（More About This Account）」という機能です。ウェブ版の有料ユーザーがアカウント名にカーソルを合わせるとボタンが表示され、AIがその人物について数文で要約してくれる仕組みです。

一見すると便利そうですが、実際の精度は散々な状態になっています。

ブランチ投稿者やクリケット選手と誤認

TechCrunchが検証したところ、Grokの出力は当たり障りのない内容に終始するか、完全に事実無根のいずれかでした。

同誌の記者仲間について尋ねたところ、普段何を投稿しているかについての曖昧な説明しか得られませんでした。さらに深刻なことに、カナダについてほとんど投稿していない同僚が「カナダの専門家」に仕立て上げられる場面もありました。

別の編集者はなぜか「ブランチ専門のアカウント」と紹介され、教育系スタートアップ幹部のアカウントを調べた際には、同姓同名の有名クリケット選手の情報がそのまま出力されてしまったといいます。

X側もGrok 1.5は初期機能であり誤りを犯す可能性があるため出力を確認するよう注意文を表示しています。しかし仮に間違っていなくても、プロフィールの自己紹介文を数秒見ればわかる以上の価値はほとんどありません。

なぜ重要か

有料プランのユーザーにとって、この機能を信じて相手の素性を確認するのは危険すぎます。数秒かけて相手の固定投稿やプロフィールを自分の目で確かめたほうがはるかに確実で、わざわざ使う価値は今のところありません。

業界の視点で見ると、Xが保有するリアルタイムの独自データは本来Grokの最大の武器であるはずでした。それにもかかわらず、自社プラットフォーム内の人物特定や文脈の取得ですらこれほど粗い結果になっている点は、同社の検索・要約技術における課題を浮き彫りにしています。

UIの隙間にAIを組み込んで手軽に使わせようとする発想自体は合理的だと考えられます。しかしソーシャルメディアにおいてアカウント情報は個人の信用の根幹です。人を勝手に無関係な専門家や別人と取り違えるような杜撰な機能を急いで公開することは、課金ユーザーの信頼を損なうリスクのほうが大きいように見えます。