Midjourneyが無料トライアル停止：捨て垢の急増でGPUが逼迫

ドナルド・トランプ前大統領が警察に拘束される場面や、白いダウンジャケットを着こなすローマ教皇のリアルな画像がネット上を駆け巡るなか、画像生成AIの「Midjourney」が突如、無料トライアルを停止しました。

政治的なディープフェイク騒動を受けた緊急対応かと騒がれましたが、運営側が明かした内情は、もっと泥臭いサーバーと悪用のアカウントをめぐる問題でした。

停止の原因は中国のチュートリアルとGPU不足

Midjourneyの創業者兼CEOであるDavid Holz氏はDiscord上で、極端な需要とトライアルの悪用を理由に無料提供の一時休止を発表しました。

Holz氏がThe Vergeに送ったメールによると、休止の直接の引き金となったのは、無料枠を使い回すために捨てアカウントを大量作成するユーザーの急増でした。

同氏は中国でバイラルした攻略動画が発端の可能性が高いと指摘しています。さらに一時的なGPU不足と重なったことで、有料ユーザー向けのサービス運用に支障が出る恐れがあったといいます。

また、トランプ氏や教皇の偽画像で問題になった最新モデル「v5」はそもそも無料ユーザーには開放されておらず、一連の偽画像騒動が直接の停止理由ではないと説明しています。

進化する描画力と追いつかない規制体制

Midjourney v5は人間描写のクオリティを大幅に引き上げました。これまでのAI画像の特徴だった歪んだ指の描写が大幅に改善され、服の質感や光の当たり方も極めて自然になっています。

その結果、マクロン大統領が抗議デモの街頭を歩く姿や、イーロン・マスク氏とオカシオコルテス議員が手をつなぐ姿など、誤認を招く偽画像が次々と拡散されました。

Midjourney側も対策として「arrested（逮捕）」などの単語を禁止ワードに追加し、画像を投稿したジャーナリストのアカウントを停止するなどの対処を行っています。

しかし、このキーワード規制は簡単にすり抜けることが可能です。例えば「逮捕」という言葉を使わなくても、「手錠をかけられ警察に囲まれたトランプ」と入力すれば同じ画像が生成できてしまいます。

なぜ重要か

一般ユーザーやクリエイターにとって、業界トップクラスの画像生成AIを無料で手軽に試す手段は当面失われました。使ってみたい場合は有料プランを契約するしかなく、参入のハードルは上がったと言えます。

私たちは、今回の出来事が急成長する生成AI企業の二つの弱点を浮き彫りにしたと考えています。一つは計算リソースの脆弱性、もう一つはモデレーションの甘さです。

少数精鋭で運営するスタートアップにとって、国境を越えた大量の捨てアカウントによるフリーミアムの濫用は、GPUリソースを食いつぶし有料会員の体験を損なう致命的な脅威となります。メールアドレス認証だけでは太刀打ちできず、無料枠運用の難しさを露呈しました。

また、単語規制によるモデレーションは現状では付け焼き刃に見えます。プロンプトを少し言い換えるだけで回避できる仕組みでは、今後さらに高まる偽情報対策の法規制や社会的責任に対応しきれません。モデル性能の進化に対して、安全対策と運用基盤の整備が追いついていないのが実情です。