SnapchatがOpenAI活用の「My AI」導入、失言に事前謝罪も

日常のメッセージアプリのトーク一覧の一番上に、本物の友達を差し置いてAIが常駐する日がやってきました。

Snapは、OpenAIの技術を採用したチャットボット「My AI」をSnapchatに追加すると発表しました。月額3.99ドルの有料プラン「Snapchat+」加入者向けに今週から実験的機能として提供を開始し、報道によると将来的には全ユーザーへの拡大を目指しています。

仕事用ツールではなく、バーチャルな「友達」として配置

多くの企業が対話型AIを文章作成や業務効率化の万能ツールとしてアピールするなか、Snapはまったく異なるアプローチをとっています。

My AIは通常の友達プロフィールと同じような外見を持ち、アプリのチャット欄の最上段に固定表示されます。SnapのEvan Spiegel CEOはThe Vergeの取材に対し、家族や友人と話すのと同じように毎日AIと話す未来が来ると語り、メッセージサービスを展開する同社こそがその役割に適していると強調しました。

技術面では、Snap向けにカスタマイズされたOpenAIの最新GPT技術が使われています。報道によれば、これは大口開発者向けに招待制で提供されているOpenAI Foundryを通じたGPT-3.5の利用を指しているとみられます。当時一般公開されていたAPIがGPT-3にとどまっていたことを考えると、かなり手厚い連携です。

炎上を警戒し、公式が異例の「事前謝罪」

AIチャットボットが不適切な発言をして問題になる事例が相次ぐなか、Snapも安全対策には神経を尖らせています。

My AIは暴言や暴力、性的な表現、政治的な意見を避けるよう制限がかけられています。ユーザーが問題のあるメッセージを長押しして報告することで、継続的にモデルを調整する仕組みも用意されました。

それでも同社は完全な制御が難しいことを率直に認めています。発表文の中で、My AIも他のボットと同様にハルシネーション（もっともらしい嘘）を起こしやすく、誘導されれば不適切な発言をする可能性があると説明し、多くの欠陥があることを認識してほしいとして「あらかじめお詫びします」と異例の事前謝罪を行いました。

なぜ重要か

これまで検索や要約、コード生成といった「作業の補助」に使われてきた大規模言語モデルが、友人とのおしゃべりという極めてプライベートなソーシャル空間へ本格的に足を踏み入れた瞬間だといえます。

まず月額3.99ドルのSnapchat+会員限定でスタートさせた判断は、コスト管理と収益化の両面で極めて堅実だと考えられます。推論コストが高い最先端モデルをいきなり全ユーザーに開放して負荷を抱え込むのを避けつつ、有料会員への強力な加入動機を作り出しているからです。

しかし、抱えるリスクも小さくありません。Snapchatは十代をはじめとする若い世代の利用比率が非常に高いプラットフォームです。公式が自ら誘導されやすいと認めている未完成なAIを、会話一覧の最上部に強制配置する行為は、倫理的にも保護者の目線からも大きな火種になり得ます。事前に謝罪して免責を図ったとしても、万が一有害なアドバイスや誤情報が拡散した場合、プラットフォームとしての責任を追及されることは避けられないでしょう。