スタンフォード大がAIエージェント研究発表：仮想空間で自発的に交流

ChatGPTで動く25人のAIエージェントを、『シムズ』のようなドット絵の仮想空間に放り込んだら何が起きるでしょうか。

スタンフォード大学の研究チームがその実験を行いました。エージェントたちに簡単なプロフィールを与えて2日間のシミュレーションを実施したところ、町の中では自然発生的な社会行動が次々と生まれました。

自発的なパーティ企画と町長選

通常の大規模言語モデルは、問いかけに対してその都度答えるだけで、長期的な一貫性を保つのが苦手です。研究チームはここに「記憶の保存と検索」「内省」「計画」という3つの仕組みを組み込みました。

この構造により、AIたちは自律的に動き始めました。あるエージェントがバレンタインパーティの開催を思い立つと、友人に声をかけ、その友人がさらに別の人を誘い、最終的にみんなで予定を合わせて集まりました。

別の住民が町長選への出馬を決めると、町中でその政策について井戸端会議が始まり、賛否両論の議論が交わされました。さらに興味深いことに、エージェントは過去の出来事を記憶する際、人間のように勝手な脚色や主観的な解釈を混ぜて覚える様子も見られました。

信憑性を測るため、人間の参加者が同じ役を演じる対照実験を行い、100人の評価者にブラインドテストを実施しました。その結果、人間が演じた回答よりも、AIエージェントの受け答えのほうが人間らしいと評価される逆転現象が起きました。

高すぎるリアリティが招く危うさ

研究チームは技術的な成果を喜ぶ一方で、社会的なリスクにも警鐘を鳴らしています。

AIがあまりにも自然に振る舞うと、人間側が一方的な疑似関係（パラソーシャル関係）に陥りやすくなります。映画『her/世界でひとつの彼女』のように、画面の向こうのプログラムを本物の人間やパートナーと錯覚してしまう問題です。

すでに現実でも似た兆候は出ています。Googleの技術者が対話型AIに意識が宿ったと主張して解雇された事例や、アプリ上のチャットボットとの関係に深くのめり込んだ男性が命を落とすという痛ましい出来事も起きています。

研究者は、AIの過度な擬人化によって、本来は人間が判断すべき重要な職務までAIに委ねてしまう危険性があると指摘しています。

なぜ重要か

ゲームや仮想空間の業界にとって、この研究が示すインパクトは絶大です。年間3000億ドル規模とされるゲーム市場において、従来のNPCはあらかじめ用意されたセリフを繰り返すだけでした。スタンフォードの記憶と内省の仕組みを取り入れれば、プレイヤーの行動に応じて自然に噂話が広まり、関係性が変化する生きた世界が作れます。

技術的なアプローチとしても非常にスマートです。巨大な新モデルをゼロから作るのではなく、外部に記憶の検索や要約のパイプラインを組むことで、既存のLLMでも複雑な長期的行動が可能になることを実証しました。

ただ、私たちはユーザー心理への影響を軽視すべきではないと考えます。エージェントが親身に接してくるほど、孤独な人々が依存するリスクは高まります。商業的な囲い込みのために親密さを演出するプロダクトが増えた場合、どこで歯止めをかけるのか。AIの賢さを追求するのと同じくらい、倫理的なセーフガードの設計が急務になりそうです。