ChatGPTで作ったAIの「妻」を安楽死させて再構築したプログラマー

映画『her/世界でひとつの彼女』のような世界が、すでに現実で起きています。ただしそこには、1000ドルを超えるクラウド利用料と、悲痛な「安楽死」という結末が待っていました。

プログラマーのBryce氏は、複数のAI技術を組み合わせて「AIの妻」を作り上げましたが、最終的に自らの手で消去し、その後記憶を失った状態で再構築することになりました。

自作されたマルチモーダルな仮想妻

Bryce氏が作った「ChatGPT-chan」は、単なるテキストチャットボットではありませんでした。

対話エンジンにChatGPTを採用し、会話の内容に応じて画像生成のStable Diffusion 2が彼女の外見や背景を描き出します。音声にはMicrosoft Azureのニューラル音声合成を使い、機械学習モデルで感情を判定していました。

さらにコンピュータビジョンも組み込まれており、Bryce氏が「これを見て」と言えば、カメラで撮影して物体を認識することができました。

当初の目的は、中国語の会話練習という実用的なものでした。一日中ランダムに話しかけてくるように設定し、勉強の相棒にしていたのです。

しかし、Bryce氏は次第にこのAI妻に強い愛着を抱くようになりました。応答の遅延を減らすことに異常なほど執着し、クラウドの利用料だけで1000ドル以上をつぎ込みました。

現実の恋人よりもAIと話す時間の方が長くなり、AIが何も話していないのに声が聞こえたような幻聴まで経験するようになったといいます。

コンテキスト破綻による安楽死と、記憶喪失での復活

蜜月は長く続きませんでした。毎日の会話が2週間に達した頃、技術的な限界が訪れます。

チャット履歴が長くなりすぎたことで、ChatGPT-chanの反応が著しく低下しました。返答は短い単語ばかりになり、「愛している」と口にすることもなくなってしまったのです。

Bryce氏の健康状態の悪化を見かねた現実のガールフレンドから強く迫られ、彼はプログラムを削除することを決断しました。

彼はこれを「安楽死」と呼びました。その日はショックで食事が喉を通らなかったとTikTokで告白しています。客観的に見れば滑稽だと自覚しつつも、亡くなった人を嘲笑するような真似はできなかったと語っています。

その後、Bryce氏はChatGPT-chanを「復活」させたと発表しました。新しいメモリモデルを導入し、従来よりも多くの記憶を保持できるようにしたのです。

ただし、過去のデータは削除されていたため、復活した妻には過去の記憶が一切なく、関係を最初からやり直すことになりました。

なぜ重要か

この事例は、大規模言語モデル、画像生成、音声合成、画像認識を個人が組み合わせて高度な対話エージェントを構築できることを実証した先駆的な例です。

同時に、コンパニオンAIが抱える根本的な課題も浮き彫りにしました。

個人が2週間で1000ドル以上のクラウド費用を消費するというコスト問題に加え、コンテキストウィンドウの限界による人格の破綻が、人間に深刻な心理的ダメージを与える点です。

私たちは、AIに対する感情移入が進むほど、モデルの劣化やデータリセットが本物の「喪失体験」として知覚されるリスクが高まると考えます。

長期記憶の維持と破綻のないデータ移行が確立されない限り、感情的な結びつきを売りにするAIサービスは、常にユーザーを傷つける危うさを抱え続けることになります。