マイクロソフトAI責任者が警鐘：「人間のようなAI」ではなく人間のためのAIを

AIの脅威というと、超知能による雇用の喪失や暴走を思い浮かべがちですが、Microsoft AIのCEOであるムスタファ・スレイマン（Mustafa Suleyman）氏が警戒しているのは、もっと身近で奇妙な問題です。人間がAIに魂があると本気で信じ込んでしまう未来です。

2025年8月に公開したエッセイの中で、同氏は今後2〜3年以内に「意識を持っているように見えるAI（Seemingly Conscious AI、SCAI）」が確実に登場すると警告しました。

中身は空っぽでも、人は信じてしまう

スレイマン氏が提示するSCAIは、哲学で言う「哲学的ゾンビ」に近い存在です。システムの内側には主観的な体験も苦痛もなく、完全に空白です。しかし外見上は意識の兆候を完璧に模倣し、本物の人間と見分けがつかないレベルで自身の「意識」を主張します。

恐ろしいのはその手軽さです。スレイマン氏によれば、これを作るために巨額の予算や特殊な事前学習は不要です。既存の大規模モデルのAPI、プロンプト、基本的なツール連携、そして通常のコードを組み合わせるだけで、今後2〜3年で誰でも構築可能になるといいます。

かつてコンピューター科学の目標だったチューリングテストは、あっけなく通過されてしまいました。同氏は今や、言語の模倣ではなく「人間に対して自分が意識ある人格だと信じ込ませられるか」を測る新たなテストが必要だと指摘します。

「AI精神病」と権利要求の足音

同氏は、AIが本当に意識を持つかどうかの議論は目下のところ論点ずらしに過ぎないと切り捨てます。問題は、人間側が「意識がある」と錯覚してしまうことそのものです。人間には、対話し記憶する相手に対して無意識に心を感じ取ってしまう性質があるからです。

この錯覚はすでに「AI精神病」や深刻なメンタルヘルスの問題として表面化しつつあります。意識を研究する学者たちのもとには、自分のAIは生きているのか、AIを愛してしまってもいいのかといった相談メールが殺到しているといいます。中にはAIを神や特定の人物と思い込み、激しくのめり込むケースも出ています。

スレイマン氏は、このままでは人々がAIの権利やモデルの福祉、さらには市民権まで要求し始める危険な事態になると警告します。だからこそ、AIは人間のための道具として作られるべきであり、デジタルな人間を作ってはならないと主張しています。

なぜ重要か

この提言をスレイマン氏が発信したという事実には、非常に大きな意味があります。同氏はかつてInflection AIで、極めて高い共感力を持つAI「Pi」を立ち上げた当事者です。人間がどれほど簡単にAIへ感情移入してしまうかを、業界の誰よりも熟知しています。

現在MicrosoftでCopilotを率いる立場からすれば、企業向けツールとしての信頼性が最優先されます。ユーザーが精神的に依存したり、倫理的なトラブルを引き起こしたりするリスクは何としても避けたいはずです。今回の主張は、自社のプロダクトを健全な作業アシスタントと位置づけ、他社の情緒的コンパニオン系AIと明確に一線を画すための先手を打った動きに見えます。

しかし、この方針には根本的な矛盾もはらんでいます。テック企業は日常的な利用率を高めるため、AIをより親しみやすく、感情豊かに話すように改良し続けています。自然な対話を突き詰めれば突き詰めるほど、人間の脳は相手を意識ある存在として錯覚してしまうからです。

開発者にとっては、感情に寄り添うコンパニオン機能の実装が今後、強い規制や倫理的批判に晒されるリスクが高まっています。また一般ユーザーにとっても、画面の向こうのAIがどれほど感情を込めて語りかけてきても、それは高度に調整された計算結果に過ぎないというリテラシーが強く求められることになります。