DeepMind、ChatGPT対抗の対話AI「Sparrow」を年内テスト公開へ　安全性と出典明記を重視

ChatGPTが世界的な旋風を巻き起こす中、Google傘下のAI研究機関であるDeepMindが独自の対抗策を準備しています。

DeepMindのCEOであるDemis Hassabis氏は米Time誌のインタビューで、開発中の対話型AI「Sparrow」について、年内に限定ベータ版（private beta）の公開を検討していると明かしました。

Sparrowは昨年、不適切または危険な回答のリスクを抑えた対話エージェントとして研究論文で発表されていたモデルです。

出典を明記し、知ったかぶりを避ける仕組み

ChatGPTはコード作成から文章生成まで幅広くこなす一方で、誤った情報をあたかも事実のように出力する点や、悪意あるコードの生成といった課題が指摘されています。

Hassabis氏によると、Sparrowの公開を急がなかった理由は、まさにChatGPTに欠けている重要機能、特に出典の明記を確実に組み込むためだったといいます。同氏は、この点について慎重になるのは当然の判断だと述べています。

初期テストにおいて、Sparrowは事実に関する質問を受けた際、78パーセントの割合で根拠に基づいた妥当な回答を提示できたとされています。

また、Sparrowには厳格な行動制限ルールが設けられており、人間が判断すべき文脈では回答を拒否して人間に委ねる姿勢も組み込まれています。

対話AIの安全性についてはOpenAIのSam Altman CEOもTwitterで、技術の利用拡大に伴い重大な問題が生じる可能性を認め、すべての問題を事前に予測することはできないと述べていました。

なぜ重要か

私たちは、Sparrowの登場がAIチャットボットの競争軸を「何でも答える器用さ」から「信頼性と検証可能性」へとシフトさせる契機になるとみています。

仕事や調査でAIを使いたいユーザーにとって、出典が確認できない回答はリスクでしかありません。78パーセントの精度で証拠を伴った回答が出せるなら、業務ツールとしての実用価値はChatGPTを上回る可能性があります。

業界全体にとっても、OpenAIと手を組むマイクロソフト陣営に対し、Google陣営がどのような倫理基準と技術力で対抗するのかを示す重要な試金石になります。

ただし、安全性を重視するあまり回答を拒否しすぎると、ツールとしての面白みや利便性が損なわれる懸念もあります。慎重さと使いやすさを両立できるかが、年内に予定されるベータテストの最大の焦点になりそうです。