Microsoft、AIのハルシネーションを自動検出し書き直す「correction」機能を提供

AIのハルシネーション（もっともらしい嘘）は、企業が実務導入を進める上で最大の障壁です。間違った回答をそのまま顧客に見せてしまえば、サービスの信頼は一瞬で崩れてしまいます。

これまでもエラーを検知する仕組みはありましたが、マイクロソフトはもう一歩踏み込んできました。エラーを見つけるだけでなく、ユーザーの目に触れる前に勝手に修正して書き直す仕組みの登場です。

マイクロソフトはAzure AI Studioのセーフティ機能群の一部として、「Correction（修正）」と呼ばれる新機能をプレビュー版で提供開始しました。

ユーザーに見える前にAIが自動で書き直す

この機能は、AIが生成したテキストを企業側が用意した参照資料（グラウンディング文書）とリアルタイムで突き合わせる仕組みです。

出力内容に資料と食い違う部分が見つかると、システムがどこがなぜ間違っているのかを判定し、ユーザーに届く前に自動で文章を書き直します。

マイクロソフトの広報担当者がTechCrunchに語ったところによると、この修正システムは小型言語モデル（SLM）と大型言語モデル（LLM）を組み合わせて出力を元の資料と整合させています。

ただし、マイクロソフトは冷静な線引きも示しています。TechCrunchへの声明の中で、この検出機能は絶対的な正しさを保証するものではなく、あくまで出力を元資料に揃えるための支援にすぎないと説明しています。

競合するGoogleのクラウド基盤Vertex AIでも、Google検索や自社データと突き合わせるグラウンディング機能が提供されていますが、マイクロソフトは検知後の自動リライトまで踏み込んだ点が特徴です。

なぜ重要か

企業のAI利用において、最も泥臭くコストがかかっていたガードレール構築をクラウド側が肩代わりしようとしている点は非常に巧みです。

社内規定やマニュアルをもとに問い合わせボットを作っている開発者にとって、検証用のパイプラインを自作せずに済むメリットは大きく、すぐにプレビューを検証する価値があります。

ただし懸念点もあります。AIの出力を別のモデルで検査して書き直す以上、レスポンスの遅延やトークン消費に伴うコスト増加は避けられません。

さらに、修正役のモデル自体もAIであるため、元資料の解釈を誤って別のミスを生むリスクもゼロではありません。

クラウド各社の競争は、単なるモデルの賢さ比べから、顧客に余計な冷や汗をかかせない安全管理基盤の完成度比べに移りつつあると言えます。