OpenAI、国家安全原則を公開　自律兵器や大規模監視へのAI利用を禁止

かつてシリコンバレーのテック企業は、防衛分野との協業に対して極めて慎重でした。社内の反発や批判を恐れていたためです。しかし、その潮目は完全に変わりつつあります。

OpenAI は自社の技術を政府や安全保障の現場でどのように活用し、どこで制限をかけるかを定めた国家安全保障原則を公開しました。

決して踏み越えない3つのレッドライン

今回の原則策定にあたり、OpenAI は国家安全保障の専門家である David Kris 氏を招いて独立した助言を求めたほか、研究、安全性、政策、政府連携など社内の多岐にわたるチームと対話を重ねてきました。

そこで明文化されたのが3つの明確な制約です。国内の大規模監視への利用禁止、自律型兵器システムの指揮への利用禁止、そして重大な結果を伴う意思決定の自動化の禁止です。

これらの制約は、すでに米戦争省との間で締結されている既存の協定にも盛り込まれており、今回はそれを公式な基本原則として改めて明確にしました。

また、こうした高リスクな軍事利用の規制は企業が勝手に決めるべきではなく、民主的な立法プロセスを通じて行われるべきだとして、関連法制の整備を支持する姿勢も示しています。

同盟国との連携と専用モデルの投入

一線を画す一方で、OpenAI は防衛的な領域における政府や同盟国との協業を一気に加速させています。

サイバー防衛の枠組みである Daybreak プログラムでは、この1カ月間で日本、オーストラリア、カナダ、韓国、フランス、ドイツ、ポーランド、オランダ、そして ENISA を含むEU機関など計9つの同盟国・機関と Trusted Access for Cyber パートナーシップを締結しました。

さらに英国政府とも、サイバーセキュリティやテスト、評価に関する連携を強化しています。

生物安全保障の分野では、先月、公共衛生と生物防衛を担う米政府および同盟国の特定パートナーに向けて、専用モデルである GPT-Rosalind へのアクセス拡大を発表しました。

なぜ重要か

一般のユーザーや開発者にとって、最先端 AI の提供形態が二極化しつつあることを示しています。GPT-Rosalind のような高度で機微なタスクを担うモデルは、通常の API には降りてこず、公的機関向けの厳格な管理下に置かれることになります。

業界全体で見れば、OpenAI の立ち回りは非常に戦略的です。自律兵器や監視といった世論が反発しやすい領域に自ら厳格な釘を刺すことで社内外の批判を抑えつつ、サイバー防衛やバイオ防衛という大義名分のもとで各国の防衛予算や公的案件を押さえにいっています。

日本や欧米主要国を網羅した連合体制を築くことで、後発の競合やオープンソース勢力が入り込めない強力な参入障壁を築きつつあります。

ただ、私たちが懸念するのは、実際の防衛や情報活動において、情報分析の支援と重大な意思決定の境界線が極めて曖昧になりがちな点です。外部からの厳格な検証が難しい安全保障の現場で、自社が定めた原則をどこまで厳格に維持できるのかは、今後も注視していく必要があります。