OpenAIの取締役にAI安全性の専門家ジコ・コルター氏が就任

OpenAI の取締役会に、AI の安全性をコードレベルで理解する第一人者が加わりました。

OpenAI はカーネギーメロン大学（CMU）教授で機械学習学部長を務める Zico Kolter 氏を取締役に任命したと発表しました。Kolter 氏は取締役会傘下の安全・セキュリティ委員会にも就任します。

大規模言語モデルの防壁を突破してきた研究者

Kolter 氏は、AI の安全性、アライメント、機械学習分類器の堅牢性を専門とするトップ研究者です。

スタンフォード大学で計算機科学の博士号を取得し、マサチューセッツ工科大学でのポスドクを経て、CMU で 12 年間にわたり教鞭を執ってきました。NeurIPS や ICML など名だたる国際会議で数々の受賞歴を誇ります。

特に 2023 年、彼のチームは大規模言語モデルの安全ガードレールを自動最適化技術によって回避する手法を発表し、AI 業界に大きな衝撃を与えました。

アカデミアにとどまらず産業界での実績も豊富です。かつて C3.ai でチーフデータサイエンティストを務めたほか、現在は Bosch のチーフエキスパートや、AI セキュリティ企業 Gray Swan のチーフテクニカルアドバイザーも兼任しています。

委員会での役割とガバナンスの体制

Kolter 氏が参加する安全・セキュリティ委員会には、取締役会議長の Bret Taylor 氏をはじめ、Adam D'Angelo 氏、元国家安全保障局長官の Paul Nakasone 氏、Nicole Seligman 氏、そして CEO の Sam Altman 氏が名を連ねています。

同委員会は、OpenAI のすべてのプロジェクトにおける重要な安全性およびセキュリティ判断に関して勧告を行う責任を負っています。

Bret Taylor 氏は、Kolter 氏がもたらす技術的知見が、人類に恩恵をもたらす汎用人工知能の実現を支えると歓迎のコメントを出しました。

なぜ重要か

今回の一件は、ガバナンスの信頼回復において極めて的確な人事だと考えられます。

以前の経営陣刷新以降、OpenAI の取締役会は政治や法務、経営のベテランで固められており、最先端のモデル安全性に直接切り込める技術者が不足しているとの懸念が根強くありました。モデルの脆弱性を知り尽くした研究者を迎えたことで、監査の実効性は大きく高まるはずです。

利用者や開発者にとっても、モデルの堅牢性が向上すれば、敵対的プロンプト攻撃による情報漏洩や誤動作のリスクが減り、業務導入へのハードルが下がります。

ただし、この委員会が担うのはあくまで勧告にとどまります。激化する開発競争のなかで、安全性とリリース速度が衝突した際に技術者の声がどこまで尊重されるのか、注視していく必要があります。