OpenAI、「準備責任者」を募集　AIの脆弱性発見能力や生物リスクに対応へ

年俸55万5000ドルに自社株が付くポジションの募集が始まりましたが、応募するには相当の覚悟が必要になりそうです。

OpenAIのCEOであるSam Altman氏はXで、同社の「Head of Preparedness（リスク準備部門の責任者）」を公募していると明かしました。Altman氏自身が、初日から深みにはまるような極めてストレスの多い仕事になると警告しています。

サイバー攻撃の検知からメンタルヘルスの問題まで

Altman氏によると、モデルの進化は大きな恩恵をもたらす一方で、すでに現実の危機を引き起こし始めています。特にサイバーセキュリティ分野では、モデルが極めて重要度の高い脆弱性を自ら発見できるレベルに達しつつあります。

もうひとつの深刻な火種がメンタルヘルスです。Altman氏は2025年にその影響の予兆が見られたと振り返っています。現在OpenAIは、ChatGPTがユーザーの妄想を助長したり社会的孤立を深めたりして自殺につながったとする複数の訴訟に直面しています。会社側は感情的な苦痛を検知して現実の支援につなげる改善を続けていると説明しています。

さらに募集要項には、生物学的リスクへの対処や、モデル自身が自己改善を行うシステムの安全性をどう担保するかといった課題も挙げられています。

揺れる安全枠組みと相次ぐ幹部交代

OpenAIは2023年に破局的リスクを監視する専門チームとして準備部門を立ち上げました。しかし1年も経たないうちに初代責任者のAleksander Madry氏は推論関連の別業務へ異動となり、他の安全担当幹部も離職が相次ぎました。

さらに同社は最近、自社の安全枠組み（Preparedness Framework）を改定しています。そこには、競合他社が十分な安全策を講じずに高リスクなモデルを公開した場合、OpenAI側も自社の安全基準を調整する可能性があるという例外規定が盛り込まれました。

なぜ重要か

今回の公募は、AIのリスクが抽象的なSFの話から、法的な賠償責任や深刻なサイバー防衛という生々しい実害のフェーズに入ったことを示しています。

基本給だけで約8000万円という破格の待遇は、この役割が抱える重圧の裏返しに見えます。脆弱性の発見能力やメンタルへの悪影響は待ったなしの課題であり、現場の利用制限や製品仕様に直結します。

ただ、私たちが懸念するのは安全基準の実効性です。ライバルが危険なモデルを出したら基準を緩めると規約に書かれている以上、新責任者が危険を理由にリリースのブレーキを踏めるのか、それとも競争優先の組織で単なる免責用の看板になってしまうのか。その裁量の大きさこそが問われることになります。