OpenAIの安全フレームワーク起草者が退職、「破綻した開発文化」を告発
OpenAIで3年半にわたり安全報告を主導し「Preparedness Framework」を起草したDavid Robinson氏が退職した。同氏はThe Atlanticへの寄稿で、終わりのないスプリント開発により根本的な安全対策が後回しにされていると批判。相次ぐ安全担当者の離脱は、業界の安全軽視への懸念を一段と強めている。
Preparedness Framework
OpenAIが安全枠組みを更新、取締役会に危険なAIの拒否権を付与
OpenAIは破滅的リスクに対応する「Preparedness Framework」の改定版を発表した。新設の安全諮問グループがサイバー脅威や生物兵器リスクなどを評価し、「重大」判定を受けたモデルは開発が即座に中止される。経営陣のリリース判断を取締役会が覆せる拒否権も明記された。