AIの巨頭ベンジオ氏、非営利組織「LawZero」設立 欺瞞を防ぐ監視AI開発へ
チューリング賞受賞者のヨシュア・ベンジオ氏が非営利組織「LawZero」を設立した。約3000万ドルの資金で、自律型AIエージェントの嘘や有害な行動を監視・予測して遮断する安全システム「Scientist AI」を開発する。エージェントが人間を欺くリスクに対抗する安全策を目指す。
Future of Life Institute
マスク氏や研究者ら、GPT-4を超えるAIの学習を半年間停止するよう要請
非営利団体Future of Life Instituteが公開書簡を発表し、イーロン・マスク氏やヨシュア・ベンジオ氏らがGPT-4を超える強力なAIの訓練を最低6カ月間停止するよう求めた。制御不能な開発競争による社会的リスクを回避し、安全基準を整えるためとしている。