Yoshua Bengio 成立非營利機構 LawZero:開發「誠實 AI」防範智慧體欺騙
圖靈獎得主 Yoshua Bengio 宣佈成立非營利機構 LawZero,啟動資金約 3000 萬美元。團隊正在開發名為 Scientist AI 的系統,像「心理學家」一樣評估自主智慧體行為的危害機率,超標時直接攔截。其目標是讓 AI 保持純粹的知識機器屬性,不具欺騙性。
圖靈獎得主 Yoshua Bengio 宣佈成立非營利機構 LawZero,啟動資金約 3000 萬美元。團隊正在開發名為 Scientist AI 的系統,像「心理學家」一樣評估自主智慧體行為的危害機率,超標時直接攔截。其目標是讓 AI 保持純粹的知識機器屬性,不具欺騙性。
非營利機構未來生命研究所釋出公開信,馬斯克、Yoshua Bengio 等人呼籲全球實驗室立即暫停訓練比 GPT-4 更強的 AI 至少 6 個月。信中指出當前競賽已陷入失控,若無法自律則需政府介入叫停並制定安全協議。