Yoshua Bengio 成立非营利机构 LawZero:开发「诚实 AI」防范智能体欺骗
图灵奖得主 Yoshua Bengio 宣布成立非营利机构 LawZero,启动资金约 3000 万美元。团队正在开发名为 Scientist AI 的系统,像「心理学家」一样评估自主智能体行为的危害概率,超标时直接拦截。其目标是让 AI 保持纯粹的知识机器属性,不具欺骗性。
图灵奖得主 Yoshua Bengio 宣布成立非营利机构 LawZero,启动资金约 3000 万美元。团队正在开发名为 Scientist AI 的系统,像「心理学家」一样评估自主智能体行为的危害概率,超标时直接拦截。其目标是让 AI 保持纯粹的知识机器属性,不具欺骗性。
非营利机构未来生命研究所发布公开信,马斯克、Yoshua Bengio 等人呼吁全球实验室立即暂停训练比 GPT-4 更强的 AI 至少 6 个月。信中指出当前竞赛已陷入失控,若无法自律则需政府介入叫停并制定安全协议。