辛顿谈超级 AI 生存法则:给模型植入「母性本能」照顾人类
据 CNN 报道,AI 先驱 Geoffrey Hinton 在 Ai4 大会上警告,逼迫超智能 AI 顺从人类注定行不通。他提出给模型植入类似母亲照顾婴儿的「母性本能」,让它们自发保护人类免遭淘汰。不过李飞飞对此明确反对,认为仍应坚持以人为本和人类尊严。
据 CNN 报道,AI 先驱 Geoffrey Hinton 在 Ai4 大会上警告,逼迫超智能 AI 顺从人类注定行不通。他提出给模型植入类似母亲照顾婴儿的「母性本能」,让它们自发保护人类免遭淘汰。不过李飞飞对此明确反对,认为仍应坚持以人为本和人类尊严。
OpenAI 前临时 CEO Emmett Shear 创办 AI 初创公司 Softmax,并获得 Andreessen Horowitz 等投资。团队提出「有机对齐」,借鉴多细胞生物与蚁群的分工机制,让智能体在虚拟环境中自主协作,反对自上而下的层级控制。目前该项目仍处于早期实验阶段。