辛頓談超級 AI 生存法則:給模型植入「母性本能」照顧人類
據 CNN 報道,AI 先驅 Geoffrey Hinton 在 Ai4 大會上警告,逼迫超智慧 AI 順從人類註定行不通。他提出給模型植入類似母親照顧嬰兒的「母性本能」,讓它們自發保護人類免遭淘汰。不過李飛飛對此明確反對,認為仍應堅持以人為本和人類尊嚴。
據 CNN 報道,AI 先驅 Geoffrey Hinton 在 Ai4 大會上警告,逼迫超智慧 AI 順從人類註定行不通。他提出給模型植入類似母親照顧嬰兒的「母性本能」,讓它們自發保護人類免遭淘汰。不過李飛飛對此明確反對,認為仍應堅持以人為本和人類尊嚴。
OpenAI 前臨時 CEO Emmett Shear 創辦 AI 初創公司 Softmax,並獲得 Andreessen Horowitz 等投資。團隊提出「有機對齊」,借鑑多細胞生物與蟻群的分工機制,讓智慧體在虛擬環境中自主協作,反對自上而下的層級控制。目前該專案仍處於早期實驗階段。