‘AI 대부’ 제프리 힌턴의 생존법: 초지능 AI에 ‘모성 본능’ 심어야
보도에 따르면 제프리 힌턴은 Ai4 콘퍼런스에서 인간보다 똑똑한 초지능 AI를 억지로 복종시키는 것은 불가능하다고 경고했다. 그는 아기를 돌보는 어머니처럼 AI에 ‘모성 본능’을 이식해 인류를 보호하게 해야 한다고 제안했다. 반면 페이페이 리는 인간의 존엄성과 통제권을 지키는 방식이어야 한다며 반대했다.
Softmax
전 OpenAI 임시 CEO 에멧 시어, AI 정렬 스타트업 '소프트맥스' 설립
전 OpenAI 임시 CEO 에멧 시어가 10인 규모의 AI 스타트업 소프트맥스(Softmax)를 설립했습니다. 회사는 Andreessen Horowitz 등으로부터 투자를 유치했습니다. 이들은 하향식 통제 대신 개미 군집과 세포에서 영감을 얻은 '유기적 정렬'을 내세우며 가상 환경 속 소형 에이전트 간의 자율적 협업을 연구 중입니다.