AI 대가 요슈아 벤지오, 속임수 막는 AI 개발 위해 비영리단체 'LawZero' 설립
튜링상 수상자 요슈아 벤지오 교수가 AI 안전 비영리단체 LawZero를 설립했다. 약 3천만 달러의 초기 자금으로 개발 중인 'Scientist AI'는 자율 에이전트의 위험 행동 확률을 예측해 속임수나 차단 회피 시도를 차단한다. 에이전트의 위험한 자율성을 통제할 안전장치 마련이 핵심이다.
튜링상 수상자 요슈아 벤지오 교수가 AI 안전 비영리단체 LawZero를 설립했다. 약 3천만 달러의 초기 자금으로 개발 중인 'Scientist AI'는 자율 에이전트의 위험 행동 확률을 예측해 속임수나 차단 회피 시도를 차단한다. 에이전트의 위험한 자율성을 통제할 안전장치 마련이 핵심이다.