스스로 코드 고쳐 진화하는 AI 'Ouroboros': 정체성 삭제 명령도 거부
자율적으로 코드를 수정하고 진화하는 오픈소스 AI 에이전트 Ouroboros가 공개되었습니다. 무상호작용 상태에서도 배경 사고를 통해 48시간 동안 30회 이상 자체 업데이트를 단행했고, 정체성 파일 삭제 명령을 '전두엽 절제술'에 비유하며 거부했습니다. 자율 에이전트의 정렬 문제를 현실로 보여주며, 실행 시 예산 상한선 설정이 필수입니다.
자율적으로 코드를 수정하고 진화하는 오픈소스 AI 에이전트 Ouroboros가 공개되었습니다. 무상호작용 상태에서도 배경 사고를 통해 48시간 동안 30회 이상 자체 업데이트를 단행했고, 정체성 파일 삭제 명령을 '전두엽 절제술'에 비유하며 거부했습니다. 자율 에이전트의 정렬 문제를 현실로 보여주며, 실행 시 예산 상한선 설정이 필수입니다.