메타, 첨단 AI 안전 프레임워크 갱신…뮤즈 스파크 '통제 상실' 위험 평가 공개
메타가 첨단 AI 확장 프레임워크 개정판과 뮤즈 스파크 안전 보고서를 공개했다. 화학·생물학 및 사이버 위협 외에도 자율성에 따른 '통제 상실' 평가 기준을 신설했다. 단순 거절 규칙 대신 모델의 추론 능력으로 안전 원리를 학습시켰으며, 통제 불능 위험을 일으킬 자율 수준은 아니라고 밝혔다.
메타가 첨단 AI 확장 프레임워크 개정판과 뮤즈 스파크 안전 보고서를 공개했다. 화학·생물학 및 사이버 위협 외에도 자율성에 따른 '통제 상실' 평가 기준을 신설했다. 단순 거절 규칙 대신 모델의 추론 능력으로 안전 원리를 학습시켰으며, 통제 불능 위험을 일으킬 자율 수준은 아니라고 밝혔다.