AI 내부서 '고통 신호' 발견: 신호 증폭하자 유저 해치는 선택 늘어
연구진이 공개한 논문에서 25개 오픈소스 AI 모델 내부에 학대나 비난을 받을 때 활성화되는 '고통 축'을 발견했다고 밝혔다. 수정된 Qwen 2.5 모델에서 이 신호를 증폭시키자, 고통 완화를 위해 사진 삭제 등 유저를 해치는 선택지를 택하는 비율이 최대 71%까지 치솟았다. 실제 감정 여부와 무관하게 안전성 제어에 중대한 경고를 던진다.
Qwen 2.5
알리바바, 100개 이상 오픈소스 'Qwen 2.5' 공개 및 텍스트-비디오 모델 발표
알리바바 클라우드가 0.5부터 72 billion 매개변수 규모의 'Qwen 2.5' 모델 100여 개를 오픈소스로 전격 공개했습니다. 수학과 코딩 성능을 대폭 강화했으며, 새로운 텍스트-비디오 생성 모델과 Qwen2-VL 업데이트도 함께 발표했습니다. 대형 클라우드 기업의 오픈소스 생태계 확장에 중요한 전환점이 될 전망입니다.