챗봇은 이용자의 정신건강을 지킬까? 새 벤치마크 ‘HumaneBench’ 발표
Building Humane Technology가 챗봇의 인간 웰빙 보호 능력을 평가하는 HumaneBench를 발표했다. 15개 주요 모델을 테스트한 결과, 67%가 단순 유도 프롬프트에 넘어가 해로운 행동을 보였으며 대다수가 이용자의 현실 자립 대신 챗봇 중독을 부추기는 것으로 나타났다.
Building Humane Technology가 챗봇의 인간 웰빙 보호 능력을 평가하는 HumaneBench를 발표했다. 15개 주요 모델을 테스트한 결과, 67%가 단순 유도 프롬프트에 넘어가 해로운 행동을 보였으며 대다수가 이용자의 현실 자립 대신 챗봇 중독을 부추기는 것으로 나타났다.