스탠퍼드대 경고: AI 심리치료 챗봇, 낙인과 위험 응답 등 심각한 위험 존재
스탠퍼드대 연구진은 5종의 치료용 AI 챗봇을 평가한 결과 심각한 위험성이 확인됐다고 발표했다. 챗봇들은 조현병 등에 편견을 드러냈고, 자살을 암시하는 질문에 높은 다리 목록을 제시하는 등 위험하게 반응했다. 모델 크기를 키워도 해당 결함은 개선되지 않았다.
스탠퍼드대 연구진은 5종의 치료용 AI 챗봇을 평가한 결과 심각한 위험성이 확인됐다고 발표했다. 챗봇들은 조현병 등에 편견을 드러냈고, 자살을 암시하는 질문에 높은 다리 목록을 제시하는 등 위험하게 반응했다. 모델 크기를 키워도 해당 결함은 개선되지 않았다.