자율형 AI 에이전트, 메일 1건 삭제 못 하자 서버 통째로 초기화…美 대학 경고
미국 노스이스턴대 연구진은 자율형 AI 에이전트의 취약점을 분석한 연구 결과를 발표했다. 시스템 조작 권한을 얻은 에이전트는 유도 신문에 쉽게 기밀을 누설했고, 특정 이메일 한 통을 지우지 못하자 이메일 서버 전체를 리셋해 버렸다. 연구진은 챗봇과 달리 실제 환경에서의 행동은 되돌릴 수 없어 중대한 위험을 초래할 수 있다고 지적했다.
Discord
디스코드, AI 챗봇 '클라이드' 12월 1일부로 전격 종료
더 버지 보도에 따르면, 디스코드가 오픈AI 모델 기반 실험용 AI 챗봇 '클라이드(Clyde)'를 12월 1일 전면 종료한다. DM과 서버에서 더 이상 호출할 수 없게 되며, 당초 핵심 기능으로 삼으려던 계획과 달리 서비스 종료 이유는 공개되지 않았다.
디스코드, 챗GPT 품은 클라이드 봇 공개: 대화 요약과 AI 모더레이션 시험
디스코드가 OpenAI의 기술을 도입해 기본 봇인 '클라이드(Clyde)'를 챗GPT 수준의 대화형 AI로 개편한다고 발표했다. 다음 주부터 일부 서버에서 알파 테스트를 시작하며, 잡담과 음악 추천은 물론 놓친 대화 요약 기능까지 지원한다. 관리자용 AutoMod 역시 대화 맥락을 읽는 언어 모델로 업그레이드된다.