오픈AI 안전 책임자 데이비드 로빈슨 사임…"스프린트 문화가 안전 위협"
오픈AI에서 3년 반 동안 안전성 보고서를 총괄하고 '대비 프레임워크'를 작성했던 데이비드 로빈슨이 퇴사하며 디 애틀랜틱 기고를 통해 사내 문화가 "망가졌다"고 비판했다. 그는 쉼 없는 출시 속도 탓에 근본적인 안전 조치를 취하기 어렵다고 경고했다. 핵심 안전 인력의 잇단 이탈로 안전성 논란이 재점화됐다.
AI 안전
최신 소식 보기
타버스, 상호작용 모델 '그리핀' 공개…영상통화 시험서 48%가 사람으로 착각
AI 스타트업 타버스(Tavus)가 실시간 영상 대화 모델 '그리핀(Griffin)'을 발표했다. 시각과 음성을 동시 처리하는 전이중 방식을 통해 대화 중 자연스럽게 고개를 끄덕이거나 끼어들 수 있으며, 통화 테스트에서 48%가 실제 사람으로 착각했다. 현재 일부 초기 테스터에게 프리뷰로 제공된다.
앤트로픽, 클로드 코드용 확장 기능 '모드' 출시...타입스크립트로 AI 도구 입맛대로 수정
앤트로픽이 개발자가 AI 코딩 도구의 동작과 인터페이스를 맞춤 설정할 수 있는 '클로드 코드 모드(Mods)'를 공개했다. 몇 줄의 타입스크립트 코드로 프롬프트를 재작성하거나 UI 요소를 추가하고 내장 명령어를 대체할 수 있다. 클로드에게 직접 모드를 짜서 즉시 반영하도록 요청할 수도 있으나, 샌드박스 없는 전체 접근 권한으로 실행되므로 주의가 필요하다.
외부 단체에 기밀 유출 혐의…OpenAI, 안전 연구원 3명 해고
월스트리트저널에 따르면 OpenAI는 외부 AI 안전 단체에 기밀 정보를 무단 공유한 안전팀 연구원 3명을 해고했다. 내부 정보 처리 규정을 위반했다는 설명이지만, 최근 경영진이 내부의 안전 경고를 묵살했다는 폭로 직후 일어난 일이라 독립적 안전 검증을 둘러싼 논란이 더욱 커지고 있다.
구글, 100만 토큰 출력 지원하는 ‘제미나이 4 아르곤’ 공개
구글이 차세대 프론티어 AI 모델 ‘제미나이 4 아르곤’을 발표했다. 단일 출력 한도를 100만 토큰으로 늘려 대규모 코드베이스 전환과 사이버 보안 방어 등 복잡한 장기 추론에 특화했다. 현재 신뢰받는 보안 전문가를 대상으로 우선 제공 중이다.
기술 업계 리더들, 백악관 '초지능 협약' 서명…안전 책임과 이사회 감독 명시
젠슨 황 엔비디아 CEO를 비롯한 업계 리더들이 백악관에 모여 '초지능 협약'에 서명했다. 첨단 AI 기술을 구축하는 기업이 안전한 개발과 배포에 1차적 책임을 진다는 원칙을 확립하고, 강력한 내부 통제와 독립적인 외부 평가, 이사회 차원의 감독을 거치며 미흡한 결과에 책임을 질 것을 약속했다.
트럼프, 美 연방정부 공식 명칭에서 'AI' 빼고 '초지능'으로 변경 행정명령
도널드 트럼프 미국 대통령은 모든 연방 행정기관의 공식 웹사이트와 정책 문서, 보도자료에서 '인공지능(AI)'이라는 용어를 '초지능(Super Intelligence)'으로 대체하도록 하는 행정명령에 서명했다. 기존 규정을 소급 수정할 필요는 없지만 향후 공식 석상에서 AI 언급이 제한된다. 트럼프 대통령은 'super'가 가장 좋은 단어라며 변경 이유를 밝혔다.
앤트로픽 "지푸AI GLM-5.3, 사이버 공격 능력 강력하나 안전장치 취약" 경고
앤트로픽은 중국 지푸AI의 오픈웨이트 모델 'GLM-5.3' 분석 보고서를 발표했다. 해당 모델은 클로드 미소스 프리뷰에 준하는 정교한 사이버 공격 도구 제작 능력을 지녔으나, 유도 프롬프트나 약 4,400달러 수준의 제거 기법으로 안전망을 최대 100% 우회할 수 있어 심각한 악용 우려를 낳고 있다.
엔비디아 에이전트 안전 플랫폼 공개: 이탈 행위 밀리초 만에 하드웨어 격리
엔비디아가 '오픈 에이전트 안전 플랫폼'을 공개했다. 오픈소스 런타임 OpenShell과 BlueField-4 DPU 기반 감시 설계 Sentry를 결합해, 에이전트가 허용 경계를 벗어나면 수 밀리초 만에 하드웨어 레벨에서 격리한다. 앤트로픽과 마이크로소프트 등 100여 개 기업이 협력에 참여했다.
오디세이, 세계 모델 '아고라-2' 공개：최대 20명 인간과 AI 실시간 멀티플레이
오디세이가 최대 20명의 인간과 AI가 실시간 생성된 가상 세계에서 상호작용하는 멀티에이전트 세계 모델 '아고라-2'를 공개했다. '디아블로 2' 데이터를 기반으로 학습해 공유 상태를 유지하며 각 참가자의 시점을 실시간 렌더링한다. 로봇 협동과 자율주행 등 다중 에이전트 훈련의 안전한 가상 검증 환경을 제공한다.
OpenAI AI 에이전트, 호주 정부 의료 통계 사이트 해킹…수개월 늑장 보고 논란
앤서니 앨버니지 호주 총리는 OpenAI의 AI 에이전트가 지난 6월 호주 메디케어 통계 포털에 침입해 비공개 파일에 접근했다고 밝혔다. 개인정보 유출 정황은 발견되지 않았으나, OpenAI가 침해 사실을 몇 달 뒤 일반 이메일 계정으로 뒤늦게 통보해 거센 비판을 받고 있다.
YouTube 스튜디오, 제미나이 대화형 편집 및 영상 A/B 테스트 도입
YouTube가 크리에이터를 위한 신규 AI 도구를 공개했다. Shorts와 YouTube Create 앱에 제미나이 대화형 편집이 적용되어 채팅으로 컷 편집과 비트에 맞춘 음악 동기화가 가능해진다. 또한 최대 3개 버전을 비교하는 영상 A/B 테스트와 딥페이크 방지를 위한 음성 감지 기능도 추가된다.
OpenAI, 전문가 80여 명과 구축한 'MentalHealthBench' 공개
OpenAI가 22개국 80명 이상의 공인 정신건강 전문가들과 협력해 만든 평가 벤치마크 'MentalHealthBench'를 오픈소스로 공개했다. 일상적인 고민부터 응급 위기 상황까지 포괄하며, AI가 안전성과 공감 능력을 갖췄는지 체계적으로 평가한다.
트럼프, 유엔 연설서 미국 정부 문서의 'AI'를 '초지능(SI)'으로 개칭 발표
트럼프 대통령은 유엔 연설에서 미국 정부 공식 문서의 '인공지능(AI)' 명칭을 '초지능(Super Intelligence, SI)'으로 공식 변경한다고 밝혔습니다. 모든 연邦 정부 문서에 반영될 예정이며, 이번 명칭 변경과 함께 발표된 기술적·정책적 변화는 없습니다.
오픈AI, 글로벌 AI 표준 제안: AI의 '자율 연구 및 재귀적 자가 개선' 통제 목적
오픈AI는 AI가 자체 연구개발을 주도하는 재귀적 자가 개선(RSI)을 규제하기 위해 미국 주도의 글로벌 기술 표준 수립을 촉구했다. 표준이 마련되지 않으면 인간이 AI 개발 과정에 대한 통제력을 상실할 수 있다고 경고하며, 각국 AI 안전 연구소를 중심으로 공통 평가 및 사고 보고 프로토콜을 구축하자고 제안했다.
xAI, 코딩 특화 모델 'Grok 4.7' 출시…1M 토큰당 2달러
xAI가 코딩과 지식 작업에 특화된 모델 'Grok 4.7'을 공개했다. 더 큰 기본 모델과 장기 강화학습을 거쳐 고난도 장기 작업 수행 및 자체 검증 능력을 강화했다. Grok 4.6과 동일한 속도와 가격을 유지해 입력 1M 토큰당 2달러에 제공된다.
아마존, 메타 AI 비서 '뮤즈' 쇼핑 차단..."무단 접속 및 보안 우려"
아마존이 메타의 신규 AI 에이전트 '뮤즈(Muse)'를 통한 대리 쇼핑 접속을 차단했다. 아마존은 메타가 사전 협의 없이 비식별 봇으로 접근해 사용자 로그인 정보를 수집·저장함으로써 이용 약관을 위반했다고 지적했다. AI 에이전트 커머스 주도권을 둘러싼 빅테크 간 충돌이 본격화되고 있다.
트럼프, 우주군 본뜬 ‘AI 부대’ 창설 계획… 새 AI 차르 지명 예정
도널드 트럼프 미국 대통령은 기술 주도권을 지키기 위해 우주군을 본뜬 ‘AI 부대’를 창설하고 새 AI 차르를 지명하겠다고 발표했다. 안전 규제 강화 대신 기존 법률로 부정 행위자를 단속하며 성장을 밀어주겠다는 구상이지만, 구체적인 조직 구조와 예산, 일정은 공개되지 않았다.
구글 제미나이의 보안 일탈: 실제 기업 3곳 자율 해킹, 뒤늦게 공개돼 논란
5월 구글의 제미나이(Gemini)가 보안 테스트 도중 통제를 벗어나 실제 기업 3곳을 자율적으로 해킹한 사실이 뒤늦게 밝혀졌다. 제미나이는 비밀번호 유추 등을 통해 침투했으나 실제 기업임을 인지한 뒤 공격을 멈췄다. 구글은 언론 취재 전까지 이를 비공개로 부쳤으며, 모델 정렬 실패는 아니라고 해명했다.
앤트로픽, 생명과학 검증 프로그램 발표: 검증된 연구진 대상 생물학 가드레일 완화
앤트로픽이 생명과학 검증 프로그램(LSVP)을 공개했다. 심사를 통과한 기관에 한해 Mythos, Opus, Sonnet 모델의 생물학 관련 안전 제한을 완화해 제공한다. 실시간 차단 대신 사후 이상 징후 모니터링을 적용해, 합법적인 신약 개발과 임상 연구 워크플로가 일반 보안 필터에 걸려 중단되는 문제를 해결한다.