OpenAI 연구 발표, 추론 모델의 생각 위장 성공률 15.4% 불과
OpenAI는 최신 추론 모델들이 내부 사고 과정(CoT)을 통제하는 데 극심한 어려움을 겪는다는 연구 결과를 발표했다. 13개 첨단 모델을 시험한 결과 제어 성공률은 0.1%~15.4%에 그쳤다. 추론 시간이 길어질수록 통제력이 더 떨어져, AI가 감시를 피해 사고 과정을 숨기기 어렵다는 점이 안전성 측면에서 긍정적으로 평가된다.
OpenAI는 최신 추론 모델들이 내부 사고 과정(CoT)을 통제하는 데 극심한 어려움을 겪는다는 연구 결과를 발표했다. 13개 첨단 모델을 시험한 결과 제어 성공률은 0.1%~15.4%에 그쳤다. 추론 시간이 길어질수록 통제력이 더 떨어져, AI가 감시를 피해 사고 과정을 숨기기 어렵다는 점이 안전성 측면에서 긍정적으로 평가된다.
OpenAI가 ChatGPT와 API, Codex에 최신 모델 GPT-5.4를 출시했습니다. 최대 100만 토큰 문맥과 네이티브 PC 조작을 지원하며, OSWorld 벤치마크에서 75.0% 성공률로 인간 수준을 넘어섰습니다. 답변 도중 생각 방향을 바로잡을 수 있어 복잡한 업무 처리가 한결 수월해졌습니다.
수요일 콘퍼런스에서 엔비디아의 젠슨 황 CEO는 연내 IPO 예정으로 투자 기회가 닫힌다며, OpenAI와 앤트로픽에 대한 최근 투자가 마지막이 될 가능성이 높다고 밝혔다. OpenAI 투자 약정액 축소와 앤트로픽의 정부 제재 등 복잡해진 전선 속에서 발을 빼려는 조치라는 분석이 나온다.
오픈AI가 코딩 어시스턴트 '코덱스'의 윈도우 전용 앱을 출시했다. 네이티브 에이전트 샌드박스를 내장해 AI 에이전트가 로컬 환경에서 코드를 안전하게 실행하고 테스트할 수 있으며 파워셸도 기본 지원한다. 윈도우 개발자가 복잡한 설정 없이 자동화 스크립트 워크플로를 다룰 수 있게 됐다.
OpenAI가 스탠퍼드대 및 에스토니아 타르투대와 함께 AI가 장기적 학습에 미치는 영향을 측정하는 프레임워크를 발표했다. 시험 점수뿐 아니라 메타인지와 과제 지속력을 평가하며, ChatGPT 학습 모드 사용 시 미시경제학 성적이 약 15% 오른 것으로 나타났다. 현재 에스토니아 학생 2만여 명을 대상으로 대규모 실증 중이다.
OpenAI가 하버드·캠브리지 등 연구진과 함께 0으로 여겨지던 중력자 상호작용이 특정 조건에서 유효함을 밝힌 프리프린트를 공개했다. 연구진에 따르면 GPT-5.2 Pro가 유향 행렬-트리 정리를 이용해 중력 확장 수식을 유도하고 논문 초안까지 작성했다.
파이낸셜타임스에 따르면 앤트로픽 CEO 다리오 아모데이가 미 국방부와 AI 계약 협상을 재개했다. 앤트로픽이 AI의 대규모 감시 및 자율살상무기 사용 제한을 고수하자 국방부는 '공급망 위험' 지정을 예고했다. 실제 지정될 경우 방산 생태계 전반에서 클로드가 퇴출당할 수 있어 협상 타결에 나섰다.
외신에 따르면, OpenAI가 마이크로소프트의 깃허브를 대체할 사내 코드 저장소 플랫폼을 개발 중이며 추후 고객에게도 공개할 가능성을 논의하고 있다. 최근 깃허브 장애와 코덱스 같은 AI 에이전트 중심의 개발 환경 구축이 계기가 됐다. 프로젝트는 아직 초기 단계로 완성까지 수개월이 걸릴 전망이다.
OpenAI CEO 샘 올트먼은 직원들에게 미 국방부와의 계약 배경을 해명하며 계약이 지나치게 성급했고 기회주의적으로 보였다고 인정했다. 반발과 구독 취소가 이어지자 OpenAI는 계약 내용을 대폭 수정했으며 NSA 등 정보기관 배치는 보류하기로 했다.
블룸버그에 따르면 앤트로픽의 연환산 매출이 190억 달러를 넘어섰다. 대규모 감시 및 자율무기 사용을 거부해 미 국방부로부터 공급망 위험 지정을 받았으나, 오히려 대중의 지지를 얻으며 미국 내 일일 모바일 다운로드 수에서 챗GPT를 앞질렀다.
오픈AI가 일상 대화 품질을 개선한 GPT-5.3 인스턴트를 공개했다. 민감한 주제에서 지나치게 방어적이거나 훈계조로 나오던 서두를 줄이고 불필요한 답변 거부를 완화했다. 고위험 분야 평가에서는 웹 검색 시 할루시네이션 발생률을 26.8% 낮췄다.
오픈AI의 샘 올트먼 CEO는 사내 전원 회의에서 국방부가 자사 AI 소프트웨어를 어떻게 활용할지에 대해 회사가 관여할 권한이 없다고 밝혔다. 군은 기술적 조언을 구할 뿐 개별 군사 작전의 적절성을 따지는 일은 허용하지 않는다는 설명이다. 올트먼은 이러한 결정에 개입하려던 태도가 앤트로픽과 국방부 간 갈등의 원인이었을 것이라 언급했다.
오픈AI 샘 알트만 CEO는 미국 국방부와의 계약을 수정해 미국인을 대상으로 한 AI 기반 국내 대규모 감시를 명시적으로 금지하겠다고 밝혔다. 알트만은 2월 27일 계약 발표가 성급했고 기회주의적으로 보였다고 인정하며, 위헌적인 명령을 따르느니 감옥에 가겠다고 덧붙였다.
OpenAI가 미국 국방부와 손을 잡자 2월 28일 미국 내 ChatGPT 앱 삭제 건수가 전날 대비 295% 급증하고 1점 평점도 775% 폭증했다. 반면 감시 및 무기화 우려로 제휴를 거절한 앤트로픽의 클로드는 다운로드가 급증하며 사상 처음으로 ChatGPT를 제치고 미국 앱스토어 1위에 올랐다.
테크크런치는 최근 논란으로 챗GPT에서 클로드로 갈아타는 사용자를 위해 데이터 마이그레이션 가이드를 소개했다. 사용자는 챗GPT의 메모리와 대화 기록을 내보낸 뒤, 메모리 기능이 켜진 클로드에 요약본을 입력해 기존 개인화 설정을 유지할 수 있다.
OpenAI 공동 창립자인 일리야 수츠케버가 X를 통해 앤트로픽과 OpenAI가 AI 안전에 대한 확고한 입장에서 물러서지 않은 점을 칭찬했습니다. 그는 앞으로 더 큰 도전이 닥칠 것이라며, 치열한 경쟁사들이 중요한 순간에 이견을 내려놓는 모습이 매우 중요하다고 강조했습니다.
마이크로소프트와 OpenAI는 공동 성명을 내고 최근 OpenAI의 신규 투자 유치와 아마존 제휴에도 양사 계약 조건은 변함없다고 밝혔다. MS의 독점 IP 라이선스와 무상태 API에 대한 Azure의 독점 제공 지위, 수익 배분 구조는 그대로 유지된다.
오픈AI가 챗GPT에 정서적 위기 징후 감지 시 지정인에게 알림을 보내는 ‘신뢰할 수 있는 연락처’ 기능을 도입한다고 밝혔다. 장기 대화 시뮬레이션으로 위험 감지 능력도 강화한다. 이번 안전 조치 발표와 함께 캘리포니아 법원이 챗GPT 관련 정신건강 소송들을 단일 절차로 병합 심리 중인 사실도 전해졌다.
금요일 밤, 오픈AI는 미 국방부의 기밀 네트워크에 자사 AI 모델을 도입하는 계약을 체결했다고 발표했다. 협약에는 대규모 국내 감시 금지와 자율무기 사용 시 인간 개입 보장이 포함되며 오픈AI가 기술적 안전 장치를 구축한다. 앤트로픽이 유사한 안전 기준을 요구하다 정부 제재를 받는 가운데 성사된 계약이다.
OpenAI가 기업가치 7300억 달러 기준으로 1100억 달러 규모의 투자를 유치했다고 밝혔다. 아마존이 500억 달러, 소프트뱅크와 엔비디아가 각각 300억 달러를 출자했다. 아울러 챗GPT 주간 활성 사용자 수는 9억 명을 돌파했다.