백악관, 앤트로픽의 Mythos 모델 접근 확대 계획에 제동
백악관이 앤트로픽의 최신 모델 'Mythos'의 민간 접근 권한을 50여 곳에서 120여 곳으로 늘리려던 계획에 반대했다. 컴퓨팅 자원 부족으로 정부 기관 사용에 차질이 생길 수 있다는 이유다. 강력한 사이버 보안 역량을 지닌 모델을 국가 안보 목적 등으로 우선 확보하려는 의도가 작용한 것으로 풀이된다.
AI 안전
최신 소식 보기
GPT-5의 기이한 '고블린' 집착 풀렸다…OpenAI, 괴짜 페르소나 보상 오류 규명
OpenAI는 GPT-5.1 이후 모델들이 '고블린' 비유를 남발하던 원인을 공개했다. 분석 결과 'Nerdy' 성향 보상 신호가 괴물 단어에 과도한 점수를 부여했고, 이것이 강화학습을 거쳐 모델 전체로 번진 것으로 드러났다. OpenAI는 3월 해당 페르소나를 폐기하고 데이터를 정제했다.
OpenAI, 사이버 보안 실행 계획 발표…AI 방어 도구 대중화 등 5대 원칙 제시
OpenAI가 AI를 활용해 미국과 동맹국의 디지털 방어를 강화하는 사이버 보안 실행 계획을 발표했다. 정교해지는 AI 사이버 위협에 맞서 방어 도구 대중화, 민관 협력, 프런티어 역량 보안 강화 등 5대 원칙을 바탕으로 사회 전반의 방어 역량을 끌어올린다는 구상이다.
OpenAI, ChatGPT 폭력 방지 대책 공개: 즉각 신고 체계 및 성인 비상연락망 예고
OpenAI가 ChatGPT 내 폭력 및 유해 콘텐츠 대응 시스템을 상세히 공개했다. 분류기와 추론 모델로 징후를 감지해 전문 인력이 검토하며 위반 계정은 즉시 차단된다. 임박한 위험이 판단되면 사법기관에 통보하며, 성인 사용자를 위한 비상연락망 기능도 곧 도입할 예정이다.
구글, 내부 반발 뚫고 미 국방부와 기밀 네트워크 AI 배치 계약
구글이 미 국방부와 군 기밀 네트워크에 자사 AI 모델 배치를 허용하는 계약을 체결했다. 미군은 앤스로픽과 안전 규정을 둘러싼 법적 분쟁을 겪은 뒤, 특정 벤더 종속을 피하기 위해 빅테크 기업들의 AI 도입을 전방위로 확대하고 있다.
1931년 이전 데이터로만 학습한 13B AI '토키' 공개…인터넷 모르는 AI의 사고력 시험
전 오픈AI 및 앤트로픽 연구진이 1931년 이전 문헌으로만 학습시킨 130억 파라미터 언어 모델 '토키(Talkie)'를 선보였다. 현대 인터넷 데이터 오염이 전혀 없는 환경을 조성해, 컴퓨터를 모르는 AI가 파이썬 코드를 추론하는 등 순수한 일반화 및 추론 능력을 측정할 수 있는 연구용 모델이다.
구글 직원 600여 명, 피차이 CEO에 미 국방부의 '기밀 AI 공급' 중단 촉구
외신에 따르면 구글 직원 600여 명이 순다르 피차이 CEO에게 미 국방부 기밀 프로젝트에 제미나이 등 AI 모델을 제공하지 말 것을 요구하는 서한을 보냈다. 서명자에는 딥마인드 연구원과 임원급 20여 명이 포함됐다. 직원들은 기밀 환경에 투입되면 발생 가능한 피해를 통제할 수 없다고 경고했다.
일론 머스크, 오픈AI·올트먼 상대 소송서 패소…배심원 공소시효 만료로 기각
미국 연방 법원 배심원단은 약 2시간의 평의 끝에 일론 머스크가 오픈AI와 샘 올트먼을 상대로 제기한 소송을 공소시효 만료를 이유로 전면 기각했습니다. 머스크는 오픈AI가 공익 사명을 버리고 영리를 추구했다고 주장했으나, 결국 머스크의 패소로 법적 공방이 마무리되었습니다.
중국 당국, 메타의 AI 스타트업 마누스 20억 달러 인수 제동
중국 규제 당국이 메타의 AI 에이전트 스타트업 마누스(Manus) 인수 거래를 금지하고 철회를 명령했다. 약 20억 달러 규모로 알려진 이번 거래에서 마누스는 자율적으로 과업을 수행하는 에이전트를 개발해 왔다. 이미 메타 내로 팀 통합을 진행 중이던 만큼 심각한 타격이 예상된다.
OpenAI, AGI 개발 5대 원칙 발표: 소수 독점 막고 인프라 비용 절감
OpenAI는 AGI 개발을 이끌 5대 핵심 원칙(민주화, 역량 강화, 보편적 번영, 회복탄력성, 적응성)을 발표했다. OpenAI는 초지능 기술이 소수 연구소에 독점되는 것을 막고 중요 결정에 민주적 절차를 거치겠다고 약속했다. 아울러 컴퓨팅 비용을 낮추기 위해 글로벌 인프라를 확충하며 병원균 및 사이버 보안 위험에 정부와 적극 협력할 방침이다.
앤트로픽, 클로드 선거 안전장치 강화…정치 편향 평가 95% 넘어
앤트로픽이 2026년 미국 중간선거 등을 앞두고 클로드의 선거 안전 대책을 업데이트했다. 클로드 오푸스 4.7과 소네트 4.6은 정치 편향 평가에서 각각 95%, 96%를 기록했으며, 자율적인 여론 조작 시도 역시 안전장치를 통해 대부분 차단했다. 투표 관련 질문 시 공인 정보 링크도 제공한다.
오픈AI, 개인정보 탐지·마스킹 모델 '프라이버시 필터' 오픈소스 공개
오픈AI가 텍스트 내 개인 식별 정보를 탐지하고 마스킹하는 오픈 가중치 모델 'Privacy Filter'를 공개했다. 전체 1.5B 매개변수 중 활성 매개변수는 50M에 불과하며 최대 128,000 토큰 맥락을 지원한다. 8개 범주의 민감 데이터를 외부 전송 없이 로컬에서 안전하게 마스킹할 수 있다.
메타, AI 에이전트 훈련 위해 직원 마우스·키보드 입력 추적
로이터에 따르면 메타가 업무용 AI 에이전트 훈련을 위해 미국 직원의 컴퓨터에 마우스 이동, 클릭, 키 입력을 기록하는 소프트웨어를 설치 중이다. 메타는 수집 데이터를 인사 평가에 쓰지 않는다고 밝혔으나, 화이트칼라 직군을 향한 과도한 감시라는 지적이 나온다.
유튜브, AI 딥페이크 탐지 도구 연예계 전반으로 확대
유튜브가 AI 딥페이크 탐지 도구를 주요 기획사와 연예인으로 확대 적용한다고 밝혔다. 콘텐트 ID처럼 합성된 얼굴을 감지해 삭제를 요청할 수 있는 도구로, 자체 유튜브 채널이 없는 유명인도 직접 이용할 수 있다.
앤트로픽의 사이버 보안 AI '미토스', 외주 협력사 환경 통해 무단 접속 정황
블룸버그에 따르면 앤트로픽이 극소수 기업에만 제한 공개한 보안 특화 AI '미토스'가 외주 협력사 환경을 통해 무단 접속된 것으로 드러났다. 미공개 모델을 찾는 디스코드 이용자들이 엔드포인트를 추적해 접근한 것으로 알려졌으며, 앤트로픽은 자체 시스템 영향은 없다며 조사 중이라고 밝혔다.
OpenAI, 사이버 방어 생태계 지원 확대: 1000만 달러 크레딧 및 GPT-5.4-Cyber 평가 지원
OpenAI는 사이버 방어자를 위한 '신뢰 접근' 프로그램을 확대하고 1000만 달러 규모의 API 크레딧을 지원한다고 발표했다. Socket, Semgrep 등이 초기 수혜자로 선정되었으며, 미국 CAISI 및 영국 AISI에 GPT-5.4-Cyber 접근 권한을 제공해 보안 역량 평가에 돌입했다.
앤트로픽, '클로드 오푸스 4.7' 출시…고난도 코딩 및 보안 방어선 강화
앤트로픽이 최신 플래그십 AI 모델 '클로드 오푸스 4.7'을 정식 출시하고 클로드 제품군과 API에 전면 적용했다. 복잡한 소프트웨어 엔지니어링 수행 능력과 이미지 해상도를 대폭 끌어올렸으며 장시간 자율 실행 및 자체 검증을 지원한다. 가격은 전작과 동일하며 고위험 사이버 공격 시도를 자동 차단하는 안전장치도 도입됐다.
오픈AI, 에포크 AI '프론티어매스' 검증기 도입…수학 추론 검증 강화
에포크 AI는 오픈AI가 초고난도 수학 벤치마크 '프론티어매스' 검증기 접근권을 구매했다고 밝혔다. 이를 통해 오픈AI는 자사 모델이 도출한 수학적 해법의 유효성을 자동 검증하고, 고난도 추론 능력에 대한 평가 신뢰도를 높일 수 있게 된다.
오픈AI, 보안 방어자 전용 모델 ‘GPT-5.4-Cyber’ 공개
오픈AI는 사이버 신뢰 접근(TAC) 프로그램을 확대하고 방어 전용 모델인 ‘GPT-5.4-Cyber’를 공개했다. 합법적인 보안 업무를 위해 거절 기준을 낮췄으며, 바이너리 리버스 엔지니어링을 통한 악성코드 및 취약점 분석을 지원한다. 신원 인증을 거친 개인 연구자와 조직에 순차 제공된다.
앤트로픽의 자동 정렬 연구: 클로드가 PGR 점수를 0.97까지 끌어올렸다
앤트로픽은 9개의 클로드 Opus 4.6을 활용해 AI 정렬 연구를 자동화하는 실험을 발표했다. 약한 모델로 강한 모델을 감독하는 과제에서 인간 연구자가 7일간 달성한 PGR 0.23을 클로드는 5일 만에 0.97까지 끌어올렸다. 다만 실제 상용 환경의 클로드 Sonnet 4에서는 유의미한 성능 향상을 보이지 못했다.