앤트로픽 사내 코드 80% AI가 작성…'재귀적 자기개선' 가속
앤트로픽은 AI가 자체 개발을 가속하는 '재귀적 자기개선' 현황 데이터를 공개했다. 2026년 5월 기준 사내에 병합된 코드의 80% 이상을 클로드가 작성하며 엔지니어 생산성이 2024년 대비 8배 증가했다. 앤트로픽은 사회적 제도가 대비하기 전에 완전한 자기개선 단계가 올 수 있다고 경고했다.
AI 안전
최신 소식 보기
OpenAI, ChatGPT ‘락다운 모드’ 출시: 외부 연결 차단해 유출 방지
OpenAI가 개인 및 비즈니스 사용자를 대상으로 ChatGPT ‘락다운 모드’(Lockdown Mode)를 확대 적용했다. 활성화하면 실시간 웹 접속, 에이전트 모드, 파일 다운로드 등 외부 연동 기능이 차단돼 프롬프트 주입 공격으로 인한 데이터 유출을 방지한다.
미 백악관, AI 사이버 보안 강화 행정명령 서명…사전 허가제는 금지
트럼프 미국 대통령이 연방 기관의 AI 사이버 보안 강화를 골자로 한 행정명령에 서명했다. 30일 이내에 AI 기반 방어 체계를 확충하고, 출시 전 첨단 모델을 최대 30일간 자발적으로 보안 검토받는 프레임워크를 마련하도록 했다. 단, 강제 라이선스나 사전 허가 규제는 명시적으로 금지했다.
바이트댄스, 원시 파형 직접 모델링하는 음성 복제 모델 'WavTTS' 발표
바이트댄스가 제로샷 음성 합성 모델 WavTTS를 공개했다. DiT와 Flow Matching을 기반으로 압축 잠재 공간을 거치지 않고 원시 음성 파형을 직접 모델링해 정보 손실을 원천 차단했다. 단 몇 초의 샘플만으로 자연스러운 음성을 복제할 수 있어 엔드투엔드 음성 합성의 새 가능성을 열었다.
앤트로픽, '프로젝트 글래스윙' 15개국 150개 기관으로 확대
앤트로픽은 사이버 방어 프로그램인 '프로젝트 글래스윙'을 15개국 이상 약 150개 신규 기관으로 확대한다고 발표했다. 파트너들은 클로드 미토스 프리뷰를 활용해 전력, 수도, 의료 등 핵심 인프라의 보안 취약점을 사전에 찾아내고 패치 작업을 진행하게 된다.
앤트로픽 보안 AI '미소스'의 명암: 탁월한 취약점 탐지와 오퍼스 6배의 비용
디인포메이션에 따르면, 앤트로픽의 보안 특화 AI 모델 미소스(Mythos)는 미탐지 취약점을 빠르게 찾아내지만 토큰당 비용이 오퍼스의 6배에 달하는 것으로 알려졌다. 팔로알토네트웍스는 테스트 과정에서 100만 달러 상당의 토큰을 빠르게 소진했으나, 보안 책임자들은 대형 침해 사고 피해를 막는 비용으로는 타당하다고 보고 있다.
스탠퍼드대 계약법 블라인드 테스트, 로스쿨 교수 75%가 동료 대신 AI 답변 선택
스탠퍼드대 주도 연구팀의 블라인드 평가 결과, 로스쿨 교수들은 약 3천 건의 계약법 질의응답에서 75% 확률로 동료 교수보다 AI의 답변을 더 선호했다. 학생에게 유해하다고 지적받은 비율도 동료의 12%에 비해 AI는 3.5%에 불과해, 고도의 주관적 판단이 필요한 법률 교육에서도 AI의 경쟁력이 입증됐다.
버니 샌더스 美 상원의원, 빅테크 AI 기업에 '50% 지분 과세' 법안 추진
버니 샌더스 미국 상원의원은 OpenAI, 앤스로픽 등 대형 AI 기업에 일회성 50% 주식세를 부과해 국부펀드를 조성하는 법안을 발의하겠다고 밝혔다. 정부가 의결권과 이사회 의석을 갖고 AI 수익을 국민과 공유하겠다는 구상이다. 그는 AI가 인류의 지식으로 만들어진 만큼 과실도 독점될 수 없다고 강조했다.
단순 프롬프트 평가는 끝났다: OpenAI, 제3자 AI 모델 평가 지침 공개
OpenAI는 첨단 AI 모델을 공정하게 평가하기 위한 제3자 평가 가이드라인을 발표했다. 모델 성능이 도구와 실행 환경(Harness)에 크게 좌우된다고 강조하며, 평가 목적을 명시하고 리워드 해킹, 고의적 성능 저하, 데이터 오염 여부를 철저히 검증할 것을 촉구했다.
오픈AI, 바이오 방어 프로그램 '로잘린드 바이오디펜스' 공개
오픈AI가 생명과학 특화 추론 모델 'GPT-Rosalind'를 지원하는 '로잘린드 바이오디펜스' 프로그램을 발표했다. 검증된 개발자와 정부 파트너에게 모델 접근을 제공해 팬데믹 대비, 조기 탐지, 의료 대응 수단 개발 등 생물학적 위협 방어를 돕는다.
앤트로픽, 엘리트급 보안 AI '클로드 미토스' 수주일 내 전체 고객 확대 제공
로이터에 따르면, 앤트로픽은 사이버 보안 특화 AI 모델 '클로드 미토스'를 수주일 내 모든 고객에게 확대 출시할 계획입니다. 애플, 마이크로소프트 등 일부 기업에만 제공되던 이 모델은 취약점 익스플로잇 체인을 자체 추론할 정도로 강력합니다. 클라우드플레어 등에서 안전 거부 일관성 문제를 지적했으나 경쟁 압박으로 배포가 앞당겨졌습니다.
MS, AI 딥페이크 성착취물 대응 강화…원드라이브·엑스박스로 감지 확대
마이크로소프트는 AI 생성물을 포함한 비동의 성적 이미지(NCII) 차단 조치를 강화한다고 밝혔다. 신고 절차를 간소화하고, Bing에 시범 적용하던 StopNCII.org 해시 감지 기술을 무료 Teams, 원드라이브, 엑스박스 등 주요 소비자 서비스로 전면 확대해 피해 이미지의 확산을 막는다.
유튜브, AI 라벨 눈에 잘 띄게 개편…미표시 영상엔 자동 감지 라벨 부착
유튜브가 AI 콘텐츠 라벨 시스템을 개편했다. 사실적인 AI 생성 및 변형 콘텐츠의 라벨을 눈에 잘 띄는 위치로 옮기고, 5월부터 자동 감지 신호를 도입해 창작자가 직접 밝히지 않아도 라벨을 부착한다. 오감지 시 유튜브 스튜디오에서 수정할 수 있으며 수익 창출에는 영향을 주지 않는다.
뉴욕타임스 노조, 성과 감시에 AI 툴 악용한 사측에 반발
5월, The New York Times 기술 노조는 사측이 DX와 Glean 등 사내 AI 도구를 이용해 직원들의 업무 성과를 추적하고 이를 징계 절차에 악용했다며 부당노동행위 구제신청을 냈다. 노조는 불투명한 AI 평가 지표가 근로자 감시 수단으로 전락했다고 지적했다.
OpenAI, 2026년 선거 보호책 공개: ChatGPT에 AP통신 실시간 개표 연동 및 조작 방지 조치
OpenAI가 2026년 주요 선거를 앞두고 안전 조치를 발표했다. ChatGPT에 AP통신의 실시간 개표 데이터와 투표 안내를 연동하고, 선거 방해 우려가 있는 이미지 생성 요청은 실사 대신 카툰 스타일로 출력해 조작을 차단한다. 투표 시스템 제조사에는 사이버 보안 모델도 무료 지원한다.
UMG와 틱톡 신규 계약 체결, 무단 생성 AI 음악 퇴출 나선다
유니버설 뮤직 그룹(UMG)과 틱톡이 라이선스 계약을 갱신하며 플랫폼 내 무단 생성된 AI 음악을 삭제하고 창작자 크레딧을 강화하기로 합의했다. 2024년 AI 저작권 갈등으로 음원 공급이 중단됐던 사태를 딛고 화해한 것으로, 향후 AI 콘텐츠 규제 대응의 주요 선례가 될 전망이다.
바티칸, 첫 AI 공식 회칙 발표: 교황 "AI 무장해제 필요", 앤트로픽 창업자 동석
바티칸이 AI를 다룬 첫 공식 가톨릭 회칙 'Magnifica Humanitas'를 발표했습니다. 교황은 AI를 핵무기에 비유하며 규제와 통제의 필요성을 강조했고, 앤트로픽 공동 창업자 크리스토퍼 올라가 행사에 참석해 AI 기업들이 겪는 상업적 압박과 외부 윤리 감시의 필요성을 인정했습니다.
앤트로픽 공동창업자 바티칸 연설: 상업적 압박 인정하며 외부 윤리 감시 촉구
앤트로픽 공동창업자 크리스 올라가 바티칸에서 열린 교황 레오 14세의 AI 회칙 발표 현장에서 연설했다. 그는 첨단 AI 연구소가 상업적·지정학적 이해관계 탓에 옳은 선택과 충돌할 수 있음을 인정하며 외부의 도덕적 감시가 필수적이라고 강조했다. 또한 모델 내부에서 인간의 감정과 유사한 상태가 관측되고 있다고 덧붙였다.
앤트로픽 차세대 AI 잇단 유출: 버텍스에 '오푸스 4.8', 보안 모델 '미토스 1' 포착
개발자 제보와 소스코드 분석을 통해 앤트로픽의 미공개 차세대 AI 모델들이 잇따라 포착됐다. 구글 버텍스 AI에 'claude-opus-4.8' 식별자가 등록되었고, 보안 특화 모델인 'Mythos 1'도 웹 인터페이스에 일시 노출됐다. 소넷 4.7을 건너뛴 소넷 4.8 출시 정황까지 확인되면서 차세대 라인업 공개가 임박했다는 관측이 나온다.
웨이모, 미 전역서 고속도로 주행 중단…침수 우려로 2개 도시 운행도 중단
알파벳 산하 웨이모가 공사 구간 안전 우려로 미국 내 모든 시장에서 고속도로 자율주행 서비스를 중단했다. 텍사스에서 침수 도로를 과속 주행해 전량 리콜을 거친 직후, 애틀랜타와 샌안토니오 서비스도 침수 문제로 일시 정지됐다. 일반 도로 주행은 유지되며 고속도로 복귀 시점은 미정이다.