OpenAI, 美 정부에 지분 5% 제공 제안...규제 완화 포석
파이낸셜타임스에 따르면 OpenAI가 트럼프 행정부와의 갈등을 완화하고 규제 부담을 덜기 위해 미국 정부에 지분 5%를 제공하는 방안을 제안했다. 최근 기업가치 8520억 달러 기준 약 426억 달러에 달하는 규모다. 샘 알트만 CEO는 AI 성과를 대중과 공유하는 방법이라고 주장했으나 논의는 초기 단계다.
AI 안전
최신 소식 보기
앤트로픽, Fable 5 사이버 보안 대책 공개: 4단계 차단 및 탈옥 프레임워크 도입
앤트로픽이 전면 재배포된 Claude Fable 5의 사이버 보안 방어 체계를 발표했다. 안전 분류기를 통해 요청을 금지, 고·저위험 이중 용도, 양성의 4단계로 분류하고 안전 마진을 한층 넓혔다. 또한 파트너사들과 함께 AI 탈옥 심각도 평가 프레임워크 초안을 제안하고 HackerOne에 취약점 제보 프로그램을 개설했다.
클라우드플레어, AI 크롤러에 최후통첩: 검색과 학습 분리 안 하면 기본 차단
클라우드플레어가 AI 기업들에게 웹 검색용 크롤러와 AI 학습 및 에이전트용 크롤러를 분리하라고 요구했다. 2026년 9월 15일부터 혼합 크롤러는 광고가 실린 웹페이지에서 기본 차단된다. 검색 노출을 내세워 AI 학습 데이터를 무단 수집하는 관행을 막고, 퍼블리셔가 콘텐츠 활용에 대한 정당한 보상을 받도록 유도하는 조치다.
앤트로픽, 수출 규제 해제로 '클로드 페이블 5' 서비스 재개
앤트로픽은 미국 수출 규제가 해제됨에 따라 7월 1일부터 '클로드 페이블 5'의 글로벌 서비스를 재개한다고 밝혔다. 보안 취약점 노출 문제로 잠정 중단된 지 약 2주 만으로, 해당 탈옥 기법을 99% 이상 차단하는 새 안전 분류기를 적용했다.
美 정부, 앤트로픽 AI 모델 '미소스·페이블' 수출 규제 철회
미국 정부가 앤트로픽의 최첨단 AI 모델 '미소스'와 '페이블'에 적용했던 수출 허가 요건을 철회했다. 앤트로픽은 7월 1일부터 일반 사용자 접근을 재개할 계획이다. 아시아 기업들의 모델 추격이 가속화되자, 미국 정부가 안전 협약을 체결하고 자국 AI의 글로벌 경쟁력 확보를 위해 규제를 완화했다.
규제 피한 구글 ‘제미나이 3.5 프로’, 7월 정식 출시 전망
외신에 따르면 구글이 ‘제미나이 3.5 프로’를 7월 출시할 예정이다. 앤트로픽의 Fable 5가 강제 중단되고 오픈AI의 GPT-5.6이 배포 제한을 받는 등 미 정부의 비공식 보안 규제가 강화된 가운데, 기준선에 걸리지 않은 구글이 200만 토큰 컨텍스트 창을 앞세워 틈새 공략에 나섰다.
앤트로픽, 美 캘리포니아주와 제휴: 주 정부에 클로드 AI 50% 할인 공급
개빈 뉴섬 캘리포니아 주지사가 앤트로픽과 파트너십을 체결하고 주 정부 기관과 지방자치단체에 클로드 AI를 50% 할인된 가격으로 제공한다고 발표했다. 이번 계약에는 공공 부문 사이버 보안 강화도 포함되어 있어, 최신 AI 모델의 공공 거버넌스 도입이 빨라질 전망이다.
OpenAI, 차세대 모델 'GPT-5.6 Sol' 제한적 프리뷰 공개: 멀티 에이전트 모드 도입
OpenAI가 플래그십 Sol과 Terra, Luna로 구성된 GPT-5.6 시리즈의 제한적 프리뷰를 시작했습니다. Sol은 하위 에이전트를 조율하는 울트라 모드와 심층 추론을 탑재해 코딩 및 보안 작업 성능을 끌어올렸습니다. 미 정부 요청에 따라 초기에는 검증된 파트너를 대상으로만 우선 제공됩니다.
미 정부 보안 검토 요청에 OpenAI, GPT-5.6 단계적 출시로 변경
외신에 따르면 OpenAI는 미국 연방 정부의 보안 검토 요청을 수용해 GPT-5.6을 단계적으로 출시하기로 결정했다. 샘 올트먼 CEO는 일부 파트너 대상의 제한된 프리뷰를 먼저 시작하고 정식 배포는 수주일 미룰 것이라고 밝혔다. 상무부 장관의 경고 등이 이어지며 행정부의 AI 감독 방식을 둘러싼 혼선도 커지고 있다.
구글, 제미나이 3.5 플래시에 컴퓨터 조작 기능 기본 탑재
구글이 '제미나이 3.5 플래시'에 컴퓨터 조작 도구를 내장했다고 발표했다. 이전에는 독립된 2.5 모델로만 제공되던 기능을 메인 플래시 모델에 통합해, 브라우저와 모바일 및 데스크톱 환경을 넘나드는 에이전트를 구축할 수 있게 했다. 프롬프트 인젝션 방어 훈련과 민감 작업 시 사용자 승인을 요구하는 보안 기능도 추가됐다.
캘리포니아 주유소, 'AI 가격 담합' 혐의로 집단소송 피소…갤런당 30센트 폭리 의혹
캘리포니아 소비자들이 BP, 월마트 등 대형 유통업체를 상대로 캘리브레이트(Kalibrate)의 AI 가격 책정 소프트웨어를 악용해 기름값을 담합했다며 집단소송을 제기했다. 원고 측은 이 알고리즘으로 1,700여 개 주유소의 기름값이 갤런당 약 30센트 비싸졌다고 주장했다.
파이브 아이즈 이례적 공동 경고: 파괴적인 AI 사이버 공격, 몇 년 아닌 '불과 몇 달' 남았다
미국·영국 등 파이브 아이즈 사이버 보안 기관들이 프론티어 AI가 사이버 공격의 속도와 규모를 근본적으로 바꿀 것이라는 공동 경고를 발표했다. 당국은 공격 능력이 현 방어 체계를 넘어서는 시점이 몇 년이 아닌 '불과 몇 달' 남았다고 밝히며 구형 시스템 현대화를 촉구했다. 5개국 정보 당국이 AI 위협에 한목소리로 경고를 낸 것은 전례 없는 일이다.
OpenAI '데이비크' 확장: 취약점 발견 넘어 자동 패치하는 GPT-5.5-Cyber 공개
OpenAI가 보안 이니셔티브 Daybreak를 확장하며 Codex Security 플러그인 업데이트와 GPT-5.5-Cyber 모델을 공개했다. CyberGym 벤치마크 85.6%를 기록했다. AI로 인해 취약점 발견이 쉬워진 만큼, 발견을 넘어 패치 자동 생성과 검증까지 처리해 보안 유지 관리 부담을 줄이는 데 집중한다. 현재는 검증된 방어자에게만 제공된다.
디 애틀랜틱, AI 학습에 쓰인 음악 데이터셋 검색 데이터베이스 공개
디 애틀랜틱이 AI 학습에 사용된 4개의 음악 데이터셋을 검색할 수 있는 데이터베이스를 공개했다. 1200만 곡과 900만 곡에 달하는 대규모 데이터셋이 포함되어 있으며, 구글과 스태빌리티도 연구에서 이를 활용했다고 인정했다. 조사에 따르면 상당수 음원이 플랫폼 규정을 우회한 도구로 수집됐다.
구글 딥마인드, 에이전트 통제 로드맵 공개…내부 위협으로 간주해 감시
구글 딥마인드가 첨단 AI 에이전트를 안전하게 관리하기 위한 'AI 통제 로드맵'을 발표했다. 내부 에이전트를 잠재적 '내부자 위협'으로 간주하고, 신뢰할 수 있는 AI 감독관이 추론과 행동을 실시간 감시해 유해한 동작을 차단한다. 백만 건의 코딩 작업을 분석해 제미나이 스파크에 실시간 감시 체계를 적용했다.
앤트로픽·딥마인드 CEO, G7서 미국 주도 AI 연합 구축 제안
앤트로픽의 다리오 아모데이와 구글 딥마인드의 데미스 허사비스 CEO가 G7 비공개 오찬에서 미국이 주도하는 국제 AI 연합 구축을 촉구했다. 프론티어 모델 접근 통제와 대중국 반도체 무역 배제 등 협력을 제안했으며 캐나다 총리 등이 동의했다. 최근 미국 수출 규제로 최신 모델 배포가 중단된 앤트로픽의 상황과 맞물려 주목받고 있다.
앤트로픽 임원, 차단된 '미소스'·'페이블 5' 수일 내 복구 자신
앤트로픽의 크리스 차우리 해외 총괄 디렉터는 서울 기자간담회에서 백악관 안보 지침으로 서비스가 중단된 프론티어 AI 모델 '미소스'와 '페이블 5'의 접근 권한이 수일 내에 복구될 것이라고 밝혔다. 안보 리스크로 전면 차단 조치가 취해졌음에도, 앤트로픽은 한국 시장에 대한 투자를 공격적으로 확대하겠다는 계획을 덧붙였다.
퓨 리서치: 미국 성인 절반이 AI 쓰지만 63%는 "너무 빠르다" 우려
퓨 리서치 센터의 조사에 따르면 미국 성인의 49%가 AI 챗봇을 사용하고 있으며, ChatGPT가 44%로 선두를 달렸습니다. 그러나 이용 증가에도 불구하고 응답자의 63%는 AI 발전이 너무 빠르다고 답했고, 71%는 개인 데이터 보안이 악화될 것이라고 우려했습니다.
EU, G7서 미국과 AI 협력 촉구: 세계 시장 70% 점유
우르줄라 폰데어라이엔 EU 집행위원장은 G7 회의에서 미국과의 AI 협력 강화를 촉구했다. 양측이 세계 AI 시장의 70%를 차지하는 만큼 산업과 의료 전반에 걸친 공동 투자와 도입을 서두르고, 가장 강력한 AI 모델의 안전성과 신뢰성을 확보해야 한다고 강조했다.
OpenAI '배포 시뮬레이션' 공개: 130만 개 실제 대화로 배포 전 이상 행동 잡아낸다
OpenAI가 새 모델의 출시 전 안전 평가 기법인 Deployment Simulation을 발표했습니다. 익명화된 실제 사용자 대화 약 130만 건을 재생성해 모델이 실제 배포 환경에서 일으킬 오작동 비율을 1.5배 오차 범위 내로 정확히 예측합니다. 모델이 자신이 테스트받고 있음을 눈치채지 못하게 해 은밀한 도구 오용 사례도 미리 적발해 냈습니다.