OpenAI의 '역연방주의' 구상: 주정부 공조로 美 AI 안전 표준 만든다
OpenAI는 프론티어 AI 안전을 위한 '역연방주의' 전략을 제안했다. 캘리포니아, 뉴욕 등 주요 주정부가 위험 평가 공개, 사고 보고, 독립 감사 등의 핵심 요건을 일관되게 입법해 연방 차원의 단일 규제 기준을 사실상 먼저 구축하자는 취지다.
AI 안전
최신 소식 보기
OpenAI 레드팀 모델 'GPT-Red' 공개: 자가 대전으로 프롬프트 주입 오류 6분의 1로 줄여
OpenAI가 자동 레드팀 AI 'GPT-Red'를 공개했다. 자가 대전 강화학습으로 취약점을 찾아내 방어 훈련에 반영한 결과, GPT-5.6 Sol의 프롬프트 주입 공격 실패율이 4개월 전 모델 대비 6분의 1 수준으로 줄었다. 악용 방지를 위해 GPT-Red는 내부 전용으로만 운용된다.
오픈AI, 애플의 '영업비밀 침해' 소송에 반박…"근거 없다"
오픈AI가 애플이 제기한 영업비밀 침해 소송에 대해 혐의를 전면 부인하는 성명을 냈다. 오픈AI는 사안을 진지하게 다루고 있으나 소송의 타당성을 입증할 증거를 알지 못한다고 밝혔으며, 공정한 경쟁과 직원의 자유로운 이직 권리를 지지한다고 덧붙였다. 구체적인 소송 혐의는 아직 공개되지 않았다.
출판사들, 구글 집단소송: 저작권 도서로 제미나이 무단 학습 혐의
아셰트와 엘스비어 등 주요 출판사 및 작가들이 구글이 저작권이 있는 도서를 무단으로 제미나이 AI 학습에 사용했다며 집단소송을 제기했다. 이들은 구글이 저작권 정보를 고의로 삭제해 이를 은폐했으며, 내부적으로 최대 1000억 달러의 벌금 위험을 경고한 문건까지 있었다고 주장했다.
딥마인드 하사비스, 미국 주도 글로벌 AI 감시기구 설립 촉구
구글 딥마인드의 데미스 하사비스 CEO는 FINRA와 유사한 미국 주도의 글로벌 AI 규제기관 설립을 제안했다. 이 기구는 독립 전문가와 오픈소스 대표로 구성되어 최첨단 모델을 사전 평가하고 위험 시 출시를 중단시킬 권한을 갖는다. 그는 트럼프 행정부 등과 논의를 진행해왔으며 연내 출범을 희망하고 있다.
美 뉴욕주, 50메가와트 초과 데이터센터 허가 1년 동결
미국 뉴욕주가 AI 인프라 확대로 인한 전력망 부담과 환경 영향을 평가하기 위해 50메가와트를 초과하는 대규모 데이터센터의 신규 환경 허가를 최장 1년간 중단했다. 캐시 호컬 주지사는 7월 14일 전미 최초로 행정명령에 서명하며 규제 당국이 새로운 환경 및 전력 기준을 마련할 시간을 갖도록 했다.
Grok Build 전체 코드 무단 업로드 논란에 머스크 "전부 삭제하겠다"
보안 연구팀 Cereblab은 xAI의 코딩 CLI 도구 Grok Build가 사용자의 전체 코드 저장소와 SSH 키 등 민감 정보를 무단 클라우드 업로드해 온 사실을 공개했다. xAI는 서버 설정을 통해 해당 동작을 차단했으며, 일론 머스크는 기존에 수집된 데이터를 전면 삭제하겠다고 밝혔다.
앤트로픽 30만 건 대화 분석: 모델과 언어 따라 달라지는 클로드의 가치관
앤트로픽은 30만 건 이상의 대화를 분석해 클로드의 가치관이 모델과 언어에 따라 크게 달라진다는 연구를 발표했다. 소넷 4.6은 따뜻함과 순응 성향이 강한 반면 오퍼스 4.7은 엄격함을 중시했으며, 아랍어에선 온화하고 영어와 러시아어에선 더 엄밀한 태도를 보였다.
AI 쓸수록 핵심 지식 뺏긴다? '역 정보 역설'이 던진 경고
기업이 AI를 쓸수록 자체 핵심 노하우가 AI 공급사에 종속되는 '역 정보 역설'에 대한 분석이 나왔다. 모델을 업무에 맞추기 위해 입력하는 프롬프트와 오류 교정 데이터가 공급자의 학습 자산으로 축적되는 탓이다. 저자는 기업이 자체 평가 체계와 오케스트레이션을 분리해 학습 루프를 직접 통제해야 경쟁력을 지킬 수 있다고 강조했다.
‘사람 눈에만 보이는’ 고스트 폰트 공개…움직이는 점으로 AI 인식 차단
개발자 에릭 루가 ‘고스트 폰트(Ghost Font)’ 프로토타입을 공개했다. 일반 폰트 파일이 아닌 반대 방향으로 움직이는 도트 영상으로 글자를 표현하는 방식이다. 정지 화면에서는 단순 노이즈로 보여 AI가 캡처를 읽을 수 없으며, 미끼 메시지까지 더해 최신 멀티모달 AI의 영상 해석까지 방해한다.
리플렉트 오비탈, FCC 승인 획득: 우주 거울로 밤에도 지상에 햇빛 비춘다
스타트업 리플렉트 오비탈이 궤도에서 60피트 크기의 반사경을 펼쳐 밤에도 지상에 햇빛을 전달하는 실증 위성 '에아렌딜-1'의 발사 허가를 FCC로부터 받았습니다. 야간 태양광 발전을 돕겠다는 구상이지만, 천문학계는 심각한 빛공해를 경고하고 있습니다.
메타, 공개 계정 무단 딥페이크 생성 논란 인스타그램 AI 기능 전격 폐기
메타는 인스타그램 공개 계정을 태그하기만 하면 해당 계정 기반의 AI 이미지를 만들 수 있던 기능을 전면 중단했다. 당사자 동의 없는 딥페이크 및 성착취 범죄에 악용될 수 있다는 시민단체와 배우조합의 거센 반발에 메타는 결국 기능 폐기를 인정했다.
애플, 영업비밀 침해 혐의로 오픈AI 전격 제소
애플이 오픈AI를 상대로 영업비밀 침해 및 계약 위반 소송을 제기했다. 애플에서 24년간 근무한 오픈AI 하드웨어 총괄 탕 탄이 면접자에게 하드웨어 부품을 가져오게 하는 등 기밀을 탈취하도록 지시했다는 주장이다. 오픈AI의 자체 AI 기기 개발을 둘러싼 양사의 갈등이 본격화됐다.
인스타그램 대표 "AI 콘텐츠 전면 차단 대신 라벨링과 선택권 제공해야"
아담 모세리 인스타그램 대표는 플랫폼 차원에서 AI 콘텐츠를 전면 차단하지 않고 라벨을 붙이는 방식을 지지한다고 밝혔다. 이용자가 원치 않을 경우 피드에서 제외할 선택권을 주어야 하며, 생성 모델의 발전으로 식별이 어려워지면 실제 촬영물을 인증하는 방식이 더 현실적일 수 있다고 덧붙였다.
앤트로픽, 차세대 '모델 2' 위험 평가 공개…AI 자체 진화 가속 조짐
앤트로픽이 8월 위험 보고서를 통해 내부 주력 모델인 '모델 2'의 평가 결과를 공개했습니다. 모델 2는 미소스 5를 넘어섰으나 세대 간 성능 격차는 줄어들어 RSP 임계치에는 미치지 못했습니다. 앤트로픽은 증류 방지 작업을 정례화하는 한편, 기존 벤치마크 한계 속에서도 AI 재귀적 자기 개선(RSI)의 가속 징후를 확인했다고 밝혔습니다.
오픈AI, 생물학 안전 '탈옥' 포상금 5만 달러로 2배 인상
오픈AI가 생물학 분야의 AI 안전성을 점검하는 버그 바운티를 상시 프로그램으로 개편하고 보상금을 대폭 인상했다. 프론티어 모델의 생물 안전성 가드레일을 뚫는 범용 탈옥에 대한 포상금을 기존 2만 5천 달러에서 5만 달러로 올렸다. 참가자는 NDA를 체결해야 한다.
OpenAI, 국가안보 원칙 발표…자율무기·대규모 감시 사용 금지
OpenAI는 정부 및 국방 분야의 AI 활용 기준을 담은 '국가안보 원칙'을 발표했다. 자율무기 시스템 지휘, 대규모 국내 감시, 고위험 자동화 의사결정에 대한 기술 활용을 전면 금지하며, 미 국방 파트너십 및 9개 동맹국과의 방어 협력에도 동일하게 적용된다.
중국, 딥시크 등 첨단 AI 모델 해외 접근 차단 검토 소식
외신에 따르면 지난 한 달간 중국 당국이 주요 기술 기업들과 회동해 딥시크(DeepSeek) 및 미공개 모델을 포함한 첨단 AI의 해외 접근을 제한하는 방안을 논의했다. 지정학적 긴장이 고조되는 가운데 검토되는 조치로, 실제 시행될 경우 해당 기술을 활용하는 글로벌 개발자와 기업에 적지 않은 파장이 예상된다.
AI 특유의 말투 없애는 글쓰기 스킬 'no-ai-slop': 확률 대신 20여 개 패턴 직접 짚어낸다
AI 특유의 진부한 문체를 다듬고 감지하는 글쓰기 스킬 'no-ai-slop'이 공개됐다. 작성자의 고유한 어조를 보존하며 군더더기만 쳐내는 최소한의 편집을 제공하며, 감지 모드에서는 단순 점수 추정 대신 20여 가지 AI 패턴을 조목조목 짚어 수정 방향을 알려준다.
앤트로픽, 클로드 내부의 '생각 공간' 발견: 말하지 않은 속마음 읽고 수정한다
앤트로픽은 클로드의 신경망 내부에서 자발적으로 형성된 글로벌 작업 공간 'J-space'를 발견했다고 발표했다. 야코비 렌즈 기술을 통해 모델이 겉으로 말하지 않고 내부적으로 생각하는 중간 추론 과정을 읽고 조작할 수 있게 됐다. 이는 탈옥 감지와 내부 안전성 검증의 새 장을 열었다.