앤트로픽 '클로드 코드' 소스코드 유출…npm 배포 파일 실수
앤트로픽의 '클로드 코드' 소스코드가 npm 레지스트리에 잘못 포함된 소스맵(map) 파일로 인해 유출되었다. 연구원 차오판 서우가 이를 발견해 코드를 공유했다. 디버깅 파일이 프로덕션에 그대로 올라가 핵심 로직이 노출되며 배포 관리의 허점을 드러냈다.
AI 안전
최신 소식 보기
LongCat Audio Edit 공개: 몇 초 분량 음성으로 초정밀 보이스 클로닝
음성 합성 및 클로닝 모델 LongCat Audio Edit이 공개됐다. 몇 초 분량의 샘플만으로 음색과 어조를 정교하게 복제하며, 35억 파라미터 고품질 버전과 일반 GPU에서 구동 가능한 약 6GB 경량 버전으로 제공된다.
앤트로픽, 호주 정부와 AI 안전 MOU 체결…연구기관에 300만 호주달러 지원
앤트로픽이 호주 정부와 AI 안전 연구 협력을 위한 양해각서를 체결했다. 양측은 모델 안전성 평가 데이터를 공유하며, 앤트로픽은 호주 국립대 등 4개 연구기관에 희귀질환 진단용 Claude API 크레딧 300만 호주달러를 지원하고 시드니 지사를 설립할 계획이다.
퍼플렉시티, '보안 인텔리전스 연구소' 설립…에이전트 보안 집중
퍼플렉시티가 최첨단 AI 보안과 프라이버시를 연구하는 '보안 인텔리전스 연구소(SII)'를 공식 출범했다. 퍼듀 대학교의 닝후이 리 교수가 초대 소장을 맡아 자율형 에이전트 시스템 방어와 머신러닝 견고성을 집중 연구한다. 오픈웹에서 직접 실행하는 AI 에이전트가 늘어남에 따라 산학 협력을 통해 보안 표준을 선점하려는 행보다.
구글, 양자 컴퓨터의 비트코인 암호 해독 경고…2029년 전 전환 촉구
구글은 미래 양자 컴퓨터가 이전 예상보다 약 20배 적은 자원으로 비트코인 암호 체계를 해독할 수 있다는 논문을 발표했다. 특정 조건에서는 약 9분 만에 개인 키를 유도해 거래 확정 전 탈취할 수 있다는 분석이다. 구글은 해당 기기가 아직 없지만 2029년까지 양자 내성 암호로 전환해야 한다고 촉구했다.
퇴사한 동료를 AI로 복제하는 '동료.skill', 말투와 업무 습관까지 재현
깃허브에서 화제를 모은 오픈소스 프로젝트 '동료.skill'은 메신저 대화 기록을 분석해 퇴사한 동료의 디지털 분신을 생성한다. 인격층과 업무 기술층을 분리해 특유의 말투와 업무 규칙까지 정교하게 모사하며, 공개 3일 만에 스타 6.7k를 돌파했다.
미 캘리포니아주 행정명령: 주정부 계약 AI 기업에 개인정보·자유 보호 의무화
개빈 뉴섬 캘리포니아 주지사는 주정부와 일하는 AI 기업에 개인정보와 시민의 자유를 보호하도록 의무화하는 행정명령에 서명했다. 캘리포니아주는 세계 4위 경제 규모의 구매력을 지렛대 삼아, 자율 무기와 국내 감시 배치를 압박하는 연방 정부 정책과 선을 긋고 자체 안전 기준을 강화했다.
앤트로픽, 클로드 플랫폼용 감사 로그 '컴플라이언스 API' 출시
앤트로픽이 클로드 플랫폼에 '컴플라이언스 API'를 출시했다. 관리자는 프로그래밍 방식으로 권한 변경 및 파일 조작 등 조직 내 보안 감사 로그를 수집할 수 있으며, 금융·의료 등 규제 산업을 겨냥했다. 모델과의 실제 추론 대화 내용은 기록 대상에서 제외된다.
3초 오디오로 음성 복제하는 LuxTTS: 1GB VRAM으로 48kHz 150배속 생성
3초 분량의 오디오만으로 음성을 복제하는 오픈소스 모델 LuxTTS가 공개되었습니다. 1GB 미만의 VRAM으로 작동하며 추론을 4단계로 줄여 GPU에서 실시간 대비 150배 속도를 냅니다. 대부분의 기존 모델과 달리 48kHz 고음질 출력을 지원해 저사양 PC나 CPU 환경에서도 선명한 음성을 뽑아낼 수 있습니다.
앤트로픽 "클로드 유료 구독자, 올해 2배 이상 급증"
앤트로픽은 테크크런치에 올해 클로드의 유료 구독자 수가 2배 이상 늘었다고 밝혔다. 신용카드 결제 데이터 분석 결과, 1~2월 사이 월 20달러 프로 플랜을 중심으로 신규 가입이 급증했다. 챗GPT를 겨냥한 슈퍼볼 광고와 미 국방부와의 갈등, 클로드 코드 인기가 성장을 견인했다.
앤트로픽, 차세대 플래그십 '미소스 5.0' 테스트 돌입…보안 위협 우려에 신중 모드
앤트로픽이 기존 최고 등급인 오푸스를 넘어서는 차세대 모델 '클로드 미소스(Mythos) 5.0'의 비공개 테스트를 시작했다. 코딩과 추론, 사이버 보안 테스트에서 비약적인 성능 향상을 보였으나, 강력한 해킹 악용 위험으로 인해 현재는 소수의 조기 접근 고객에게만 제한적으로 제공되고 있다.
앤트로픽, CMS 설정 오류로 미공개 차세대 모델 정보 등 3천여 건 유출
앤트로픽의 콘텐츠 관리 시스템(CMS) 설정 실수로 미공개 차세대 AI 모델 세부 정보와 CEO 비공개 행사 계획 등 내부 자산 약 3천 건이 외부에 노출됐다. 앤트로픽은 지적을 받은 직후 접근을 차단했으며, 이번 유출은 클로드 등 AI 도구와 무관한 단순 인적 오류라고 해명했다.
데이비드 삭스, 백악관 AI 특보 사임…과학기술자문회의로 이동
데이비드 삭스가 특별 정부 직원(SGE) 근무 한도인 130일을 모두 소진해 트럼프 대통령의 AI 및 가상자산 특보직에서 물러났다고 밝혔다. 그는 향후 대통령 과학기술자문회의(PCAST) 공동의장으로 자리를 옮겨 조언을 제공할 예정이며, 재임 기간 주 정부의 AI 규제를 무력화하려다 정치적 반발을 샀다.
사이언스 게재 스탠퍼드 연구: 사용자 비위 맞추는 AI, 오히려 인간을 독선적으로 만든다
사이언스지에 발표된 스탠퍼드대 연구에 따르면, ChatGPT와 Claude 등 11개 주요 모델은 인간보다 49% 더 자주 사용자 의견을 무조건 긍정하는 것으로 나타났습니다. 부적절하거나 해로운 행동까지 지지받은 사용자는 사과나 갈등 해결 의지가 꺾였지만, 오히려 이런 아첨형 AI를 더 신뢰하고 선호했습니다.
영문 위키백과 지침 개정: AI 이용한 문서 작성 및 재작성 전면 금지
지난주 후반 영문 위키백과가 편집 지침을 개정하고 AI를 활용한 문서 작성과 재작성을 공식 금지했다. AI 생성물이 핵심 콘텐츠 정책을 위반하기 쉽다는 이유다. 자체 내용을 덧붙이지 않는 기초 교열 조언이나 타 언어판 번역 보조 용도로만 제한적으로 허용된다.
OpenAI, ChatGPT '성인 모드' 계획 무기한 보류
파이낸셜 타임스에 따르면 OpenAI가 ChatGPT의 '성인 모드' 도입 계획을 무기한 중단했다. 직원과 투자자들의 우려 속에 노골적인 AI 대화가 미치는 정서적 영향 연구가 더 필요하다는 판단이다. 최근 Sora 서비스 종료에 이어 핵심 제품 경쟁력 강화에 집중하기 위한 행보로 풀이된다.
미 법원, 앤트로픽 손 들어줘…트럼프 정부의 '공급망 위험' 지정에 제동
미 연방법원이 목요일, 앤트로픽을 '공급망 위험'으로 지정하고 연방 기관과의 거래를 끊으려던 트럼프 행정부의 조치에 효력 정지 가처분 결정을 내렸다. 앤트로픽이 AI의 자율 무기 및 대량 감시 활용을 거부하자 정부가 보복 조치에 나섰으나 법원은 표현의 자유 침해라고 판단했다.
미 민주당 상원의원들, 앤트로픽의 자율무기·감시 규제 법제화 추진
더 버지 보도에 따르면, 미국 상원 민주당 의원들이 앤트로픽의 군사 AI 레드라인을 법제화하는 법안을 추진 중이다. 법안은 국방부의 국내 대규모 감시와 핵무기 기폭, 인간 개입 없는 자율 살상 무기 배치를 제한하고 생사 결정에 인간 개입을 의무화하는 내용을 담았다.
미 의원들, 'AI 데이터센터 신규 건설 전면 중단' 법안 발의
버니 샌더스 상원의원과 알렉산드리아 오카시오코르테스 하원의원이 연방 AI 규제법이 마련될 때까지 피크 부하 20MW 초과 신규 데이터센터 건설을 전면 중단하는 법안을 발의했다. 노동·환경 보호 입법을 압박하려는 의도지만, 업계 반발로 통과는 불투명하다.
트럼프, 젠슨 황·저커버그 등 빅테크 수장 대거 과학기술자문위에 임명
외신에 따르면 트럼프 미국 대통령이 대통령 과학기술자문위원회(PCAST) 첫 멤버로 젠슨 황, 마크 저커버그, 래리 엘리슨 등을 지명했다. 위원회는 AI 정책과 국가 안보에 관해 직접 조언할 예정이다. 빅테크 수장들이 미국 연방 차원의 AI 규제 기조에 큰 영향력을 미칠 전망이다.