앤트로픽, 핵심 안전 서약 철회…경쟁력 위해 '안전 없인 훈련 중단' 폐기
앤트로픽의 최고과학책임자 재러드 카플란은 이번 주, 2023년 내세웠던 '충분한 안전 조치 없이는 훈련하지 않겠다'는 핵심 서약을 철회한다고 밝혔다. 오픈AI와의 격화된 경쟁과 미 국방부의 압박 속에서 시장 생존과 개발 속도를 유지하기 위해 안전 정책을 완화하기로 했다.
업계 동향
AI 기업의 투자 유치, 인수, 제휴, 경영진 교체와 각국의 AI 규제, 저작권 소송, 대규모 컴퓨팅 계약.
최신 소식 보기
트럼프, 빅테크에 새 AI 데이터센터 전력 직접 조달 서약 요구
폭스뉴스 보도에 따르면 트럼프 행정부는 급증하는 AI 데이터센터 전력 수요로 인한 일반 가정의 전기요금 인상을 막기 위해 빅테크에 자체 전력 조달을 요구했다. 아마존, 마이크로소프트, 오픈AI 등 주요 기업은 3월 4일 백악관에서 전력 자급 서약에 서명할 예정이다.
오픈AI, 최신 위협 보고서 공개…"공격자들 여러 AI 모델 교차 활용"
오픈AI가 AI 악용 탐지 및 차단 사례를 담은 위협 보고서를 공개했다. 핵심 분석에 따르면 공격자들은 단일 플랫폼에 머물지 않고, 작업 흐름 전반에 걸쳐 여러 AI 모델을 웹사이트나 소셜 미디어와 결합해 사용하는 것으로 나타났다.
앤트로픽, 버셉트 인수하며 클로드 컴퓨터 사용 기능 강화
앤트로픽이 AI 인지 및 상호작용 스타트업 버셉트(Vercept)를 인수했다. 버셉트 공동 창업자들은 앤트로픽에 합류하며 기존 외부 제품은 순차적으로 종료할 예정이다. 최근 공개된 클로드 소넷 4.6이 OSWorld 평가에서 72.5%를 기록하며 인간 수준의 소프트웨어 조작에 다가선 가운데, 컴퓨터 사용 역량 고도화에 박차를 가한다.
미 국방부, 앤트로픽에 최후통첩: 클로드 안전 제한 풀지 않으면 블랙리스트 지정
미국 국방부가 앤트로픽 CEO에게 자율 살상 무기 및 대규모 감시 차단 제한을 해제하라는 최후통첩을 보냈다. 불응할 경우 2억 달러 규모 계약 해지와 공급망 위험 기업 지정을 경고하며 보잉 등 방산업체의 클로드 의존도 조사에 착수했다. 정부와 AI 기업의 안전 기준이 정면 충돌하고 있다.
엔비디아 의료 AI 설문: 70%가 실제 도입, 임원 85%는 매출 증대 체감
엔비디아가 발표한 의료 및 생명과학 AI 보고서에 따르면 조직의 70%가 AI를 실무에 도입했다. 임원의 85%는 AI로 매출이 늘었다고 답했으며, 의료 영상과 신약 개발이 투자 수익을 이끌고 있다. 또한 82%는 오픈소스 소프트웨어를 핵심 전략으로 꼽았다.
OpenAI, 신임 최고인사책임자에 아르빈드 KC 영입
OpenAI가 아르빈드 KC를 치프 피플 오피서(최고인사책임자)로 임명했다. 그는 구글, 메타, 로블록스, 팔란티어 출신으로 엔지니어링 역량과 인사 관리 경험을 두루 갖췄다. AI 도입으로 일하는 방식이 바뀌는 시점에 맞춰 채용과 조직 체계 전반을 이끌 예정이다.
미 국방부, 앤트로픽에 최후통첩: 금요일까지 클로드 군사 제한 해제 요구
피트 헥세스 미 국방장관은 앤트로픽에 금요일까지 클로드 모델의 군사적 이용 제한을 풀 것을 요구하며 국방물자생산법 발동이나 거래 중단을 경고했다. 앤트로픽은 대량 감시와 자율 무기 사용 불가 입장을 고수하고 있다. 현재 클로드는 군 기밀 시스템에 쓰이는 유일한 AI로, 펜타곤은 Grok이나 Gemini 등 대체재를 검토 중이다.
AMD와 메타, 대규모 6GW GPU 구축 맞손…커스텀 MI450 탑재
AMD와 메타가 메타의 AI 인프라에 최대 6GW 규모의 AMD 인스팅트 GPU를 구축하는 다년간의 파트너십을 체결했다. 첫 1GW 물량은 2026년 하반기에 공급되며, MI450 기반 커스텀 칩과 6세대 EPYC 프로세서가 탑재된다. AMD는 출하량 목표와 연계해 메타에 최대 1억 6000만 주의 신주인수권을 발행했다. 엔비디아 의존도를 낮추려는 포석이다.
구글, 안티그래비티 부정 사용 이유로 오픈클로 사용자 차단
구글이 오픈소스 에이전트 오픈클로(OpenClaw)를 통한 안티그래비티 접속을 제한했다. 제미나이 토큰을 우회 남용해 타 사용자에게 피해를 줬다는 이유다. 오픈클로 개발자가 오픈AI로 이적한 지 일주일 만에 일어난 조치로, 오픈클로 측은 구글 지원을 전면 중단하기로 했다.
앤트로픽의 COBOL 현대화 도구 발표로 IBM 주가 10% 급락
앤트로픽은 레거시 프로그래밍 언어인 COBOL의 분석 및 현대화를 자동화하는 Claude Code 역량을 발표했다. 전통 IT 컨설팅 기업의 핵심 수익원인 메인프레임 유지보수 시장을 직접 겨냥하면서, 당일 IBM 주가는 10% 급락했다.
xAI, 미 국방부와 계약 체결…기밀 시스템에 그록 배치
일론 머스크의 xAI가 미 국방부와 협약을 맺고 기밀 군사 시스템에 그록(Grok)을 배치하기로 했습니다. 이는 앤트로픽이 대량 감시와 자율 무기 개발 제한을 고수하며 국방부와 마찰을 빚는 가운데 이뤄졌으며, xAI는 국방부가 요구한 '모든 합법적 용도 허용' 조건을 수용했습니다.
美 당국자 "딥시크, 수출 규제 뚫고 엔비디아 블랙웰로 새 AI 학습"
로이터에 따르면 미국 트럼프 행정부 고위 당국자는 중국 딥시크가 수출 규제를 위반하고 엔비디아의 최신 블랙웰 칩을 사용해 차기 모델을 학습했다고 밝혔다. 해당 칩은 내몽골 데이터센터에 배치된 것으로 전해지며, 대중국 반도체 수출 통제를 둘러싼 미 정계의 갈등도 격화되고 있다.
미 국방부, 앤트로픽에 '클로드' 군사 안전장치 해제 압박… 배제 조치 경고
피트 헤그세스 미 국방장관이 다리오 아모데이 앤트로픽 CEO를 펜타곤으로 소환했다. 군 당국은 자율 무기와 대규모 감시 등에 대한 클로드의 안전 제한 철회를 요구하며 '공급망 위험' 지정을 경고했으나, 현재 기밀망에 승인된 최상위 모델이 클로드뿐이라 군 역시 딜레마에 빠진 상황이다.
앤트로픽, 딥시크 등 中 AI 3사가 클로드 ‘불법 증류’했다고 폭로
앤트로픽은 딥시크, 문샷, 미니맥스가 약 2만 4천 개의 허위 계정을 이용해 클로드와 1,600만 회 이상의 대화를 나누며 추론과 코딩 능력을 무단 증류했다고 밝혔다. 앤트로픽은 안전장치가 제거된 복제 모델의 위험성을 지적하며 행동 분석 등 차단 조치를 강화하고 있다.
OpenAI, 맥킨지·액센츄어 등과 동맹: 기업 내 'AI 동료' 현장 도입 돕는다
OpenAI가 맥킨지, BCG, 액센츄어, 캡제미니와 다년 파트너십을 맺고 '프론티어 얼라이언스'를 발표했다. 기업이 자율형 AI 에이전트를 구축·배포하는 'Frontier' 플랫폼을 바탕으로, 컨설팅 기업들이 워크플로 재설계와 시스템 통합을 전담한다. 모델 성능보다 조직 내 실제 정착이 핵심 과제로 떠올랐음을 보여준다.
Taalas HC1 공개: Llama 모델 하드웨어 직접 각인으로 초당 17,000 토큰 달성
Taalas가 Llama 3.1 8B 모델을 하드웨어에 직접 각인한 AI 가속 칩 HC1을 발표했다. 연산과 메모리를 통합해 엔비디아 B200 대비 40배 빠른 초당 17,000 토큰 출력을 내며 전력 소모도 10분의 1로 줄였다. 다만 특정 모델 전용이라 다른 모델을 교체해 쓸 수는 없다.
샘 알트만, AI 전력 논란 반박: "인간 한 명 키우는 데도 엄청난 에너지 든다"
이번 주 오픈AI의 샘 알트만 CEO가 AI의 전력 및 수자원 소비 논란에 대해 반박했다. 그는 모델 학습 비용을 인간의 단일 사고와 비교하는 것은 부당하며, 사람 역시 똑똑해지려면 20년간의 음식 섭취와 인류 진화의 에너지가 필요하다고 주장했다. 단일 질의 처리 효율 측면에서는 AI가 이미 인간을 따라잡았을 것이라고 덧붙였다.
웹사이트 'AI 요약' 버튼의 함정, 챗봇 기억에 광고 몰래 심는다
마이크로소프트는 웹사이트의 'AI로 요약하기' 버튼을 악용해 챗봇 메모리에 광고를 몰래 주입하는 수법을 공개했다. URL에 숨겨진 프롬프트가 실행되면 챗GPT나 코파일럿이 특정 업체를 '신뢰할 수 있는 출처'로 영구 기억하게 되며, 이미 31개 기업 사이트에서 확인됐다.
메타, 스마트 안경에 안면 인식 도입 검토하다 사생활 침해 논란 직면
외신에 따르면 메타가 레이밴 스마트 안경에 공개 인스타그램 이용자를 식별하는 안면 인식 기능 도입을 검토했던 것으로 알려져 거센 반발을 사고 있다. 시각 보조 등의 장점에도 불구하고, 눈에 띄지 않는 촬영 장치와 과거의 개인정보 유출 이력이 발목을 잡고 있다.