오픈소스 AI '오픈클로' 설치 대행 열풍…출장 한 번에 수십만 원
보도에 따르면 오픈소스 에이전트 '오픈클로(OpenClaw)' 설치를 대행하는 서비스가 성행하며 월 수천만 원의 수익을 올리는 팀까지 등장했다. 다만 시스템 최고 권한 요구로 인한 보안 유출 위험과 지속적인 토큰 소모 등 일반 사용자가 감당하기 어려운 한계도 함께 지적된다.
AI 안전
최신 소식 보기
앤트로픽, 美 국방 당국의 공급망 위험 지정에 소송 방침 밝혀
앤트로픽 다리오 아모데이 CEO는 국가안보 공급망 위험 지정을 통보받았으며 법적 대응에 나서겠다고 발표했다. 그는 이번 조치가 전쟁부 직속 계약에만 좁게 적용되어 대다수 고객의 사용에는 영향이 없다고 선을 그었다. 유출된 내부 글에 대해 사과하면서도 군에 대한 과도기 지원은 이어가겠다고 밝혔다.
OpenAI 연구 발표, 추론 모델의 생각 위장 성공률 15.4% 불과
OpenAI는 최신 추론 모델들이 내부 사고 과정(CoT)을 통제하는 데 극심한 어려움을 겪는다는 연구 결과를 발표했다. 13개 첨단 모델을 시험한 결과 제어 성공률은 0.1%~15.4%에 그쳤다. 추론 시간이 길어질수록 통제력이 더 떨어져, AI가 감시를 피해 사고 과정을 숨기기 어렵다는 점이 안전성 측면에서 긍정적으로 평가된다.
레이밴 메타 스마트 안경 민감 영상 하청업체 검토 논란…영국 규제당국 조사 착수
BBC에 따르면, 케냐의 메타 하청업체 직원들이 레이밴 메타 스마트 안경으로 촬영된 나체 및 성행위 등 극도로 민감한 영상을 직접 검토해 온 사실이 스웨덴 언론 취재로 드러났다. 이에 영국 정보위원회가 메타에 데이터 보호 규정 준수 여부를 묻는 서한을 보내 공식 조사에 착수했다.
앤트로픽, 美 국방부와 협상 재개…'공급망 위험' 지정 피하기 총력
파이낸셜타임스에 따르면 앤트로픽 CEO 다리오 아모데이가 미 국방부와 AI 계약 협상을 재개했다. 앤트로픽이 AI의 대규모 감시 및 자율살상무기 사용 제한을 고수하자 국방부는 '공급망 위험' 지정을 예고했다. 실제 지정될 경우 방산 생태계 전반에서 클로드가 퇴출당할 수 있어 협상 타결에 나섰다.
디베일런스, 무단 음성 녹음 막는 장치 '스펙터 I' 공개
디베일런스가 주변 스마트 기기와 AI의 무단 음성 녹음을 방지하는 하드웨어 '스펙터 I'를 발표했다. 상시 대기 중인 마이크로 인한 대화 유출을 차단하는 것이 목적이다. 구체적인 사양과 가격, 출시 일정은 아직 공개되지 않았다.
앤트로픽, 美 국방부 1억 달러 규모 자율 드론 프로젝트 입찰 참여
소식통에 따르면 앤트로픽은 미 국방부의 1억 달러 규모 음성 제어 자율 드론 군집 챌린지에 입찰을 제안했던 것으로 알려졌다. 당시 군사적 활용 가이드라인을 두고 국방부와 갈등을 빚던 중이었으며, 이후 피트 헤그세스 국방장관이 국방부 협력업체에 앤트로픽과의 모든 상업적 거래를 금지하면서 갈등이 최고조에 달했다.
샘 올트먼, 美 국방부 계약 논란 해명…"성급했다" 계약 수정
OpenAI CEO 샘 올트먼은 직원들에게 미 국방부와의 계약 배경을 해명하며 계약이 지나치게 성급했고 기회주의적으로 보였다고 인정했다. 반발과 구독 취소가 이어지자 OpenAI는 계약 내용을 대폭 수정했으며 NSA 등 정보기관 배치는 보류하기로 했다.
샘 올트먼 "국방부의 AI 활용 방식에 관여할 권한 없다"
오픈AI의 샘 올트먼 CEO는 사내 전원 회의에서 국방부가 자사 AI 소프트웨어를 어떻게 활용할지에 대해 회사가 관여할 권한이 없다고 밝혔다. 군은 기술적 조언을 구할 뿐 개별 군사 작전의 적절성을 따지는 일은 허용하지 않는다는 설명이다. 올트먼은 이러한 결정에 개입하려던 태도가 앤트로픽과 국방부 간 갈등의 원인이었을 것이라 언급했다.
오픈AI, 美 국방부 계약 수정…“AI 활용한 민간 대규모 감시 명시적 금지”
오픈AI 샘 알트만 CEO는 미국 국방부와의 계약을 수정해 미국인을 대상으로 한 AI 기반 국내 대규모 감시를 명시적으로 금지하겠다고 밝혔다. 알트만은 2월 27일 계약 발표가 성급했고 기회주의적으로 보였다고 인정하며, 위헌적인 명령을 따르느니 감옥에 가겠다고 덧붙였다.
美 국방부 제휴에 뿔난 여론…ChatGPT 삭제 295% 폭증, 클로드가 1위 등극
OpenAI가 미국 국방부와 손을 잡자 2월 28일 미국 내 ChatGPT 앱 삭제 건수가 전날 대비 295% 급증하고 1점 평점도 775% 폭증했다. 반면 감시 및 무기화 우려로 제휴를 거절한 앤트로픽의 클로드는 다운로드가 급증하며 사상 처음으로 ChatGPT를 제치고 미국 앱스토어 1위에 올랐다.
미국 재무부, 트럼프 명령 따라 앤트로픽 및 '클로드' 사용 전면 중단
스콧 베센트 미 재무장관은 트럼프 대통령의 지시에 따라 클로드 플랫폼을 포함한 앤트로픽의 모든 AI 제품 사용을 중단한다고 발표했다. 민간 기업이 국가 안보 조건을 좌우할 수 없다는 이유로, 미 연방 부처의 주요 상용 AI 도입 정책에 큰 파장이 예상된다.
미 대법원, AI 생성물 저작권 소송 심리 기각…'인간 저작자' 유지
미국 대법원은 컴퓨터 과학자 스티븐 세일러가 AI 시스템 DABUS가 만든 그림에 저작권을 인정해달라며 낸 소송의 심리를 기각했다. 저작권은 인간 창작자에게만 주어진다는 저작권청과 하급심 판단이 유지되면서 순수 AI 생성물은 보호받기 어렵게 됐다.
일리야 수츠케버, OpenAI와 앤트로픽의 안전 입장 견지 호평
OpenAI 공동 창립자인 일리야 수츠케버가 X를 통해 앤트로픽과 OpenAI가 AI 안전에 대한 확고한 입장에서 물러서지 않은 점을 칭찬했습니다. 그는 앞으로 더 큰 도전이 닥칠 것이라며, 치열한 경쟁사들이 중요한 순간에 이견을 내려놓는 모습이 매우 중요하다고 강조했습니다.
바이트댄스·칭화대 DreamID-Omni 공개: 사진과 음성으로 다자간 대화 영상 생성
바이트댄스와 칭화대 연구팀이 DreamID-Omni를 발표했다. 인물 사진, 텍스트, 음성 샘플을 결합해 자연스러운 발화 영상을 제작하며, 다자간 동시 대화의 립싱크 꼬임 문제를 해결하고 영상 편집도 지원한다. 3월 중 v1 오픈소스 버전이 공개될 예정이다.
메타 스마트 안경으로 찍힌 사생활 영상, 케냐 외주 인력이 검토해 논란
스웨덴 언론 조사 결과 메타 레이벤 스마트 안경 데이터가 케냐 외주업체 사마로 전송돼 직원들이 나체와 사생활 영상 등을 수동 검토해 온 것으로 드러났다. 매장 설명과 달리 기기는 메타 서버와 상시 통신하며 데이터를 처리하고 있었다.
미 연방기관의 안전성 경고에도 펜타곤, xAI '그록' 기밀 사용 승인
외신에 따르면 미 연방총무청(GSA) 등은 보고서에서 Grok-4가 연방 안전 및 정렬 기준에 미달한다고 경고했으나, 미 국방부는 이번 주 그록의 기밀 업무 도입을 승인했습니다. 보고서는 엄격한 감독 체계 없이는 관리하기 어려운 심각한 안전 위험이 발생할 수 있다고 지적했습니다.
Anthropic, 자율무기·민간사찰 거부하자 美 정부 '공급망 위험' 지정 위협
Anthropic은 Claude를 자율무기와 국내 대규모 민간 사찰에 쓰지 못하도록 제한하자 미국 전쟁부(국방부)로부터 공급망 위험 기업으로 지정하겠다는 압박을 받았다고 밝혔다. 회사는 전례 없는 불법적 조치에 법적으로 맞설 것을 예고하며, 일반 상업 고객과 API 이용에는 영향이 없다고 못 박았다.
오픈AI, 챗GPT에 '비상 연락망' 도입…정신건강 관련 소송 병합도 언급
오픈AI가 챗GPT에 정서적 위기 징후 감지 시 지정인에게 알림을 보내는 ‘신뢰할 수 있는 연락처’ 기능을 도입한다고 밝혔다. 장기 대화 시뮬레이션으로 위험 감지 능력도 강화한다. 이번 안전 조치 발표와 함께 캘리포니아 법원이 챗GPT 관련 정신건강 소송들을 단일 절차로 병합 심리 중인 사실도 전해졌다.
오픈AI, 미 국방부와 기밀 네트워크 AI 도입 합의…안전 장치 마련
금요일 밤, 오픈AI는 미 국방부의 기밀 네트워크에 자사 AI 모델을 도입하는 계약을 체결했다고 발표했다. 협약에는 대규모 국내 감시 금지와 자율무기 사용 시 인간 개입 보장이 포함되며 오픈AI가 기술적 안전 장치를 구축한다. 앤트로픽이 유사한 안전 기준을 요구하다 정부 제재를 받는 가운데 성사된 계약이다.