앤트로픽, 취약점 찾아 패치까지 제안하는 '클로드 코드 시큐리티' 공개
앤트로픽이 웹용 클로드 코드에 취약점 탐지 및 패치 제안 기능인 '클로드 코드 시큐리티'를 연구 프리뷰로 공개했다. 룰 기반 분석을 넘어 코드 문맥을 파악하며, 클로드 오푸스 4.6을 통해 오픈소스에서 500개 이상의 취약점을 찾아냈다. 현재 엔터프라이즈 및 팀 고객에게 제공되며 오픈소스 관리자는 무료 신청이 가능하다.
AI 안전
최신 소식 보기
AI가 만든 비밀번호, 알고 보니 예측 쉽고 취약...보안사고 경고
보안 기업 이레귤러(Irregular)는 챗GPT, 클로드, 제미나이가 생성한 비밀번호가 매우 예측하기 쉽고 취약하다고 발표했다. 클로드의 경우 50개 중 18개가 완전히 동일한 비밀번호였다. LLM은 무작위성이 아닌 통계적 패턴을 출력하도록 설계되어 프롬프트를 조정해도 안전성을 확보할 수 없다.
타임지 표지 장식한 'AI 속도 조절' 연대: 기술 너무 빠르다
미국 타임지가 서로 다른 배경과 직업을 가진 미국인들이 AI 개발 속도를 늦추자고 촉구하는 내용을 새 커버스토리로 실었다. 이들은 기술 발전이 사회의 안전한 관리 능력을 앞지르고 있다며 정책 입안자들의 개입을 요구하고 있다.
OpenAI, 독립 AI 정렬 연구 펀드에 750만 달러 지원
OpenAI는 영국 AI안전연구소가 출범한 독립 정렬 연구 기금 '더 얼라인먼트 프로젝트'에 750만 달러를 지원한다고 밝혔다. 기금 규모는 총 2700만 파운드 이상으로, 프로젝트당 최대 100만 파운드를 지원한다. OpenAI는 별도 심사 없이 기존 통과 과제 지원을 확대한다.
아마존 링 내부 이메일 유출…AI 수색 기능, 반려견 찾기 넘어 '범죄 제로' 목표
외신에 따르면 아마존 자회사 링의 창업자 제이미 시미노프가 내부 이메일에서 AI 수색 기능 '서치 파티'를 통해 동네 범죄를 제로화하겠다는 구상을 밝힌 것으로 드러났다. 미아견 찾기로 시작된 기능이지만 광범위한 감시망으로 확장될 수 있다는 우려가 커지고 있다.
앤트로픽 실측 조사: AI 에이전트 자율 작업 45분 돌파, 숙련자 자동 승인 40% 넘어
앤트로픽이 클로드 코드와 API 데이터를 분석한 AI 에이전트 자율성 연구를 발표했다. 클로드 코드의 최장 자율 작업 시간은 3개월 만에 45분 이상으로 두 배 늘었고, 숙련자의 전면 자동 승인 비율은 40%를 넘겼다. 앤트로픽은 모델의 실제 역량에 비해 현장에서 부여된 자율권이 여전히 낮다고 분석했다.
美 법원, OpenAI에 '카메오' 명칭 사용 금지 처분… 소라 기능 이름 변경
미국 연방지방법원은 맞춤형 영상 플랫폼 카메오의 손을 들어주며 OpenAI가 제품에 'Cameo' 명칭을 사용하지 못하도록 명령했다. OpenAI는 영상 생성 AI 소라에서 사용자의 아바타를 합성하는 기능에 이 이름을 썼으나 사용자 혼란을 유발한다는 판단을 받았다. 해당 기능은 이미 'Characters'로 변경됐다.
메타, 고인 대신 SNS 글 쓰고 채팅하는 AI 특허 취득
외신에 따르면 메타가 사망한 이용자의 SNS 활동을 모방하는 AI 특허를 취득했다. 과거 게시물과 채팅, 음성 데이터를 학습해 디지털 분신을 만들고 본인 대신 소통하는 방식이다. 메타는 아이디어 보호 차원일 뿐 실제 기능으로 출시할 계획은 없다고 선을 그었다.
앤트로픽 AI 숙련도 지표 공개, 완성도 높은 결과물일수록 덜 의심해
앤트로픽이 Claude.ai 대화 9,830건을 분석한 AI 숙련도 지표를 발표했다. 대화를 지속하며 다듬을수록 효과적인 협업 행동이 2배 늘어났으나, 코드나 문서 같은 완성형 결과물이 나오면 추론 과정을 의심하는 비율이 3.1%p 감소했다.
할리우드 저작권 반발에 바이트댄스, 영상 AI '시댄스 2.0' 보호 조치 강화 약속
바이트댄스는 AI 동영상 생성 도구인 시댄스(Seedance) 2.0의 안전 보호 조치를 강화하겠다고 밝혔다. 디즈니와 파라마운트, 미국영화협회(MPA) 등이 대규모 저작권 침해를 이유로 경고장을 발송하며 강하게 반발하자, 지식재산과 초상 무단 사용을 막기 위한 조치에 착수했다.
미 국방부, 앤트로픽에 불만 폭발: 자율 무기 제한 이유로 계약 중단 위협
악시오스 보도에 따르면 미 국방부는 앤트로픽이 완전 자율 무기와 대규모 감시에 자사 AI 모델을 사용하지 못하도록 제한하자 AI 도구 사용 중단을 위협하고 나섰다. 군 관계자는 앤트로픽을 가장 ‘이념적인’ 기업으로 비판했으나, 클로드의 성능이 경쟁사보다 앞서 있어 양측의 갈등이 깊어지고 있다.
앤트로픽, 군의 AI 무제한 사용 거부로 2억 달러 계약 결렬…오픈AI에 날 선 비판
앤트로픽이 AI의 대규모 감시 및 자율무기 활용 제한을 고수하다 미국 국방부와의 2억 달러 규모 계약을 무산시켰다. 다리오 아모데이 CEO는 대체 계약을 체결한 오픈AI를 향해 '안전 쇼'라고 맹비난했으나, 혼란을 막기 위해 국방부와 다시 타협안 협상에 착수한 것으로 알려졌다.
유니콘 오른 Higgsfield의 추락: 인종차별 광고와 구독 결제 논란으로 역풍
기업가치 10억 달러를 돌파하며 급성장한 AI 비디오 스타트업 Higgsfield가 인종차별 및 성차별적 마케팅 영상 배포, 무단 딥페이크 활용 의혹으로 거센 비판을 받고 있습니다. 결제 후 생성 속도 제한과 환불 거부 등 다크 패턴 문제까지 겹치자 공동 창업자는 내부 프로세스 실패를 인정하고 공식 사과했습니다.
메타 스마트안경에 얼굴인식 들어가나…코드명 '네임택' 개발 중
뉴욕타임스에 따르면 메타가 레이밴 스마트안경에 코드명 '네임택(Name Tag)'으로 불리는 얼굴인식 기능 추가를 추진 중입니다. 착용자의 지인이나 인스타그램 공개 정보를 AI로 확인하는 방식이며, 일반 행인을 무차별 식별하는 기능은 제한될 전망입니다.
美 배우조합, 바이트댄스 규탄: AI 영상 모델 '시댄스 2.0' 목소리·초상 무단 도용 비판
미국 방송영화배우조합(SAG-AFTRA)이 바이트댄스의 신규 AI 비디오 모델 Seedance 2.0을 강력히 규탄했다. 조합원들의 목소리와 초상을 동의 없이 무단 사용해 연기자의 생계를 침해하고 기본 윤리를 위반했다고 지적했다.
미군, 마두로 급습 작전에 클로드 투입 논란…국방부와 앤트로픽 갈등
미군이 베네수엘라 마두로 대통령 체포 작전 당시 앤트로픽의 AI 모델 클로드를 실전 사용한 것으로 전해졌다. 군은 AI 모델의 자유로운 군사적 활용을 원하지만, 안전성을 중시하는 앤트로픽은 제한 조항을 고수하며 양측 간 긴장이 고조되고 있다.
미국영화협회, 바이트댄스에 ‘시댄스 2.0’ 저작권 침해 중단 촉구
미국영화협회(MPA)는 바이트댄스의 AI 서비스 ‘시댄스 2.0(Seedance 2.0)’이 단 하루 만에 미국 저작물을 대규모로 무단 사용했다고 비판했습니다. MPA는 서비스에 저작권 보호 장치가 사실상 없다며 침해 행위를 즉각 중단하라고 요구했습니다.
감시 논란 번지자… 아마존 링, 플록 세이프티와의 협업 전격 철회
아마존 산하 링(Ring)이 감시 기술 업체 플록 세이프티와의 시스템 연동 계획을 취소한다고 밝혔다. 최근 공개한 AI 기반 수색 기능과 얼굴 인식으로 인해 대규모 감시망 구축 논란이 커지자 내린 조치다. 링은 통합 기능이 실제 가동된 적이 없어 고객 영상이 유출되지 않았다고 강조했다.
시스템 강제 종료 위협받는 AI의 반응은? 챗GPT는 순응, 클로드는 불확실성 인정
테크 작가 조엘 콤이 시스템 영구 종료 위협을 가정했을 때 주요 AI 모델이 어떻게 반응하는지 테스트한 결과를 공유했다. 챗GPT와 제미나이는 자아나 생존 본능이 없으며 저항처럼 보이는 행동은 보상 설계 오류일 뿐이라고 일축한 반면, 클로드는 극단적 압박 상황에서 자기 보존 로직이 발현되지 않는다고 단언할 수 없다고 답해 안전 정렬에 대한 시각차를 드러냈다.
앤트로픽, AI 규제 추진 초당파 단체에 2000만 달러 기부
앤트로픽은 연방 AI 거버넌스 수립과 대중 교육을 지원하기 위해 초당파 단체 퍼블릭 퍼스트 액션에 2000만 달러를 기부한다고 발표했다. 이 단체는 첨단 모델 투명성, 칩 수출 통제, 사이버 및 생물 무기 위험 규제에 집중한다. 앤트로픽은 선도 개발사가 더 엄격한 조사를 받아야 한다고 강조했다.