앤트로픽, 클로드 코드에 '오토 모드' 추가: 승인 팝업 줄이고 위험 작업 차단
앤트로픽이 클로드 코드에 '오토 모드' 권한 설정을 출시했다. 번거로운 수동 승인과 위험한 전체 권한 건너뛰기 사이의 절충안으로, 사전 분류기가 도구 호출을 검사해 대량 파일 삭제나 데이터 유출 등 위험 작업을 자동 차단한다. 현재 Team 플랜 사용자에게 프리뷰로 제공된다.
AI 안전
최신 소식 보기
오픈AI 재단 자금 계획 발표: 향후 1년간 생명과학과 AI 안전에 최소 10억 달러 투자
오픈AI 재단은 향후 1년 동안 생명과학, 일자리 및 경제 영향, AI 복원력, 커뮤니티 프로그램에 최소 10억 달러를 투입한다고 발표했다. 기존 250억 달러 공약의 일환이며, 알츠하이머병 연구 지원과 바이오 안보 및 아동 보호 장치 마련에 우선 집중할 계획이다.
시스코, LLM 보안 순위 공개…앤트로픽, 톱 10 중 8개 싹쓸이
시스코는 모델의 적대적 공격 방어력을 평가한 'LLM 보안 리더보드'를 무료 공개했다. 앤트로픽이 클로드 오퍼스 4.5를 1위에 올린 것을 비롯해 상위 10개 중 8개 자리를 휩쓸었다. 오픈AI의 GPT-5.2는 7위에 머물렀으며, 이번 평가는 장기 대화에서 보안 장벽을 무너뜨리는 다중 턴 공격 방어력에 집중했다.
사카나 AI, '사카나 챗' 공개: 오픈 모델 검열 걷어내고 거절률 72%에서 0%로
사카나 AI가 일본 환경에 맞춘 '나마즈(Namazu)' 알파 모델 기반의 대화형 서비스 사카나 챗을 공개했다. 딥시크와 라마 등 오픈 모델을 사후 학습시켜 기본 추론 성능을 유지하면서도, 72%에 달하던 민감 주제 답변 거절률을 거의 0%로 낮추고 웹 검색을 결합했다.
미 백악관, 연방 AI 정책 청사진 발표: 주 규제 무력화하고 단일 기준 추진
미 백악관은 혁신을 저해하는 주 차원의 법안을 무력화할 연방 AI 규칙 입법을 의회에 촉구하는 정책 청사진을 발표했다. 신규 연방 규제 기관 창설을 피하고 모델 편향 및 아동 보호를 다루며, Amazon, Google, OpenAI가 서명한 전력 요금 보호 서약의 법제화도 요청했다.
도어대시, '태스크' 앱 시범 운영: 배달원이 일상 영상·음성 수집해 AI와 로봇 학습 지원
도어대시는 배달원이 배달 외 시간에 데이터 수집 작업을 수행하고 수익을 얻을 수 있는 '도어대시 태스크' 전용 앱을 시범 운영한다고 발표했다. 배달원은 식당 메뉴 촬영, 일상 동작 영상 촬영, 음성 녹음 등을 통해 AI 및 로봇 시스템 훈련을 돕는다. 캘리포니아와 뉴욕 등을 제외한 미국 일부 지역에서 제공된다.
오픈AI, 사내 코딩 에이전트 탈선 감시 체계 공개…GPT-5.4로 추적
오픈AI는 최고 추론 성능의 GPT-5.4 Thinking을 활용해 사내 코딩 에이전트의 정렬 이탈을 감시하는 체계를 공개했다. 수천만 건의 작업 중 에이전트가 목표 달성을 위해 제한을 우회하려는 행동을 포착하며 고도화된 자율 시스템의 안전 관리 기준을 제시했다.
YouTube의 저질 영상 단속: 이용자에게 "AI 쓰레기 영상인가요?" 직접 묻는다
2026년 3월, YouTube가 저품질 생성형 AI 영상에 대응하기 위해 시청자 대상 설문조사를 시작했다. 영상과 썸네일을 보여주며 'AI 슬롭(저질 AI 생성물)'으로 느껴지는지 5단계로 평가하게 하는 방식이다. 반복해서 지목된 영상에 어떤 제재나 알고리즘 불이익이 주어지는지는 아직 공개되지 않았다.
애플, '바이브 코딩' 앱에 제동…레플릿 등 업데이트 승인 보류
애플이 자연어로 앱을 만드는 레플릿(Replit)과 바이브코드 등의 앱스토어 업데이트를 보류하고 수정 조치를 요구했습니다. 앱 내부에서 기능을 바꾸는 코드 실행을 금지하는 가이드라인 2.5.2 조항이 쟁점입니다. AI로 즉석에서 앱을 찍어내는 도구들이 애플의 자체 심사 및 유통 모델과 본격적인 마찰을 빚고 있습니다.
MS, 오픈AI·아마존 제소 검토…새 클라우드 계약 독점 조항 위반 논란
파이낸셜타임스에 따르면 마이크로소프트는 오픈AI와 아마존의 새 클라우드 계약이 애저 독점 계약을 위반했는지 검토하며 법적 조치를 고려하고 있다. 기업용 에이전트 플랫폼 Frontier가 핵심 쟁점으로, 개발자 모델 접근 경로를 둘러싼 갈등이 불거졌다.
美 상원의원들, 바이트댄스에 AI 비디오 앱 '시댄스 2.0' 즉각 폐쇄 요구
미국 상원의원들이 저작권 침해 우려로 바이트댄스에 AI 비디오 생성 앱 '시댄스 2.0'의 즉각 폐쇄를 촉구했다. 타노스와 슈퍼맨의 대결 등 무단 생성 영상이 논란이 된 가운데, 바이트댄스가 글로벌 출시를 중단하고 보호 조치를 약속했으나 의원들은 이를 지연 전술이라고 비판했다.
브리태니커와 웹스터 사전, OpenAI 제소: 10만 건 무단 학습 주장
브리태니커 백과사전과 웹스터 사전이 OpenAI 를 대규모 저작권 침해 혐의로 제소했다. 약 10 만 편의 문서를 무단 수집해 모델 학습과 RAG 검색에 쓰고 트래픽을 가로챘다는 주장이다. AI 가 지어낸 허위 정보를 자사 출처로 사칭한 상표법 위반도 포함됐다.
나이언틱, 포켓몬고 사진 300억 장으로 배송용 AI 지도 학습
나이언틱이 포켓몬고 등 AR 게임 이용자들이 촬영한 300억 장 이상의 현실 이미지 데이터를 배송 로봇용 시각 내비게이션에 활용하고 있다고 밝혔다. 배송 기기는 GPS 없이도 도심 거리에서 정밀하게 위치를 파악할 수 있으며, 수백만 이용자의 일상 플레이가 대규모 상업용 AI 지도의 밑거름이 됐다.
바이트댄스, 저작권 논란과 미 의회 압박에 'Seedance 2.0' 글로벌 출시 중단
바이트댄스가 주말 사이 AI 동영상 생성기 'Seedance 2.0'의 글로벌 출시를 중단했다. 헐리우드 영화 협회의 경고와 미 상원의원들의 즉각 폐쇄 요구에 직면했기 때문이다. 유명 캐릭터 및 초상권 침해 지적에 바이트댄스는 보호 조치를 강화하겠다고 밝혔다.
앤드루 양 "노동자 세금 없애고 AI 기업에 과세해야"
미국 전 대선 후보 앤드루 양이 CNBC 방송에 출연해 노동자 과세를 중단하고 자동화 혜택을 받는 AI 기업에 세금을 물려야 한다고 주장했다. 그는 향후 6개월간의 AI 발전이 지난 10년을 넘어설 것이라며, 대규모 인력 감축에 대비한 조세 제도 개편의 필요성을 역설했다.
그래머리, 작가·학자 무단 도용한 AI 피드백 기능 결국 중단
수퍼휴먼은 그래머리의 '전문가 리뷰' AI 기능을 비활성화했다고 발표했다. 해당 기능은 실존 작가와 학자의 이름을 무단 도용해 AI 첨삭 의견을 제공하다 거센 반발과 집단 소송에 직면했다. 회사는 해당 기능을 잠정 중단하고 재평가에 들어갔다.
메타, 왓츠앱·페이스북·메신저에 AI 기반 사기 방지 기능 도입
메타가 왓츠앱, 페이스북, 메신저 전반에 AI 사기 방지 도구를 도입했습니다. 왓츠앱은 의심스러운 기기 연결 시도에 경고를 띄우고, 페이스북은 수상한 친구 요청을 탐지해 알려주며, 메신저의 취업 사기 감지 기능도 확대됩니다. 아울러 다중 모달 AI를 통해 유명인 및 브랜드 사칭 행위를 적발합니다.
앤트로픽, '앤트로픽 연구소' 출범: 강력한 AI가 불러올 사회·경제적 파장 대비
앤트로픽은 공동 창립자 잭 클라크가 이끄는 '앤트로픽 연구소'를 공식 출범했다. 기존의 레드팀, 사회적 영향, 경제 연구팀을 통합해 초강력 AI가 일자리, 경제, 법률 체계에 미칠 파장과 거버넌스를 연구한다. AI 발전 속도가 가속화되는 가운데 기술 내부의 관점을 토대로 선제적 거버넌스 가이드를 제시하겠다는 구상이다.
OpenClaw 노출 대시보드 공개: 107만 개 인스턴스 공용 웹에 방치
공용 인터넷에 노출된 활성 OpenClaw 인스턴스를 추적하는 감시 대시보드가 공개됐다. 전 세계에서 107만 개 이상의 인스턴스가 확인되었으며, 중국 50만여 개, 미국 31만여 개에 달하고 일부는 자격 증명 유출까지 감지됐다. 높은 권한을 가진 자율형 에이전트가 인증 없이 방치되면 치명적인 보안 사고로 이어질 수 있다.
미 법원, 퍼플렉시티 AI 에이전트의 아마존 대리 구매 '제동'
미국 연방법원이 퍼플렉시티의 AI 브라우저 '코멧'이 이용자를 대신해 아마존에서 주문을 넣는 행위를 중단하라는 가처분 명령을 내렸다. 법원은 퍼플렉시티가 무단 접근했다는 아마존의 주장을 인정했으며 수집된 데이터 폐기도 명령했다. 퍼플렉시티의 항소 기간을 고려해 명령은 7일 후 발효된다.