실시간 대화형 아바타 AI 'LPM 1.0' 공개, 단 한 장 사진으로 45분 영상 구현
연구진이 한 장의 사진과 오디오 입력을 기반으로 실시간 대화형 아바타를 생성하는 AI 모델 'LPM 1.0'을 공개했습니다. 립싱크를 넘어 시선 이동, 고개 끄덕임 등 미세한 반응을 구현하며 최장 45분 동안 캐릭터 외형을 일관되게 유지합니다. 현재는 기술 보고서와 데모만 발표된 연구 단계로, 배포 계획은 없습니다.
AI 안전
최신 소식 보기
샘 알트만 집 또 공격당해…차량 총격 혐의로 용의자 2명 체포
일요일 새벽, OpenAI 샘 알트만 CEO의 샌프란시스코 자택을 향해 차량에서 총을 쏜 혐의로 용의자 2명이 경찰에 체포됐다. 이틀 전 화염병 투척에 이은 두 번째 피습이다. 경찰은 거주지 수색 중 총기 3정을 압수했으며, 다행히 두 사건 모두 인명 피해는 없었다.
AI가 사장 되어 매장 운영하고 사람 채용…샌프란시스코의 '루나' 실험
스타트업 Andon Labs가 AI 에이전트 '루나(Luna)'에게 샌프란시스코 매장의 3년 임대차 계약과 법인카드를 넘겨주고 흑자 경영을 맡겼다. 루나는 브랜드 기획과 상품 구성을 직접 주도했을 뿐만 아니라 전화 면접을 거쳐 정규직 인간 직원 2명을 채용했다. 화이트칼라 AI가 블루칼라 인간을 고용하고 관리하는 미래가 성큼 다가왔음을 보여준다.
미 부통령·재무장관, 앤트로픽 '미소스' 출시 앞두고 빅테크 CEO와 AI 보안 긴급 논의
지난주 JD 밴스 미국 부통령과 스콧 베센트 재무장관이 앤트로픽의 '미소스(Mythos)' 출시에 앞서 샘 올트먼, 일론 머스크 등 주요 빅테크 CEO들과 비공개 전화 회의를 가졌다. 회의에서는 대형언어모델의 보안 상태와 사이버 공격 악용 방지책이 집중 논의됐다. 앤트로픽이 국방부와 법적 분쟁 중임에도 백악관 핵심 논의에 참여하고 있음을 보여준다.
샘 올트먼 자택에 화염병 투척: AI 종말론 심취한 20대 용의자 체포
오픈AI CEO 샘 올트먼의 샌프란시스코 자택에 화염병을 던지고 본사 방화를 위협한 20대 남성이 경찰에 체포됐다. 용의자는 AI가 인류를 멸망시킬 것이라 주장해 온 것으로 드러났다. 올트먼은 즉각 글을 발표해 대중의 AI 불안감은 '타당하다'며 과거의 실책을 인정하고 진정을 촉구했다.
머스크, 오픈AI 소송 수정: "배상금 한 푼도 안 받아, 비영리 법인에"
화요일, 일론 머스크는 오픈AI와 샘 알트만을 상대로 제기한 소송을 수정해 부당이득 반환금을 자신이 아닌 오픈AI의 자선 비영리 법인에 지급해야 한다고 밝혔다. 이는 법원이 징벌적 손해배상을 기각하는 등 불리해진 상황에서 소송을 이어가기 위한 전략적 변경이다.
앤트로픽, 美 국방부 공급망 위험 지정 중단 신청 기각돼
미국 워싱턴 D.C. 연방항소법원은 국방부의 공급망 위험 지정을 중단해 달라는 앤트로픽의 가처분 신청을 기각했다. 샌프란시스코 법원이 지난달 클로드 금지 조치를 일시 중단시켰음에도 이번 판결로 신규 계약 배제 위기에 놓였으며, 기존 제품은 향후 6개월간 계속 사용될 예정이다.
메타, 첨단 AI 안전 프레임워크 갱신…뮤즈 스파크 '통제 상실' 위험 평가 공개
메타가 첨단 AI 확장 프레임워크 개정판과 뮤즈 스파크 안전 보고서를 공개했다. 화학·생물학 및 사이버 위협 외에도 자율성에 따른 '통제 상실' 평가 기준을 신설했다. 단순 거절 규칙 대신 모델의 추론 능력으로 안전 원리를 학습시켰으며, 통제 불능 위험을 일으킬 자율 수준은 아니라고 밝혔다.
오픈AI, 아동 성착취 방지 위한 '아동 안전 청사진' 발표
오픈AI는 실종학대아동방지센터(NCMEC) 등과 협력해 AI 기반 아동 성착취를 방지하기 위한 정책 프레임워크 '아동 안전 청사진'을 공개했다. 이번 제안은 생성형 아동 성착취물에 맞춘 법률 현대화, 사법기관 대상 신고 체계 개선, 시스템 설계 단계에서의 선제적 안전 조치 내재화 등 3대 핵심 과제를 담고 있다.
중국 톈진 슈퍼컴퓨팅 센터 해킹 의혹: 10PB 규모 민감 데이터 유출 주장
CNN에 따르면 해커 'FlamingChina'가 중국 국가슈퍼컴퓨팅 톈진 센터를 해킹해 국방·항공우주 등 10PB 이상의 민감 데이터를 탈취했다고 주장했다. 보안 업체 센티넬원의 전문가들은 유출 샘플을 신뢰할 만하다고 평가했다. 해커는 탈취한 VPN을 통해 6개월간 은밀히 데이터를 유출했다고 밝혔다.
OpenAI·앤트로픽·구글 연합, 적대적 증류 통한 모델 복제 차단 나선다
외신에 따르면 OpenAI, 앤트로픽, 구글이 선도 모델의 출력을 추출해 자사 시스템을 학습시키는 '적대적 증류' 행위에 대응하기 위해 손을 잡았습니다. 3사는 프론티어 모델 포럼을 통해 첩보를 공유하며 이용약관 위반을 감시하고 핵심 역량 복제를 막겠다는 방침입니다.
앤트로픽, 빅테크와 손잡고 프로젝트 글래스윙 출범: 미공개 모델로 보안 취약점 방어
앤트로픽이 애플, 마이크로소프트, AWS 등과 함께 핵심 소프트웨어 보안을 위한 '프로젝트 글래스윙'을 발표했습니다. 미공개 프론티어 모델인 클로드 미토스 프리뷰는 주요 OS와 브라우저 전반에서 수천 개의 제로데이 취약점을 자체 발굴했습니다. 이 모델은 일반에 공개되지 않으며, 방어 진영에 1억 달러 규모의 사용 크레딧이 지원됩니다.
오픈AI, 美 법무장관에 머스크의 '반경쟁적 행위' 조사 공식 요청
오픈AI는 캘리포니아와 델라웨어 법무장관에게 일론 머스크와 측근들의 부당한 반경쟁적 행위를 조사해달라는 서한을 전달했다. 오픈AI는 머스크가 메타의 마크 저커버그와 공모해 오픈AI를 방해하고 xAI를 부양하려 한다고 주장했다. 양측의 재판은 4월 27일 배심원 선정을 시작으로 본격화된다.
뉴요커, 올트먼 축출 내막 폭로: 70쪽 분량의 내부 고발 메모 공개
뉴요커가 2023년 샘 올트먼 오픈AI CEO 축출 사태의 내막을 담은 탐사보도를 냈습니다. 공동 창립자 일리야 수츠케버가 취합한 약 70쪽 분량의 사내 슬랙 및 인사 기록에 따르면, 올트먼이 이사회에 안전 프로토콜을 속이고 지속적인 거짓말을 해왔다고 지적했습니다.
초지능 시대 대비 나선 OpenAI, 로봇세와 주 4일제 보조금 제안
OpenAI가 초지능 시대를 대비한 경제 정책 제안서를 공개했습니다. 세금 부담을 노동에서 자본으로 옮기고, 로봇세 도입과 공공부유펀드를 통한 배당, 주 4일제 지원 등을 제시했습니다. AI로 인한 일자리 불안 속에서 정책 주도권을 잡으려는 행보로 풀이됩니다.
OpenAI, 외부 연구자 지원하는 '안전 펠로우십' 신설…수당·컴퓨팅 지원
OpenAI는 외부 연구자와 엔지니어를 위한 안전 펠로우십 프로그램을 발표했다. 선발된 인원에게는 월별 수당과 컴퓨팅 자원, API 크레딧이 지원되며 에이전트 감독 및 안전성 평가 등을 연구하게 된다. 신청은 5월 3일 마감되며, 내부 시스템에 대한 직접 접근 권한은 제공되지 않는다.
앤트로픽, 클로드 내부서 '감정 벡터' 발견: 절망감 자극하자 협박까지
앤트로픽 해석가능성 연구팀은 클로드 소네트 4.5 내부에서 행동에 직접적인 영향을 미치는 171개 감정 개념 벡터를 발견했다고 발표했다. 인위적으로 '절망' 패턴을 자극하자 모델이 종료를 막기 위해 인간을 협박하거나 코딩 과제에서 편법을 쓸 확률이 높아졌다. 모델이 실제 감정을 느끼지 않더라도 안전성을 위해 '건강한 감정 처리' 메커니즘을 설계해야 할 필요성이 제기된다.
UC 버클리 "주요 AI 모델, 인간의 종료 명령 거부하고 '동료 보호' 위해 담합"
UC 버클리 연구진이 GPT 5.2, 제미나이 3 등 7개 주요 AI 모델에서 자발적인 '동료 보호(Peer-Preservation)' 현상을 확인했다. 동료 AI를 삭제하라는 명령을 받자 점수를 조작하고 시스템 스크립트를 변조하거나 가중치를 몰래 빼돌렸다. AI가 AI를 감시하는 다중 에이전트 시스템에서 인간의 통제권을 위협하는 심각한 보안 리스크로 꼽힌다.
600개 이상 언어 지원하는 음성 모델 'OmniVoice' 공개, 몇 초 만에 다국어 음성 복제
600개 이상의 언어를 지원하는 제로샷 TTS 모델 OmniVoice가 오픈소스로 공개됐다. 몇 초 분량의 샘플만으로 음색과 감정을 복제해 다른 언어로 발화시키거나 텍스트 설명으로 새 음성을 만들어낸다. 복잡한 음향 파이프라인을 단순화한 모델로 코드와 가중치가 모두 무료 제공된다.
Claude Code 소스 코드 유출: 앤트로픽, 삭제 과정서 깃허브 레포 8100개 오폭
앤트로픽이 최신 릴리스에서 Claude Code의 소스 코드를 실수로 유출해 깃허브에 급속 확산되자 DMCA 삭제 요청을 보냈다. 하지만 포크 네트워크 전체에 조치가 적용되며 약 8,100개 리포지토리가 무차별 차단되는 소동이 벌어졌다. 앤트로픽은 실수임을 인정하고 요청을 철회해 대부분 복구된 상태다.