앤트로픽과 팔란티어 협력, 미국 정보·국방 기관에 클로드 공급
앤트로픽과 팔란티어가 AWS와 손잡고 Claude 3 및 3.5 모델을 미국 정보와 국방 기관에 제공한다고 발표했다. DISA IL6 인증을 받은 보안 환경과 Palantir AIP를 통해 기밀 데이터를 분석하며, Claude가 정부 기밀 업무 환경에 도입되는 첫 사례다.
AI 안전
최신 소식 보기
바이트댄스, 'X-Portrait 2' 공개: 사진 한 장으로 명작 영화 표정 연기 재현
바이트댄스가 단 한 장의 사진으로 영화 명장면의 섬세한 표정 연기를 실감 나게 구현하는 AI 'X-Portrait 2'를 공개했다. 기존 점 추적 방식 대신 안면 근육의 유기적 움직임을 학습했다. 딥페이크 악용 우려로 인해 코드는 공개되지 않았다.
트럼프 당선과 AI 규제의 미래: 바이든 행정명령 폐기 수순 밟나
테크크런치에 따르면 트럼프의 미국 대통령 당선으로 바이든 정부의 AI 행정명령이 전면 폐기될 가능성이 커졌다. 트럼프는 취임 첫날 행정명령을 철회하겠다고 밝혀 대규모 모델의 안전 보고 의무가 완화될 전망이다. 다만 캘리포니아 등 주 정부의 독자 입법과 대중 수출 통제가 새 변수로 꼽힌다.
트럼프 당선이 몰고 올 AI 규제 변화: 바이든 행정명령 폐기 전망
트럼프 전 대통령의 대선 승리로 바이든 행정부의 AI 행정명령이 폐기 수순을 밟을 가능성이 커졌다. 주요 AI 안전 테스트 보고 의무가 해제되며 연방 차원의 규제 완화가 예상되는 반면, 엄격한 반도체 수출 통제와 주 단위 독자 규제가 변수로 떠올랐다.
AI 안전 전문가들, 스타트업에 "속도 늦추고 레드팀 검증 집중하라" 촉구
TechCrunch Disrupt 행사에서 AI 안전 전문가들이 스타트업 창업자들에게 무리한 출시 속도를 늦출 것을 당부했다. 최근 발생한 Character.AI 소송과 저작권 침해 우려 등을 지적하며, 배포 전 철저한 레드팀 테스트와 안전장치 마련이 필수적이라고 강조했다.
메타, 美 국방·안보 기관에 라마 모델 사용 허용 예외 적용
메타는 기존 군사적 이용 금지 정책에 예외를 두고, 미 국방 및 국가안보 기관과 관련 계약업체에 라마 AI 모델을 제공한다고 발표했다. 록히드 마틴, 오라클 등과 협력해 전력화하며 영국, 캐나다, 호주, 뉴질랜드 기관에도 동일한 예외가 적용된다.
인스타그램, 나이 속인 미성년자 AI로 잡는다…생일 축하 글까지 분석
메타는 2025년 초 인스타그램에 자체 AI 도구인 '성인 분류기'를 도입해 나이를 속인 미성년자를 가려낼 계획이다. 프로필과 팔로워 목록, 친구들의 생일 축하 메시지까지 분석해 18세 미만으로 추정되면 제한 모드인 청소년 계정으로 자동 전환한다.
마이크로소프트, 논란의 '리콜' 프리뷰 12월로 재연기
마이크로소프트가 코파일럿 플러스 PC용 AI 기능인 '리콜(Recall)'의 윈도우 인사이더 프리뷰 일정을 10월에서 12월로 다시 연기했습니다. 보안 논란을 해소하기 위해 기능을 선택적 활성화 방식으로 바꾸고, 완전 삭제 옵션 제공 및 윈도우 헬로 인증 기반 암호화 작업을 마무리하는 데 시간이 더 필요하다는 입장입니다.
일레븐랩스, X 계정으로 고유 음성 만드는 'X to Voice' 공개
일레븐랩스가 지난주 Voice Design API와 함께 오픈소스 프로젝트 'X to Voice'를 공개했다. X 사용자 아이디를 입력하면 프로필 소개와 게시글을 분석해 맞춤형 프롬프트와 3가지 음성 샘플을 생성하며, 프로필 사진의 립싱크 영상도 함께 만들어 준다.
OpenAI, 사실성 벤치마크 'SimpleQA' 공개: GPT-4o 정답률 40% 미만
OpenAI가 언어 모델의 환각 현상을 측정하는 새 벤치마크 'SimpleQA'를 오픈소스로 공개했다. 명확한 단일 정답이 있는 4326개 질문으로 구성됐으며 최신 모델인 GPT-4o도 정답률이 40% 미만에 그쳤다. 모델이 틀린 답을 내면서도 확신하는 '과신' 현상을 정량화한 것이 특징이다.
오픈AI 음성 전사 모델 '위스퍼', 테스트 80%서 허위 생성 환각 확인돼
외신에 따르면 오픈AI의 음성 인식 모델 '위스퍼'에서 심각한 환각 현상이 잇따라 확인됐다. 미시간대 연구진의 테스트에서는 80%의 녹취록에서 허위 텍스트가 발견됐으며, 가상 의료 처방까지 지어낸 사례가 보고됐다. 이미 의료 현장 등에 널리 쓰이고 있어 우려가 커지고 있다.
마이크로소프트, 윈도 11 리콜 몰래 설치 의혹 해명…선택 기능 및 완전 삭제 지원
마이크로소프트는 윈도 11 24H2 버전에 논란의 AI 기능 '리콜(Recall)'이 강제 설치되고 있다는 소문을 반박했습니다. MS는 리콜이 철저히 동의 기반(옵트인)으로 작동하며 완전히 삭제할 수 있다고 재확인했습니다. 현재 발견된 코드는 제거 편의를 위한 껍데기 파일인 것으로 확인됐습니다.
OSI, 오픈소스 AI 공식 정의 발표…메타 라마는 기준 미달
오픈소스 이니셔티브(OSI)가 오픈소스 AI 정의(OSAID) 1.0 버전을 공식 발표했다. 완전한 학습 코드 제공과 훈련 데이터 출처 공개, 무제한 수정 및 사용 권리를 요구해, 사용자 수에 따라 라이선스 제한을 두는 메타의 라마 등은 공식 오픈소스 기준에서 제외된다.
유니버설 뮤직, AI 스타트업 KLAY와 맞손…저작권 친화 모델 개발
유니버설 뮤직 그룹(UMG)이 AI 스타트업 KLAY와 협력해 상업적 윤리를 갖춘 음악 대형 모델 'KLayMM'을 개발한다고 발표했다. 기존 아티스트 카탈로그와 경쟁하지 않으며 정확한 권리 귀속을 보장하는 구조로, 무단 생성형 AI에 강경 대응해 온 UMG의 새로운 공존 실험이다.
레딧 이용자들의 가짜 맛집 정보, 구글 AI 오버뷰 왜곡시켜
런던의 레딧 사용자들이 관광객 유입을 막기 위해 가짜 식당 추천을 올리면서 구글 AI 오버뷰가 잘못된 요약을 제공하는 사태가 벌어졌다. 이는 커뮤니티 게시물을 스크래핑해 생성형 검색 답변을 만드는 AI 모델의 치명적인 취약점을 보여준다.
美 법원, 캘리포니아 선거 AI 딥페이크 규제법 효력 중지 명령
미국 연방지방법원 판사가 선거 관련 AI 딥페이크 유포를 처벌하는 캘리포니아주 법안 AB 2839의 집행을 일시 중단시켰습니다. 해리스 부통령 풍자 영상을 올린 창작자의 소송에 따른 결정으로, 법안 규정 범위가 너무 넓어 풍자와 정치적 비판을 위축시킨다고 판단했습니다.
하버드대 학생, 메타 스마트 안경으로 행인 신상 실시간 파악하는 시연 공개
하버드대 학생 2명이 메타의 레이밴 스마트 안경과 얼굴 인식 엔진, LLM을 결합해 행인의 신상을 실시간 검색하는 'I-XRAY' 시연을 공개했다. 영상 스트림에서 얼굴을 감지해 이름과 주소, 전화번호를 즉시 추출한다. 제작자들은 기술 오남용 위험을 알리기 위한 연구로, 도구를 배포할 계획은 없다고 밝혔다.
미드저니로 미술전 우승했던 창작자, 저작권 인정 요구하며 미 저작권청에 소송
2022년 미드저니로 생성한 이미지로 미술 대회에서 우승했던 Jason M. Allen이 자신의 작품 저작권 등록을 거부한 미국 저작권청을 상대로 연방 법원에 항소를 제기했다. Allen은 작품이 무단 도용돼 막대한 손해를 봤다며, 프롬프트 입력과 후가공 작업도 인간의 창작 행위로 인정받아야 한다고 주장했다.
앤트로픽, 오픈AI 공동 창업자 더크 킹마 영입
오픈AI 공동 창업자 더크 킹마가 경쟁사 앤트로픽에 합류한다고 발표했다. 그는 네덜란드에서 원격으로 연구를 이어갈 계획이다. 오픈AI와 구글 브레인에서 핵심 생성 알고리즘을 개발했던 킹마의 이직으로, 앤트로픽은 얀 라이커와 존 슐만에 이어 또 한 명의 오픈AI 핵심 인력을 품게 됐다.
MS, Copilot+ PC에 ‘클릭 투 두’ 추가… 보안 강화한 리콜도 재등판
마이크로소프트가 Copilot+ PC와 윈도우 11을 위한 신규 온디바이스 AI 기능을 발표했다. 화면 맥락을 파악해 작업을 제안하는 ‘클릭 투 두(Click to Do)’와 오프라인 자연어 파일 검색, 사진 8배 초해상도 기능을 지원한다. 논란이 됐던 ‘리콜’은 기본 비활성화와 윈도우 헬로 인증을 적용해 인사이더에 순차 배포된다.