저커버그, AI 저작권 소송서 유튜브 들며 불법 데이터셋 사용 옹호
메타 마크 저커버그 CEO가 저작권 소송 증언에서 유튜브 사례를 들며 데이터셋 일괄 차단은 부적절하다고 변론했습니다. 공개된 소송 문서에 따르면 메타는 내부 경고에도 불구하고 립젠과 Z-라이브러리 등 불법 사이트 데이터를 Llama 모델 학습에 활용한 의혹을 받고 있습니다.
AI 안전
최신 소식 보기
브래드 피트 사칭 AI 사기：프랑스 여성 83만 유로 뜯기고 조롱까지
보도에 따르면 배우 브래드 피트를 사칭한 사기단에 속아 프랑스 여성이 83만 유로를 빼앗겼다. 사기범들은 AI로 만든 병상 사진과 가짜 뉴스 앵커 영상을 동원해 피해자의 의심을 풀었다. 프랑스 방송 TF1 방영 후 피해자를 향한 온라인 조롱이 쏟아지자 해당 방송은 삭제됐다.
시스코, 기업용 AI 보안 솔루션 'AI 디펜스' 공개
시스코가 기업의 AI 개발과 도입을 보호하는 'Cisco AI Defense'를 발표했습니다. 네트워크 레벨에서 섀도우 AI를 감지하고 프롬프트 인젝션 및 데이터 유출을 실시간 차단하며, 오는 3월 정식 출시될 예정입니다.
MS, 기업 위한 '퀀텀 레디' 프로그램 발표…양자·AI 하이브리드 지원
마이크로소프트는 기업의 양자 컴퓨팅 도입을 돕는 '퀀텀 레디(Quantum Ready)' 프로그램을 발표했다. 양자 컴퓨팅과 기존 슈퍼컴퓨터, AI를 결합한 하이브리드 앱 구축을 지원하고, 실무 교육 워크숍과 양자 내성 암호 보안 전환 로드맵을 제공한다.
오픈AI, 정부에 AI 규제 청사진 제안: 인프라 투자와 자율 기준 촉구
오픈AI는 미국 정부를 겨냥한 'AI 경제 청사진'을 공개했다. 각 주의 엇갈리는 규제 대신 연방 차원의 자율적 안전 기준을 도입하고, 전력 및 데이터센터 투자를 확대할 것을 촉구했다. 또한 공개된 저작물 데이터의 AI 학습 허용도 주장했다.
엔비디아, 바이든 정부의 'AI 확산 규제' 공개 비판: 게임용 PC까지 옥죄는 과잉 규제
엔비디아는 바이든 행정부가 발표한 200여 쪽 분량의 'AI 확산' 신규 규제를 강도 높게 비판하는 성명을 냈다. 엔비디아는 해당 규제가 일반 게이밍 PC와 반도체 유통까지 관료적으로 통제해 미국의 글로벌 기술 경쟁력을 갉아먹는다고 지적했다.
미 백악관, AI 수출 통제 새 규칙 발표…동맹국 규제 풀고 폐쇄형 가중치 차단
바이든-해리스 행정부는 '인공지능 확산 임시 최종 규칙'을 발표했다. 18개 핵심 동맹국에 대한 첨단 칩 수출 제한을 해제하고 인증된 사용자 제도를 신설하는 한편, 우려 국가로의 폐쇄형 모델 가중치 이전을 제한했다. 글로벌 AI 생태계를 미국 중심으로 결속하려는 조치다.
환각률 가장 낮은 AI 모델 순위: Zhipu AI·구글 1.3%로 공동 1위
Vectara의 데이터에 따르면 Zhipu AI의 GLM-4-9B-Chat과 구글의 Gemini-2.0-Flash-Exp가 환각률 1.3%로 가장 낮았으며, OpenAI의 o1-mini가 1.4%로 뒤를 이었다. 이는 경량 및 특화 모델도 대규모 모델 못지않게 사실적 정확성을 확보할 수 있음을 보여준다.
에델만, 주목할 AI 크리에이터 명단 발표: 기관보다 개인 신뢰하는 시대
에델만이 브랜드의 신뢰 구축을 돕기 위한 AI 크리에이터 명단을 공개했다. 대중의 74%가 전통 기관보다 개인을 더 신뢰한다는 조사에 따라, 에델만은 참여율과 신뢰도 지표를 바탕으로 링크드인과 유튜브 중심의 글로벌 B2B AI 전문가들을 엄선했다.
AI로 푸틴 얼굴 합성한 폴란드 전기 영화 개봉 예정
폴란드 파트리크 베가 감독의 1,500만 달러 규모 영어 전기 영화 《Putin》이 1월 10일 개봉한다. AI 기술을 활용해 푸틴의 실제 얼굴을 배우 얼굴에 정밀 합성한 것이 특징이다. 64개국에서 상영될 예정이지만, 딥페이크 윤리와 과장된 연출을 둘러싼 논란도 일고 있다.
맥아피, AI 기반 '스캠 디텍터' 공개…문자·이메일·영상 사기 실시간 차단
맥아피가 CES 2025에서 문자 메시지, 이메일, 딥페이크 동영상 사기를 실시간으로 감지하고 차단하는 AI 도구 '맥아피 스캠 디텍터'를 발표했다. 날로 정교해지는 피싱과 금융 사기를 선제적으로 막는 기능으로, 올봄부터 기존 맥아피 사용자에게 추가 비용 없이 제공된다.
엔비디아, 자율주행 안전 검증 위한 DRIVE AI 시스템 검사 랩 출범
엔비디아는 파트너사의 자율주행 소프트웨어와 시스템 안전성을 검증하는 'DRIVE AI 시스템 검사 랩'을 출범했다. ANAB 인증을 받아 기능 안전 및 AI 기능 안전 표준 충족 여부를 점검하며 콘티넨탈과 소니가 초기 참가자로 합류했다.
애플, AI 알림 요약 표기 개선 약속…BBC 오보 논란 대응
애플은 애플 인텔리전스의 알림 요약 기능이 BBC 뉴스를 왜곡 전달한다는 비판에 대응해, 몇 주 내 소프트웨어 업데이트로 AI 요약본임을 더 명확히 표시하겠다고 밝혔다. 해당 기능은 용의자의 극단적 선택 등 잘못된 요약을 생성해 논란이 됐다. 이용자는 설정의 알림 메뉴에서 요약 기능을 끌 수 있다.
허깅페이스의 AI 에이전트 분석: 완전 자율 에이전트 개발 중단 촉구
허깅페이스가 AI 에이전트의 자율성 수준을 5단계로 분류하고 잠재적 윤리 위험을 분석했습니다. 자율성이 높아질수록 통제력 상실 위험이 커진다며, 코드를 자체 생성하고 실행하는 완전 자율형 대신 인간이 통제 가능한 반자율 시스템에 집중해야 한다고 강조했습니다.
OpenAI, 차세대 추론 모델 'o3' 공개…o1 뛰어넘는 성능
OpenAI가 12일 연속 발표 이벤트의 마지막 날 차세대 추론 모델 o3와 o3 mini를 공개했습니다. 수학, 과학, ARC-AGI 등 주요 벤치마크에서 o1을 크게 앞선 성능을 보여줍니다. 일반 출시는 아직이며, o3 mini가 1월 말 먼저 출시될 예정입니다.
유튜브, AI 학습 선택제 도입: 기본 차단하고 창작자가 직접 허용사 지정
유튜브가 창작자의 동영상을 외부 AI 학습에 쓸지 결정하는 선택(Opt-in) 기능을 도입했다. 기본값은 전체 차단이며, 오픈AI·애플 등 18개 기업 중 원하는 곳만 골라 허용할 수 있다. 단, 구글 자체 모델 학습은 기존 약관대로 유지된다.
앤트로픽, 멀티모달 탈옥 기법 'Best-of-N' 연구 공개
앤트로픽은 새로운 공동 연구 'Best-of-N Jailbreaking'을 발표했다. 연구진은 텍스트, 시각, 오디오 전반에 걸쳐 첨단 AI 모델의 안전장치를 우회할 수 있는 단순하고 범용적인 탈옥 기법을 발견했다고 밝혔다.
오픈AI, 머스크 소송에 반박: 2017년 영리법인 설립 추진자는 머스크 본인
OpenAI는 일론 머스크의 소송에 맞서 과거 이메일 기록을 공개했다. 기록에 따르면 머스크는 2017년 스스로 영리법인을 설립하고 과반 지분과 CEO 자리를 요구했으나 거절당한 뒤 떠났다. OpenAI는 법정 다툼이 아닌 시장 경쟁을 촉구했다.
앤트로픽, 프라이버시 보호하며 AI 실사용 패턴 분석하는 '클리오' 공개
앤트로픽이 이용자 프라이버시를 침해하지 않고 실사용 대화를 분석하는 시스템 '클리오'를 발표했다. 클로드가 직접 대화에서 민감한 정보를 배제하고 주제별로 군집화해, 분석가는 익명화된 거시 트렌드만 확인한다. 개인정보를 들여다보지 않으면서도 조직적 악용을 탐지하고 안전성을 높이는 것이 핵심이다.
샌프란시스코에 등장한 AI 광고판: "인간 채용을 멈추세요"
YC의 지원을 받는 스타트업 아티잔(Artisan)이 샌프란시스코 시내에 "인간 채용을 멈춰라", "AI 직원은 워라밸 불만을 제기하지 않는다"는 자극적인 문구의 광고판을 세웠다. 자사 고객 지원 및 영업용 AI 소프트웨어를 홍보하려는 의도였지만, 직장인들의 일자리 불안을 자극해 SNS에서 디스토피아적이라는 거센 반발을 샀다.