메타, 'AI 옷 벗기기' 앱 개발사 제소…단속 기술도 대폭 강화
메타가 동의 없는 음란 딥페이크를 제작하는 'CrushAI'의 개발사 Joy Timeline을 상대로 홍콩에서 소송을 제기했습니다. 아울러 노출 이미지가 없는 위장 광고까지 잡아내는 감지 기술을 도입하고, 3,800개 이상의 위반 URL을 타 테크 기업들과 공유했습니다.
AI 안전
최신 소식 보기
딥마인드, Weather Lab 공개: AI로 열대 저기압 경로·강도 예측
Google DeepMind는 기상 플랫폼 Weather Lab과 함께 실험용 AI 열대 저기압 예측 모델을 선보였다. 최대 15일 앞서 50가지 시나리오를 예측하며, 5일 경로 오차가 주요 물리 모델보다 평균 140km 적어 약 1.5일 앞선 정확도를 보였다. 미국 국립허리케인센터와 협력해 실시간 검증 중이다.
디즈니·유니버설, 미드저니 저작권 침해로 전격 제소
디즈니와 유니버설이 수요일 미드저니를 상대로 저작권 침해 소송을 제기했다. 양사는 미드저니의 AI 생성기가 다스 베이더, 미니언즈 등 캐릭터를 무단 복제해 '표절의 바닥없는 구렁텅이' 역할을 하고 있다고 주장하며, 출시 예정인 동영상 생성 도구까지 겨냥해 배심원 재판을 요구했다.
편집진 거센 반발에 위키피디아 AI 요약 도입 시험 중단
위키미디어 재단이 모바일 위키피디아 문서 상단에 AI 생성 요약을 띄우려던 테스트를 전격 중단했다. 편집자 커뮤니티는 구글을 따라 해 조급하게 기계 요약을 도입하는 것은 독자의 지적 수준을 무시하고 위키피디아의 신뢰도를 훼손하는 행위라며 강하게 반발했다.
오픈AI, 오픈 가중치 모델 출시 연기…"6월 아닌 늦여름 공개"
샘 올트먼 오픈AI CEO는 오픈 가중치 모델 공개를 6월에서 늦여름으로 미룬다고 밝혔다. 연구팀이 예상 밖의 놀라운 성과를 달성해 충분히 기다릴 가치가 있지만, 마무리까지 시간이 조금 더 필요하다는 설명이다.
중국 대입 시험 기간 AI 챗봇 문제 풀이 기능 일제히 차단…부정행위 방지
외신에 따르면 중국 대입 시험 가오카오 기간 동안 알리바바의 퉁이첸원, 바이트댄스의 더우바오, Kimi, 딥시크 등 주요 AI 챗봇이 사진 인식 및 문제 풀이 기능을 일시 중단했다. 챗봇들은 시험의 공정성을 확보하기 위한 조치라고 설명했다.
생성형 AI 첫 대형 저작권 재판: 게티, 스태빌리티 AI 상대 英 법정 공방
게티이미지가 스태빌리티 AI를 상대로 제기한 저작권 침해 소송의 변론이 영국 고등법원에서 시작됐다. 게티는 스테이블 디퓨전 학습을 위한 대규모 무단 도용을 주장하며 대가 지불을 요구했고, 스태빌리티 측은 AI 산업 전체를 위협하는 처사라고 반박했다.
앤트로픽, 장기이익신탁 신임 위원으로 국가안보 전문가 리처드 폰테인 영입
앤트로픽은 신미국안보센터(CNAS) CEO인 리처드 폰테인을 독립 거버넌스 기구인 ‘장기이익신탁(LTBT)’ 위원으로 선임했다. 백악관 국가안보회의와 국방정책자문위원회 출신인 폰테인의 합류는 첨단 AI가 국가 안보 및 지정학에 미칠 위험을 선제적으로 관리하고 공공의 이익을 감독하기 위한 조치다.
EleutherAI, 8TB 규모 합법·공용 텍스트 AI 훈련 데이터셋 공개
EleutherAI가 2년간 구축한 8TB 크기의 AI 훈련 데이터셋 'The Common Pile v0.1'을 공개했다. 허가받은 저작물과 퍼블릭 도메인 텍스트로만 구성됐으며, 이를 기반으로 훈련한 7B 크기의 Comma 모델은 초기 Llama 수준의 벤치마크 성능을 입증했다.
앤트로픽, 美 국가안보 전용 AI '클로드 거브' 출시
앤트로픽이 미국 국가안보 기관 전용 모델 '클로드 거브(Claude Gov)'를 공개했다. 최고 등급의 기밀 환경에 이미 배포되었으며, 기밀 문서를 다룰 때의 거부 반응을 줄이고 정보 분석 및 사이버 보안 데이터 해석 능력을 대폭 끌어올렸다.
X, 게시물로 AI 모델 학습 금지…개발자 약관 개정
X는 개발자 계약을 업데이트하고, 플랫폼 게시물이나 API를 이용해 파운데이션 모델을 미세조정하거나 학습시키는 것을 금지했다. 이는 레딧처럼 향후 유료 데이터 라이선스 계약을 염두에 둔 조치로 풀이된다. 다만 X는 자체 AI 모델인 Grok 학습에는 사용자 데이터를 계속 활용하고 있다.
오픈AI, NYT 소송 관련 사용자 대화 기록 무기한 보존 명령에 항소
오픈AI는 뉴욕타임스(NYT)와의 저작권 소송 과정에서 내려진 ChatGPT 및 API 사용자 데이터 무기한 보존 명령에 항소했다고 밝혔다. 오픈AI는 삭제된 대화까지 보존하라는 원고 측 요구가 자사의 30일 자동 삭제 프라이버시 원칙을 훼손한다고 반발했다.
OpenAI, 삭제된 대화 포함 모든 ChatGPT 로그 보존 명령에 반발
OpenAI는 삭제된 채팅과 API 기록을 포함한 모든 ChatGPT 로그를 보존하라는 법원 명령의 취소를 요청했다. 뉴욕타임스 등 저작권 소송 원고 측의 증거 인멸 주장에 따른 조치였으나, OpenAI는 이번 명령이 전 세계 수억 명 사용자의 프라이버시를 침해한다고 반발했다.
레딧, 앤트로픽 제소: 크롤링 중단 약속 어기고 10만 회 무단 수집 주장
레딧이 수요일 앤트로픽을 상대로 소송을 냈다. 수집을 중단했다던 약속과 달리 2024년 7월 이후 10만 회 이상 무단 접근했다는 주장이다. 레딧은 20년간 쌓인 인간 대화가 Claude 학습에 무단 상용화됐다고 비판했으며, 앤트로픽은 혐의를 부인하며 적극 대응을 예고했다.
15억 달러 기업가치 Builder.ai 파산 신청, 'AI 개발' 실체는 인도 외주 인력이었다
마이크로소프트 등이 투자해 기업가치 15억 달러를 인정받았던 영국 스타트업 Builder.ai가 이번 주 파산 보호를 신청했다. 피자 주문하듯 코딩한다는 자체 AI의 실체는 챗봇 행세를 하며 수작업으로 코딩하던 수백 명의 인도 엔지니어였던 것으로 밝혀졌다. 매출 부풀리기 의혹까지 겹쳐 미 당국의 조사를 받으며 챗GPT 이후 최대 규모의 AI 스타트업 붕괴로 기록됐다.
OpenAI 취약점 공개 정책 발표: AI가 찾은 제로데이, 기한 없이 협력
OpenAI는 자체 AI 시스템이 외부 소프트웨어에서 발견한 보안 취약점을 안전하게 보고하는 새 정책을 발표했다. 이미 제로데이 취약점을 포착한 바 있으며, 개발자의 부담을 줄이기 위해 일방적인 마감 시한을 두지 않고 유연하게 대응할 방침이다.
틱톡, AI 기반 스마트 키워드 필터 도입: 유의어까지 자동 차단
틱톡이 추천 피드를 맞춤 설정할 수 있는 AI 기반 '스마트 키워드 필터'를 발표했다. 사용자가 입력한 차단 키워드 외에도 AI가 유사한 단어와 유의어까지 자동으로 인식해 피드 노출을 제한한다. 향후 몇 달 내 키워드 한도를 200개로 늘리고 대량 등록도 지원할 계획이다.
오픈AI 사태 영화화: 루카 과다니노 연출, 앤드루 가필드 물망
외신에 따르면 루카 과다니노 감독이 아마존 MGM 영화 '아티피셜'의 연출을 논의 중이다. 2023년 오픈AI의 샘 올트먼 해임 및 복귀 소동을 다루며, 앤드루 가필드가 올트먼 역으로 거론되고 있다. 올여름 크랭크인을 목표로 한다.
AI 대가 요슈아 벤지오, 속임수 막는 AI 개발 위해 비영리단체 'LawZero' 설립
튜링상 수상자 요슈아 벤지오 교수가 AI 안전 비영리단체 LawZero를 설립했다. 약 3천만 달러의 초기 자금으로 개발 중인 'Scientist AI'는 자율 에이전트의 위험 행동 확률을 예측해 속임수나 차단 회피 시도를 차단한다. 에이전트의 위험한 자율성을 통제할 안전장치 마련이 핵심이다.
라디오헤드 톰 요크, 생성형 AI 맹비난: "창작자 약탈하는 테크 브로의 악몽"
라디오헤드의 프런트맨 톰 요크가 인터뷰를 통해 생성형 AI가 창작자들의 작업을 훔쳐 생기 없는 모조품을 만들고 있다고 강도 높게 비판했다. 그는 AI에 진정한 독창적 사고 능력이 없으며, 인간의 노동을 인정하지 않는 현재의 경제 구조는 도덕적으로 잘못되었다고 지적했다.