美 탐사보도센터, 오픈AI와 마이크로소프트 저작권 침해로 제소
비영리 언론사 탐사보도센터(CIR)가 오픈AI와 마이크로소프트를 상대로 저작권 침해 소송을 제기했다. CIR 측은 허가나 대가 지불 없이 자사 탐사보도 기사를 무단 수집해 AI 학습에 사용함으로써 수익을 침해했다고 주장했다. 뉴욕타임스 등에 이어 언론계의 AI 저작권 소송이 계속 번지는 양상이다.
AI 안전
최신 소식 보기
OpenAI, GPT-4의 오류 잡아내는 'CriticGPT' 공개
OpenAI는 ChatGPT의 코드 오류를 찾아내는 모델 'CriticGPT'를 공개했다. 인간 트레이너가 CriticGPT의 도움을 받을 경우 단독 작업보다 오류 지적 성과가 60% 더 뛰어났다. OpenAI는 이를 RLHF 파이프라인에 통합해 복잡한 AI의 정렬 난이도를 낮출 계획이다.
래빗 R1 보안 결함 노출: 하드코딩된 API 키로 과거 전체 답변 열람 위험
리버스 엔지니어링 그룹 래빗튜드는 래빗 R1 코드베이스에 핵심 API 키가 하드코딩되어 있어 기기가 생성한 모든 응답과 개인정보가 노출될 수 있는 상태였다고 밝혔다. 기기를 먹통으로 만들거나 응답 변조도 가능한 수준이다. 래빗 측은 6월 25일 인지해 조사 중이며 고객 데이터 유출은 확인되지 않았다고 밝혔다.
미국음반산업협회, 음악 생성 AI Suno와 Udio에 저작권 소송 제기
미국음반산업협회(RIAA)가 월요일 AI 음악 스타트업 Suno와 Udio를 상대로 대규모 저작권 침해 소송을 제기했다. 허가 없이 방대한 저작권 음원을 학습에 사용했다며 작품당 최대 15만 달러의 배상을 요구했다. 생성형 AI의 무단 학습 데이터 활용이 '공정 이용'에 해당하는지가 이번 소송의 핵심 쟁점이다.
Anthropic, 정부 시장 공략 본격화: Claude 3, AWS GovCloud 및 정보기관 마켓플레이스 출시
Anthropic은 Claude 3 Haiku 및 Sonnet을 AWS GovCloud와 미 정보기관(IC) 전용 마켓플레이스에 제공한다고 발표했습니다. 인신매매 방지나 군사적 사전 경고 등 승인된 해외 정보 분석을 지원하도록 이용 정책 예외를 신설했으나, 무기 개발과 사이버 공격 금지 규정은 유지됩니다.
3대 음반사, AI 음악 생성 기업 Suno와 Udio 제소: 저작권 침해 학습 혐의로 수십억 달러 손해배상 청구
유니버설 뮤직, 워너 뮤직, 소니 뮤직 등 대형 음반사들이 Suno와 Udio를 상대로 저작권 침해 소송을 제기했다. 허가 없이 저작권이 있는 음원을 AI 학습에 무단 사용했다는 혐의로, 작품당 최대 15만 달러씩 총 수십억 달러 규모의 배상을 요구하고 있다. 텍스트와 이미지에 이어 음악 AI 분야에서도 저작권 분쟁이 본격화됐다.
규제 불확실성 여파: 애플, 유럽서 '애플 인텔리전스' 연내 출시 보류
애플이 EU의 디지털 시장법(DMA)에 따른 규제 불확실성으로 인해 올해 EU 지역에서 '애플 인텔리전스'와 아이폰 미러링 등 신기능을 출시하지 않겠다고 발표했습니다. 애플은 상호운용성 요구가 사용자 보안과 개인정보를 침해할 수 있다고 우려하며, 해결책 마련을 위해 유럽연합 집행위원회와 협의 중입니다.
AI 기업들, 'robots.txt' 무시하고 웹 콘텐츠 무단 수집 논란
로이터에 따르면 콘텐츠 라이선스 스타트업 톨빗(TollBit)은 다수의 AI 기업이 웹 표준 규약인 robots.txt를 우회해 언론사 사이트를 무단 크롤링하고 있다고 밝혔다. 최근 포브스가 퍼플렉시티의 무단 전재를 비판한 데 이어, 발행사들이 AI를 막던 기존 방어벽이 사실상 무력화됐다는 지적이다.
OpenAI, 사이버보안 지원 성과 공개…연구자용 기업용 계정 지원 확대
OpenAI가 사이버보안 지원 프로그램 1주년 성과를 공개했다. 600건 이상의 지원서 중 프롬프트 인젝션 방어와 취약점 분석 등 다양한 연구를 지원했으며, 연구자들을 돕기 위해 기존 ChatGPT Plus 무료 지원을 넘어 Team 및 Enterprise 계정까지 지원을 확대한다.
애플 인텔리전스, AI 편집 이미지 메타데이터에 수정 기록 남긴다
애플의 크레이그 페데리기 수석부사장은 최근 팟캐스트에서 애플 인텔리전스로 생성하거나 편집한 모든 이미지 메타데이터에 AI 수정 내역을 명시할 것이라고 밝혔다. 배경 속 사물을 지우는 단순한 편집 작업도 표기 대상이다. 또한 애플은 실존 인물이나 장소를 사실적으로 모사하는 AI 이미지 생성 기술은 개발하지 않겠다고 선을 그었다.
오픈AI 떠난 일리야 수츠케버, 안전한 초지능 연구 기업 'SSI' 창업
오픈AI의 공동 창립자이자 전 수석 과학자인 일리야 수츠케버가 새 스타트업 '세이프 슈퍼인텔리전스(SSI)' 설립을 발표했다. SSI는 단기적인 상업화 압박에서 벗어나 오직 안전하고 강력한 초지능 시스템 개발이라는 단 하나의 목표에만 집중할 계획이다.
메타 FAIR, 멀티모달 모델 카멜레온과 오디오 워터마크 등 신규 AI 모델 5종 공개
메타의 AI 연구 조직 FAIR가 신규 연구 모델 5종을 공개했다. 텍스트와 이미지를 동시 입출력하는 카멜레온, 비트와 코드로 제어하는 음악 모델 JASCO, 기존 대비 최대 485배 빠른 AI 음성 탐지 워터마크 기술 AudioSeal 등이 포함된다.
미 정부와 빅테크의 첫 합동 훈련: AI 시스템 사이버 공격 시뮬레이션
지난주 미국 CISA는 마이크로소프트, 오픈AI, 엔비디아 등과 함께 핵심 AI 시스템을 겨냥한 최초의 사이버 공격 모의훈련을 진행했습니다. 50여 명의 전문가가 대응 체계를 점검했으며, 훈련 결과는 올해 말 발표될 AI 보안 인시던트 대응 지침에 반영될 예정입니다.
OpenAI, 전 NSA 국장 이사회 영입…스노든 "고의적 배신" 맹비난
OpenAI가 전 미국 국가안보국(NSA) 국장 폴 나카소네를 이사회 산하 안전·보안 위원회에 선임했다. OpenAI는 AI 슈퍼컴퓨터를 해킹으로부터 지키기 위한 조치라고 밝혔으나, 에드워드 스노든은 감시 기술 악용 우려를 제기하며 OpenAI를 절대 믿지 말라고 경고했다.
메타, 유럽서 '메타 AI' 출시 잠정 중단…개인정보 규제 압박
메타가 아일랜드 데이터보호위원회(DPC)의 요청에 따라 유럽 내 메타 AI 어시스턴트 출시 계획을 일시 중단했다. 사용자 공개 데이터를 AI 학습에 활용하는 방식을 둘러싼 논란 때문이다. 메타는 현지 데이터를 배제하면 '이류 수준의 경험'만 줄 수 있다며 유감을 표했다.
OpenAI, 미 퇴역 육군 대장 폴 나카소네 이사회 영입…보안 강화
OpenAI는 미 퇴역 육군 대장인 폴 나카소네를 이사회 및 안전·보안 위원회 위원으로 영입했다고 발표했다. 미 사이버사령부를 이끌었던 사이버 보안 전문가인 그의 영입은 AI 모델 가중치와 훈련 인프라를 정교한 사이버 위협으로부터 보호하기 위한 조치다.
실제 사진으로 AI 공모전 입상한 사진작가, 결국 실격 처리
외신에 따르면 사진작가 마일스 애스트레이가 실제 플라밍고 사진을 1839 컬러 사진상 AI 부문에 출품해 3위와 인기상을 차지했다. 심사위원들은 진짜 사진임을 간파하지 못했으나 결국 규정 위반으로 실격됐다. 작가는 실제 자연과 창작물이 여전히 기계를 이길 수 있음을 보여주려 했다고 밝혔다.
메타 AI, 페이스북 댓글 요약 기능 테스트… 황당한 댓글까지 전부 요약
더 버지에 따르면, 메타가 페이스북 댓글창에 메타 AI를 도입해 이용자들의 반응을 자동 요약해 주는 기능을 테스트 중이다. 엉뚱한 농담과 거친 논쟁까지 요약에 그대로 반영되고 있으며, 이용자 콘텐츠를 AI 학습에 활용하는 메타의 데이터 정책에 대한 프라이버시 우려도 함께 불거졌다.
황당 답변 논란에 입 연 구글, AI 오버뷰에 풍자·포럼 글 제한 조치
구글은 AI 오버뷰에서 발생한 황당한 답변 오류에 대해 해명하고 10여 가지 기술 개선책을 내놓았다. 바위 섭취나 피자 접착제 등 문제는 풍자 콘텐츠나 포럼 글을 오독해 발생한 것으로, 유저 생성 콘텐츠의 인용과 무의미한 검색어에 대한 답변 생성을 제한하기로 했다.
미 캘리포니아 주지사 "AI 과잉 규제 혁신 저해해"
개빈 뉴섬 캘리포니아 주지사는 GenAI 서밋에서 과도한 AI 규제가 기술 혁신을 가로막고 주정부의 기술 주도권을 위협할 수 있다고 경고했다. 상위 50개 AI 기업 중 35개가 위치한 만큼, 합리적인 수준의 규제가 필요하다는 입장이다.