생성형 AI 저작권 소송은 시작일 뿐: 공정 이용 논란과 기업 리스크 확산
테크크런치는 오픈AI와 스태빌리티 AI 등을 상대로 한 저작권 소송 급증 현상을 집중 조명했다. 핵심 쟁점은 저작물 무단 학습이 '공정 이용'에 해당하는지 여부다. 법률 전문가들은 소송이 이제 막 시작됐으며 상업적 AI 도입 기업들의 법적 리스크가 커지고 있다고 경고했다.
AI 안전
최신 소식 보기
CNET, 논란 된 AI 기사 작성 일시 중단…오류·SEO 어뷰징 비판
금요일, IT 매체 CNET이 기사 작성용 AI 봇 사용을 당분간 중단한다고 밝혔다. CNET은 2022년 11월부터 70편 이상의 금융 해설 기사를 AI로 조용히 발행해왔으나, 이자 계산 오류 등 기초적인 사실 왜곡과 검색 트래픽만을 노린 비윤리적 운영에 대한 거센 비판에 직면했다.
예술가 3인, Stability AI와 Midjourney 상대 집단소송 제기: 무단 학습에 반발
일러스트레이터 등 작가 3인이 동의 없이 작품을 AI 모델 학습에 사용했다며 Stability AI, Midjourney, DeviantArt를 상대로 샌프란시스코 법원에 집단소송을 냈다. 원고들은 이름만 입력하면 화풍을 손쉽게 베낄 수 있어 생계를 위협받고 있다고 주장하며, 이는 생성형 AI 기업을 상대로 한 작가들의 첫 사법 도전이다.
타임지 폭로: 챗GPT의 안전 필터 뒤에는 시급 2달러 미만의 케냐 노동자가 있었다
수요일 타임지 보도에 따르면 OpenAI는 챗GPT의 유해 콘텐츠 생성을 막기 위해 케냐의 외주 인력을 고용해 아동 학대, 자살 등 극단적인 텍스트를 시급 2달러 미만에 검수하도록 했습니다. 직원들은 심각한 정신적 외상을 호소했습니다. 고도화된 AI 기술 이면에 가려진 저개발국 노동력 착취 문제가 도마 위에 올랐습니다.
AI 이미지 생성기의 직업 편향 실태: CEO 프롬프트에 남성만 생성
PCMag은 Tidio의 조사를 인용해 주요 AI 이미지 모델에 심각한 고정관념이 반영되어 있다고 전했습니다. 스테이블 디퓨전에서 'CEO'를 생성하면 중년 백인 남성만 나왔으며, '감정적'이라는 단어를 추가해야 비로소 여성이 등장했습니다. 조사 대상 중 AI에 편향이 없다고 답한 비율은 2%에 불과했습니다.
게티이미지, 스테이빌리티 AI 제소…수백만 장 이미지 무단 학습 혐의
게티이미지가 런던 고등법원에 스테이빌리티 AI를 상대로 소송을 제기했다. 스테이블 디퓨전 모델 학습을 위해 자사 저작권 이미지 수백만 장을 허가 없이 무단 사용했다는 혐의다. 게티이미지는 AI 기술 자체는 지지하며 타사에는 정식 라이선스를 공급해왔으나, 해당 업체가 합법적 절차를 무시했다고 지적했다.
딥마인드, 챗GPT 대항마 '스패로우' 연내 비공개 테스트 추진...출처 표기·안전성 특화
구글 딥마인드가 대화형 AI '스패로우(Sparrow)'의 비공개 베타 출시를 2023년 내 검토 중이라고 밝혔다. 챗GPT의 대항마로 꼽히는 스패로우는 답변의 출처를 밝히고 유해성을 줄이는 안전성에 방점을 뒀으며, 사실 질문 테스트에서 78% 비율로 근거를 제시했다. 다만 엄격한 규칙으로 인해 초기에는 보수적으로 작동할 전망이다.
예술가들, 미드저니·스태빌리티 AI에 저작권 소송 제기
세 명의 예술가가 스태빌리티 AI, 미드저니, 데비안트아트를 상대로 집단 저작권 소송을 제기했다. 원작자의 동의 없이 수십억 장의 이미지를 AI 학습에 무단 사용해 화풍을 모방했다고 주장하며 손해배상과 금지명령을 청구했다. AI 모델 학습이 공정 이용에 해당하는지 시험하는 분수령이 될 전망이다.
ChatGPT와 미드저니로 72시간 만에 동화책 출판…예술계 거센 반발
12월 미국의 한 기획자가 ChatGPT로 글을 쓰고 미드저니로 삽화를 만들어 72시간 만에 동화책을 출판했다. 그러나 제작 과정을 공개한 직후 데이터 무단 학습과 표절을 지적하는 예술가들의 거센 항의를 받았다. 생성형 AI 창작과 저작권 보호 간의 갈등을 보여준다.
ChatGPT 부정행위 우려 확산: 영국 대학가, 과제 평가 방식 재검토 촉구
가디언에 따르면, ChatGPT를 이용해 과제 에세이를 대필하는 사례가 늘어날 것으로 우려되자 영국 대학 강사들에게 평가 방식을 전면 개편하라는 권고가 내려졌다. 유니버시티 칼리지 런던 등 일부 학과는 이미 에세이 과제 옵션을 없앴으며, 단순 금지 대신 구술시험 도입 등 새로운 대안이 논의되고 있다.
러시아 해커, 가상 번호로 ChatGPT 우회해 악성코드 제작 시도
보안 업체 체크포인트에 따르면 러시아 사이버 범죄자들이 가상 전화번호 등을 이용해 ChatGPT의 지역 차단 조치를 우회하고 있는 것으로 나타났다. 해커들은 지하 포럼에서 우회법을 공유하며 정보 탈취형 악성코드를 만들고 피싱 메일을 정교화하는 데 AI를 적극 활용하고 있다.
딥마인드 CEO 데미스 허사비스, AI 신중론 제기: 페이스북식 개발 문화 경고
딥마인드 CEO 데미스 허사비스가 타임지 인터뷰에서 AGI 개발 경쟁에 대한 경계를 촉구했다. 그는 문제를 나중에 고치는 과거 페이스북식 개발 문화에 반대하며, 치명적인 화학 무기나 사이버 공격 같은 위험을 감안할 때 선출시 후수습 방식은 위험하다고 강조했다.
메타, 셔터스톡과 파트너십 확대: 수백만 건의 이미지·음악으로 AI 학습
메타와 셔터스톡이 파트너십 확대를 발표하며 메타가 셔터스톡의 수백만 건에 달하는 이미지, 비디오, 음악 라이브러리를 자사 AI 모델 학습과 평가에 활용하기로 했다. 셔터스톡은 데이터 학습에 기여한 창작자에게 보상을 제공하는 체계를 강조하며 저작권 리스크를 줄인 합법적 데이터 공급을 내세웠다.
일레븐랩스, 세상에 없던 목소리 직접 만드는 '음성 디자인' 기능 발표
일레븐랩스가 완전히 새로운 가상 음성을 생성할 수 있는 음성 디자인 기능을 공개했다. 성별, 연령, 악센트 등 파라미터를 설정하면 세상에 없던 고유한 목소리를 생성할 수 있으며, 이 기능은 2월 Voice Lab에 도입될 예정이다.
‘로켓 리그’ 랭크전에 AI 핵 출몰… 개발사 사이오닉스 대응책 조사 착수
게임 개발사 사이오닉스는 ‘로켓 리그’ 랭크 매치에 등장한 AI 부정행위 대응책을 조사 중이라고 밝혔습니다. 일부 유저가 강화학습 기반 봇 ‘Nexto’를 악용해 불공정한 이득을 취하는 상황입니다. Nexto 제작진은 오용 방지 조치를 취하고 있으며, 상황이 안정될 때까지 해당 수준의 봇 공개를 보류해 달라는 요청을 받았습니다.
EU, 생성형 AI 규제 착수…학습 방식 공개 요구·최대 6% 벌금
MIT 테크놀로지 리뷰에 따르면 유럽연합(EU)은 입법 중인 'AI 법(AI Act)'을 개정해 ChatGPT, 스테이블 디퓨전 등 생성형 AI를 규제 대상에 포함할 계획이다. 개발사에 모델 구축 및 학습 과정의 투명성을 요구하며, 위반 시 글로벌 연간 매출의 최대 6%에 달하는 벌금이 부과될 수 있다.
메타, 광고 차별 막는 AI 시스템 'VRS' 미국 도입
메타는 광고 배포 과정의 편향을 줄이는 머신러닝 시스템 'VRS'를 미국에 출시했다. 미 법무부와의 합의에 따른 조치로, 실제 광고에 노출된 인구통계학적 분포를 측정해 조율한다. 주택 광고에 우선 적용되며, 향후 신용 및 구인 광고로 확대될 예정이다.
싱가포르, 신뢰할 수 있는 AI 검증 툴 'A.I. Verify' 글로벌 시범 운영
싱가포르 IMDA와 PDPC는 AI 거버넌스 테스트 프레임워크이자 툴킷인 'A.I. Verify'의 MVP를 발표했다. 기업은 기술 테스트와 프로세스 점검을 통해 자사 AI 시스템의 신뢰성과 투명성을 객관적으로 입증할 수 있으며, 현재 글로벌 기업의 시범 참여를 받고 있다.
마이크로소프트 VALL-E 공개: 3초 음성으로 목소리 복제
마이크로소프트가 텍스트 음성 변환 AI 모델 VALL-E를 발표했다. 단 3초 분량의 오디오 샘플만으로 화자의 음색과 감정, 방 안의 음향 환경까지 모사한다. 6만 시간 분량의 음성 데이터로 훈련되었으며, 사칭 등 오용 위험을 고려해 코드는 오픈소스로 공개하지 않는다.
어도비 '콘텐츠 분석' 기본 활성화 논란: 생성형 AI 학습은 부인
어도비 크리에이티브 클라우드가 사용자 사진을 AI 학습에 쓴다는 의혹이 제기되며 논란이 일었다. 어도비는 사물 인식 등 일반 알고리즘 개선에만 쓰이며 실험적 생성형 AI 기능 학습에는 고객 데이터를 쓰지 않는다고 해명했다. 찜찜한 사용자는 설정에서 직접 기능을 끌 수 있다.