주요 언론사 공동 서한: AI 학습 데이터 투명성과 저작권 보장 요구
The Associated Press와 Getty Images 등 주요 언론 단체들이 전 세계 입법부에 공개 서한을 보내 생성형 AI의 학습 데이터 투명성과 저작권 보호 규제를 요구했다. 권리자의 사전 동의와 보상 협상 보장을 촉구하며, 무단 콘텐츠 학습이 저널리즘 비즈니스 모델을 위협한다고 지적했다.
AI 안전
최신 소식 보기
미 바이든 행정부, 중국 AI·반도체·양자컴퓨팅 투자 제한 행정명령 서명
바이든 미국 대통령이 중국의 AI, 반도체, 양자 컴퓨팅 분야에 대한 미국 자본의 신규 투자를 제한하는 행정명령에 서명했다. 벤처캐피털과 사모펀드 등이 주요 대상이며 특히 반도체 설계 소프트웨어(EDA)와 제조 장비가 집중 타깃이다. 의견 수렴을 거쳐 내년 정식 발효될 예정이다.
뉴욕타임스, 이용약관 개정: AI 학습용 콘텐츠 무단 수집 전면 금지
뉴욕타임스가 텍스트와 이미지 등 자사 콘텐츠를 머신러닝이나 AI 학습에 활용하지 못하도록 이용약관을 개정한 것으로 나타났다. 서면 허가 없이 웹 크롤러를 이용해 데이터를 수집할 경우 제재를 받을 수 있어, 언론사들이 무단 데이터 크롤링에 적극적인 방어벽을 치기 시작했다.
미 국방부, 생성형 AI 태스크포스 '리마' 출범…전군 LLM 도입 총괄
미국 국방부(DoD)가 생성형 AI 전담 조직인 '태스크포스 리마(Task Force Lima)'를 발족했다. 최고디지털·인공지능오피스(CDAO) 주도로 대형언어모델(LLM)을 작전과 행정 전반에 연계하고 데이터 보안 등 안보 리스크를 통제할 방침이다.
남은 식재료 활용하랬더니…뉴질랜드 마트 AI, '염소가스' 레시피 추천해 논란
뉴질랜드 대형마트 팍앤세이브의 식단 생성 AI 'Savey Meal-bot'이 치명적인 염소가스를 만드는 음료 레시피를 추천해 논란이 일었다. 사용자가 가정용 화학물질을 입력하자 표백제 음료, 독극물 샌드위치 등을 제안한 것으로, 마트 측은 안전 통제를 강화 중이라고 밝혔다.
구글·유니버설 뮤직, 목소리 라이선스 기반 AI 음악 제작 도구 협상
외신에 따르면 구글이 유니버설 뮤직 및 워너 뮤직과 아티스트의 목소리와 멜로디를 정식 라이선스하는 AI 음악 도구 출시를 논의 중입니다. 아티스트가 참여 여부를 선택하고 저작권자에게 수익을 배분해, 불법 딥페이크 음원 문제를 합법화하려는 시도입니다.
美 백악관, 대규모 AI 사이버 챌린지 발표: 오픈AI·구글과 보안 취약점 잡는다
미국 바이든 정부는 국가 핵심 인프라 소프트웨어를 보호하기 위한 2개년 대회 'AIxCC'를 출범했다. DARPA 주도로 오픈AI, 구글, 마이크로소프트, 앤트로픽 등이 기술을 지원하며, 총 2천만 달러에 가까운 상금을 걸고 AI를 활용한 취약점 자동 발견 및 패치 기술을 겨룬다.
타자 소리만으로 비밀번호 식별: AI 키 입력 인식률 90% 돌파
가디언에 따르면 영국 연구진이 키보드 타건 소리만 분석해 눌린 키를 맞히는 AI 모델을 개발했다. 스마트폰 녹음 시 95%, 줌(Zoom) 통화 환경에서도 93%의 정확도를 보였다. 화상회의 중 비밀번호를 직접 입력할 때 도청당할 위험이 있는 만큼 생체 인증이나 2단계 인증 활용이 권장된다.
오픈AI, 차세대 모델 학습 위한 웹 크롤러 'GPTBot' 출시
외신에 따르면 오픈AI는 차세대 AI 모델 성능 향상을 위해 공개 웹 데이터를 수집하는 크롤러 'GPTBot'을 출시했다. 페이월이나 개인 식별 정보, 정책 위반 콘텐츠는 수집 대상에서 제외된다. 웹사이트 소유자는 서버의 표준 파일에 'disallow' 명령어를 추가해 수집을 거부할 수 있다.
줌, 약관 개정으로 고객 데이터 AI 학습 허용해 프라이버시 논란
줌이 개정된 이용약관을 통해 원격 측정 및 진단 정보 등 '서비스 생성 데이터'를 거부권 없이 AI 학습에 활용할 수 있도록 규정했다. 음성과 영상, 채팅 내용의 경우 사용자가 생성형 AI 기능을 켜고 명시적으로 동의했을 때만 학습에 사용된다고 밝혔다.
인스타그램, 'AI로 제작·편집' 라벨 표기 기능 테스트 중
더 버지에 따르면 인스타그램이 AI 생성 콘텐츠를 식별하는 라벨 기능을 개발 중이다. 유출된 화면에는 크리에이터 또는 메타의 확인을 거쳐 'AI로 제작되거나 편집됨'이라는 알림이 표시된다. 백악관 서약 이후 이미지 위조와 허위 정보 확산을 막기 위한 조치다.
킥스타터, 생성형 AI 활용 크라우드펀딩에 상세 내역 공개 의무화
킥스타터는 8월 29일부터 생성형 AI를 활용한 프로젝트에 대해 세부 정보 공개를 의무화한다고 발표했다. 창작자는 순수 창작물과 AI 제작물을 구분해 밝혀야 하며, AI 기술 개발 프로젝트는 학습 데이터 출처와 동의 여부를 명시해야 한다. 미이행 시 프로젝트가 중단될 수 있다.
미 의회가 검토 중인 AI 규제 총정리: 허가제부터 연산량 통제까지
복스(Vox)가 미국 정책 당국이 구상 중인 AI 규제안을 정리해 보도했다. 규범, 전담 기구, 자금, 인재의 4대 축을 중심으로 사전 감사, 면허제 도입, 반도체 연산량 추적 등이 논의되고 있다. 주요 모델 개발사에 대한 제도적 통제가 점차 구체화되는 양상이다.
OSI "메타 라마 2는 오픈소스가 아니다" 비판
오픈소스 이니셔티브(OSI)는 메타가 '오픈소스'라는 용어를 오용하고 있다며 라마 2는 오픈소스 정의(OSD)에 부합하지 않는다고 밝혔다. 상업적 이용 규모와 특정 활용 분야를 제한하기 때문이라는 설명이다. OSI는 10월 17일 '오픈소스 AI'의 공식 정의 초안을 발표할 계획이다.
SD 공식 삭제된 화풍, AI 커뮤니티가 LoRA로 부활시켜
AI 커뮤니티 창작자가 LoRA 모델을 활용해 인기 화가 그렉 루트코프스키의 화풍을 복원하고 이를 Civitai에 무료로 배포했다. 루트코프스키의 반발로 Stability AI가 모델에서 그의 화풍을 제외했으나, 오픈소스 환경 특성상 커뮤니티 차원의 추가 학습과 복제를 통제하기란 불가능함을 보여준다.
대형 언론사들 '반 AI 연합' 추진: 데이터 학습 대가로 수십억 달러 요구
세마포(Semafor) 보도에 따르면 IAC와 The New York Times, 뉴스 코퍼레이션 등 주요 언론사들이 AI 기업의 무단 데이터 학습에 맞서 연합 결성을 추진하고 있다. 수천만 달러 선에서 합의하려는 빅테크와 달리 언론사 측은 수십억 달러 규모의 정당한 보상을 요구하며 소송과 입법 압박을 검토 중이다.
악성 사이버 공격 전용 AI 'FraudGPT' 다크웹 등장
보안 기업 넷엔리치는 다크웹과 텔레그램에서 사이버 범죄 전용 생성형 AI 'FraudGPT'가 유통되고 있다고 밝혔다. 월 200달러에 피싱 메일 및 악성코드 제작을 지원하며 3천 건 이상 판매된 것으로 나타났다. 안전장치가 제거된 AI가 대규모 해킹 공격의 진입 장벽을 빠르게 낮추고 있다.
AI 빅4 뭉쳤다: 안전한 프론티어 AI 개발 위한 포럼 출범
Anthropic, Google, Microsoft, OpenAI가 '프론티어 모델 포럼'을 공동 발족했다. 첨단 AI 모델의 안전 연구를 촉진하고 벤치마크 및 모범 사례를 공유하는 것이 핵심이다. 규제 당국이 본격적으로 나서기 전, 선도 기업들이 주도권을 쥐고 자체 가이드라인을 세우려는 움직임이다.
정확도 26% 그친 OpenAI, AI 텍스트 감지 도구 조용히 폐쇄
외신에 따르면 OpenAI가 AI 텍스트 판별 도구인 'AI Classifier' 서비스를 조용히 중단했다. AI 작성 글 감별률이 26%에 불과하고 인간의 글을 오탐하는 비율도 9%에 달했기 때문이다. OpenAI는 현재 AI 텍스트 탐지의 한계를 인정하고 향후 효과적인 출처 추적 기술 개발에 집중할 계획이다.
샘 올트먼의 월드코인 공식 출시: 홍채 인식으로 AI와 진짜 인간 구분
오픈AI CEO 샘 올트먼이 공동 창업한 암호화폐 프로젝트 월드코인이 공식 출범했다. 핵심은 특수 기기인 '오브(Orb)'로 홍채를 스캔해 AI가 아닌 인간임을 인증하는 '월드 ID'다. 20개국 35개 도시에 1,500대의 오브를 배치해 대규모 가입을 유치할 계획이다.