밸브, 스팀 AI 콘텐츠 규제 해명 "AI 배척 아닌 저작권 문제"
밸브가 유로게이머를 통해 스팀에서 AI 생성 콘텐츠를 금지하려는 것이 아니라고 밝혔다. 최근의 등록 거절은 개발자가 에셋의 권리를 입증하지 못해 현행 저작권법을 따른 조치일 뿐이며, 권리 침해가 없다면 AI 도입을 적극 반영하겠다고 덧붙였다.
AI 안전
최신 소식 보기
스팸 전화 역공：ChatGPT 챗봇으로 사기꾼 시간 뺏는 유료 서비스 등장
캘리포니아의 한 개발자가 ChatGPT와 음성 복제 기술을 활용해 스팸·사기 전화를 응대하고 시간을 끌어주는 Jolly Roger 서비스를 연 25달러에 선보였다. 수다쟁이 노인 등 다양한 페르소나로 사기꾼을 최대 15분간 붙잡아 두며, 통화 연결을 유지해 금전적·시간적 손실을 입힌다.
'AI 대부' 제프리 힌튼의 경고: "선한 AI가 악한 AI 이긴다는 보장 없다"
토론토 Collision 콘퍼런스에서 'AI 대부' 제프리 힌튼은 악한 AI를 막으려는 선한 AI가 통제권을 쥘 수 있을지 확신하지 못한다고 밝혔다. 군사용 전투 로봇과 빈부격차 심화 등을 경고하며, 딥마인드 등 업계의 낙관론과 달리 사회적 통제에 막대한 비용과 변화가 따를 것이라고 지적했다.
밸브, 스팀서 AI 생성 게임 반려 확산: 저작권 불확실성 이유
6월 말 복수의 인디 개발자들에 따르면 밸브가 AI 생성 아트나 텍스트가 포함된 게임의 스팀 출시 승인을 거부하고 있다. 밸브는 AI 학습 데이터의 저작권 소유권이 명확하지 않다는 점을 거절 사유로 들었으며, 아직 공식 가이드라인은 업데이트되지 않은 상태다.
메타, 알고리즘 내부 공개: AI 추천 원리 담은 시스템 카드 발표
메타는 Facebook과 Instagram의 AI 추천 알고리즘 작동 방식을 설명하는 22개의 '시스템 카드'를 공개했습니다. 피드와 릴스 추천에 쓰이는 신호와 예측 모델을 상세히 소개하며, 사용자가 추천 이유를 확인하고 선호도를 직접 제어할 수 있는 도구도 함께 확대합니다.
OpenAI, 런던에 첫 해외 사무소 설립…딥마인드 안마당서 정면 승부
OpenAI가 영국 런던에 첫 해외 지사를 설립한다고 발표했다. 2015년 창립 이래 첫 해외 확장으로, 연구 개발 역량 강화와 현지 정책 협력을 맡는다. 구글 딥마인드의 본거지이자 인재 풀이 풍부한 런던에 둥지를 틀며 최고급 인재 유치와 유럽 내 규제 대응에 본격 시동을 걸었다.
할리우드 배우 300여 명 "AI 학습 보상 없으면 파업" 공개서한
제니퍼 로렌스 등 할리우드 배우 300여 명이 미국배우조합(SAG-AFTRA) 지도부에 타협 없는 협상을 요구하는 공개서한을 보냈다. 배우들은 자신의 초상권을 보호하고 작품이 AI 학습에 사용될 때 정당한 보상을 지급받아야 한다며, 요구가 관철되지 않을 경우 파업에 돌입할 준비가 되어 있다고 밝혔다.
OpenAI, 웹 데이터 무단 수집으로 집단소송 피소…저작권·개인정보 침해 혐의
미국 캘리포니아의 한 로펌이 수요일 OpenAI를 상대로 연방 법원에 집단소송을 제기했다. ChatGPT 훈련을 위해 인터넷 공개 데이터를 무단 크롤링해 수많은 사람의 저작권과 사생활을 대규모로 침해했다는 주장이다. 원고 측은 법원이 AI 알고리즘 학습에 규제를 두고 데이터 이용에 대한 보상을 명령할 것을 요구하고 있다.
메타의 오픈소스 AI '라마', 무검열 성인용 챗봇 제작에 악용 논란
워싱턴포스트에 따르면 메타의 오픈소스 거대언어모델 라마(LLaMA)가 안전 가드레일 없는 성인용 챗봇 제작에 악용되고 있다. 폭력적인 시나리오까지 무제한 생성되면서, 프론티어 AI 모델을 오픈소스로 공개하는 것이 과연 안전한가를 둘러싼 논란이 다시 불붙었다.
더버지 설문조사: AI 도구 사용자는 3명 중 1명뿐, 76%는 법적 규제 지지
더버지가 미국 성인 2000명을 조사한 결과, 전용 AI 도구를 사용해 본 사람은 3명 중 1명에 불과한 것으로 나타났다. 활용 분야는 질의응답과 아이디어 구상이 주를 이뤘다. 특히 응답자의 76%가 법적 규제 마련을 지지했으며, 78%는 AI 생성물 표시 의무화를 원해 기대감 속에서도 안전장치에 대한 요구가 높았다.
기업 고객 저작권 소송 책임진다: Adobe, Firefly 면책 조항 도입
Adobe가 기업 고객을 대상으로 생성형 AI 'Firefly'로 만든 결과물에 대한 지식재산권 면책 조항을 제공한다고 밝혔다. 고객이 저작권 소송을 당할 경우 Adobe가 배상 책임을 진다. 자체 스톡 이미지와 공용 라이선스 데이터로만 학습한 안전성을 무기로 기업들의 상용화 불안을 덜어주려는 조치다.
다크웹에 ChatGPT 계정 10만 건 유출, OpenAI "해킹 아닌 악성코드 탓"
사이버 보안 기업 Group-IB는 다크웹에서 10만 개 이상의 ChatGPT 계정 정보가 거래되고 있다고 밝혔다. OpenAI는 자체 시스템 해킹이 아니라 기기에 침투한 악성코드 때문이라고 설명했다. 대화 기록이 계정에 저장되는 만큼 기업 기밀과 개인 정보 유출 위험이 커지고 있다.
AI 학습 데이터 라벨러의 최대 46%, ChatGPT로 작업 대행
스위스 로잔연방공과대(EPFL) 연구진 조사 결과, 아마존 메커니컬 터크의 데이터 라벨링 작업자 중 33~46%가 ChatGPT 등 AI로 작업을 처리하는 것으로 나타났다. AI가 생성한 데이터로 다시 AI를 학습시키면 오류와 환각이 증폭될 위험이 있지만, 아직 이를 효과적으로 걸러낼 방법은 마땅치 않다.
미 백악관, 수주 내 AI 규제 '결정적 조치' 내놓는다
백악관은 급격히 발전하는 AI 기술에 대응하기 위해 향후 수주 내 '결정적 조치'를 취하겠다고 밝혔다. 비서실장실 주도로 연방 기관용 가이드라인을 준비하고 주요 AI 기업들의 안전 서약을 추진 중이다. 바이든 대통령도 이날 샌프란시스코에서 전문가들과 만나 위험성과 기회를 논의했다.
크리스토퍼 놀란 감독 “AI의 최대 위험은 인간의 책임 회피”
영화감독 크리스토퍼 놀란은 WIRED와의 인터뷰에서 AI의 가장 큰 위험은 기술을 신격화해 인간의 책임을 회피하는 것이라고 지적했다. 그는 빅테크가 규제를 요구하는 것은 기술을 모르는 정치인에게 책임을 떠넘기려는 낡은 술수라며 개발자가 직접 책임을 져야 한다고 짚었다.
그래미 어워드, AI 규칙 발표: 수상 자격은 '인간 창작자'에게만
레코딩 아카데미가 그래미 어워드 수상 자격을 인간 창작자로 제한하는 새 규정을 공개했다. AI 음성이나 악기 연주가 포함된 곡도 후보에 오를 수 있지만, 실제 인간의 실질적 기여가 입증되어야 한다. AI가 도구로 쓰일 수는 있어도 트로피는 사람 몫이다.
시진핑, 빌 게이츠 만나 "MS 등 美 기업의 AI 기술 中 도입 환영"
로이터통신에 따르면 시진핑 중국 국가주석이 빌 게이츠 마이크로소프트(MS) 공동창업자와 만나 MS를 비롯한 미국 기업들이 AI 기술을 중국에 도입하는 것을 환영한다고 밝혔다. 양측은 글로벌 AI 발전과 MS의 중국 사업을 논의했으나, 중국 관영 매체 보도에는 AI 관련 언급이 빠졌다.
일레븐랩스, AI 음성 감별 도구 출시: 자사 기술 위조 여부 즉시 판별
일레븐랩스가 자사 기술로 생성된 음성을 판별하는 'AI Speech Classifier'를 공개했다. 로그인 없이 음성이나 영상 파일을 업로드하면 첫 1분 분량을 분석해 자사 AI 생성 확률과 유사한 음색을 찾아준다. 다만 Eleven v3 모델로 생성된 음성 판별은 아직 불안정하다.
오픈AI, 마이크로소프트에 “빙 GPT-4 도입 서두르지 마라” 경고했다
외신에 따르면, 오픈AI는 마이크로소프트에 아직 출시되지 않은 GPT-4를 빙(Bing)에 성급히 통합하지 말라고 경고했던 것으로 알려졌다. 답변 오류와 기이한 반응을 우려한 조언이었으나 마이크로소프트는 이를 강행했고, 2월 출시 직후 챗봇이 폭주하는 사태가 벌어졌다. 수십억 달러 규모의 동맹 뒤편에 숨겨진 양사의 협력과 경쟁 구도를 보여준다.
오라클, 코히어와 맞손… 기업용 생성형 AI 클라우드 서비스 예고
오라클 창업자 래리 엘리슨이 실적 발표 콘퍼런스콜에서 AI 스타트업 코히어와 손잡고 새로운 생성형 AI 클라우드 서비스를 선보일 예정이라고 밝혔다. 마이크로소프트의 Azure OpenAI에 맞서 기업이 사내 데이터를 안전하게 활용해 전용 모델을 훈련할 수 있도록 지원하며, 오라클 내부에서도 이미 도입해 사용 중이다.