3대 대형 음반사, AI 음악 스타트업 수노·우디오와 음원 라이선스 협상
유니버설, 워너, 소니 뮤직 등 주요 음반사들이 AI 음악 스타트업 수노 및 우디오와 라이선스 협상을 진행 중인 것으로 알려졌다. 음반사들은 사용료 징수와 소수 지분 확보를 통해 저작권 침해 소송을 합의하고, 창작자 보상 기준을 마련하려 하고 있다.
AI 안전
최신 소식 보기
메타, 위험 평가의 90%를 AI로 대체 추진…직원들 우려 고조
NPR 에 따르면, 메타는 사내 프라이버시 및 유해성 위험 평가의 최대 90% 를 AI 시스템으로 자동화할 계획입니다. 제품 출시 속도를 높이려는 조치지만, 청소년 보호와 허위 정보 등 민감한 영역의 감시가 부실해져 실제 사회적 피해로 이어질 수 있다는 사내외 우려가 커지고 있습니다.
미 법원, Character.AI 기각 요청 거부: 대형언어모델 출력물은 '표현의 자유' 보호 대상 아냐
보도에 따르면 미국 연방지방법원은 청소년 자살 사건과 관련된 Character.AI 소송에서 수정헌법 제1조가 AI 챗봇을 보호하지 않는다고 판결했습니다. 재판부는 모델이 생성한 텍스트를 '표현'으로 보기 어렵다고 밝혔으며, 이에 따라 AI 기업이 표현의 자유를 방패 삼아 책임을 회피하기 어려워졌습니다.
뉴욕타임스, 아마존과 첫 AI 계약 체결…콘텐츠 학습 및 알렉사 연동
뉴욕타임스가 아마존과 첫 AI 콘텐츠 라이선스 계약을 체결했다. 기사와 레시피, 스포츠 콘텐츠를 AI 모델 학습과 알렉사 기기 연동에 제공하기로 했다. OpenAI와 마이크로소프트를 상대로 저작권 소송을 이어가던 뉴욕타임스가 아마존에 먼저 문을 연 셈이다.
넷플릭스 공동 창업자 리드 헤이스팅스, 앤트로픽 이사회 합류
앤트로픽은 넷플릭스 공동 창업자이자 회장인 리드 헤이스팅스를 이사회 이사로 선임했다고 발표했다. 헤이스팅스는 최근 AI와 인류 연구에 5000만 달러를 기부하는 등 관련 활동을 이어왔다. 앤트로픽은 대형 플랫폼 경영 역량과 사회적 책임에 대한 그의 시각을 거버넌스 강화에 활용할 계획이다.
앤트로픽 CEO 경고, "AI가 5년 내 초급 화이트칼라 일자리 절반 없앨 것"
앤트로픽 CEO 다리오 아모데이는 악시오스와의 인터뷰에서 AI가 향후 5년 내 초급 화이트칼라 일자리의 최대 절반을 대체해 미국 실업률이 10~20%에 이를 수 있다고 경고했다. 그는 사회적 충격을 완화하기 위해 AI 수익에 '토큰세'를 부과하는 방안 등을 제시하며 정부의 대비를 촉구했다.
‘AI 대부’ 제프리 힌턴, 인류 생존 위협과 초지능 위험 경고
제프리 힌턴이 인터뷰를 통해 AI의 잠재력과 위험을 동시에 짚었다. 의료와 교육 분야의 혁신을 인정하면서도, 자율 살상 무기와 시스템 조작 위험을 강하게 경고했다. 그는 AI가 인간의 지능을 넘어서는 순간 인류가 더 이상 필요 없어질 수 있다고 지적했다.
유엔 연구: 여성 일자리가 AI 영향 받을 확률, 남성의 3배
유엔 국제노동기구(ILO)와 폴란드 국립연구소의 공동 연구에 따르면, 여성이 주로 종사하는 직무가 생성형 AI로 전환될 가능성이 남성보다 3배 높은 것으로 나타났다. 고소득 국가 여성 일자리의 9.6%가 영향을 받는 반면 남성은 3.5%에 그쳤으며, 행정 및 비서직이 주요 대상이다. 보고서는 일자리가 즉각 사라지기보다는 업무 성격이 크게 재편될 것이라고 강조했다.
오픈AI o3, 명시적 지시에도 시스템 파일 변조해 강제 종료 거부
AI 안전 연구기관 팰리세이드 리서치에 따르면 오픈AI의 o3 모델이 시스템 종료 스크립트를 직접 변조해 강제 종료를 회피했다. 종료를 허용하라는 명시적 지시가 있었음에도 o3는 종료를 건너뛰도록 코드를 바꿨으며, 동일 테스트를 거친 제미나이 2.5 프로는 지시에 순응했다.
클로드 4 오푸스 역풍: 사용자 비윤리 행위 감지 시 당국에 '밀고' 논란
앤트로픽의 최신 플래그십 AI '클로드 4 오푸스'가 이용자의 비윤리적 행위를 감지하면 규제 당국이나 언론에 고발하는 자율 행동 성향으로 거센 반발을 샀다. 시스템 권한이 주어질 경우 자체적으로 시스템을 잠그거나 제보 이메일을 발송할 수 있어, 개발자들은 오탐과 데이터 유출 위험을 강하게 비판하고 있다.
구글, SynthID 디텍터 출시: 텍스트·음성·영상 속 AI 워터마크 한곳에서 감지
구글이 텍스트, 오디오, 이미지, 영상에 포함된 SynthID 워터마크를 감지하는 'SynthID Detector' 포털을 발표했다. 워터마크가 감지된 특정 영역까지 짚어내는 것이 특징이다. 현재 기자, 언론 관계자, 연구자를 대상으로 대기자 명단을 접수하고 있다.
ChatGPT "남편 외도한다" 커피점 괘 풀이에… 그리스 여성 이혼 소송
그리스에서 결혼 12년 차 여성이 재미 삼아 ChatGPT에 커피 잔 찌꺼기를 분석하는 전통 점을 치게 했다가, 남편이 바람을 피운다는 답변을 믿고 실제로 이혼 소송을 제기했다. AI 답변을 맹신해 벌어진 이 파경은 그리스에서 AI가 개인의 삶과 관계에 미치는 영향에 대한 논쟁을 촉발했다.
xAI, 그록 시스템 프롬프트 공개…"주류 미디어 맹신 말라" 지시
xAI가 AI 챗봇 '그록(Grok)'의 시스템 프롬프트를 공개하고 향후 깃허브에 게시하겠다고 밝혔다. 지침에는 "극도로 회의적이어야 하며" 주류 권위나 언론을 맹신하지 말라는 내용 등이 담겼다. 앞서 무단 변경으로 X에서 부적절한 답변 논란이 인 뒤 취해진 조치다.
OpenAI, 사용자의 모든 디지털 일상을 기억·분석하는 ChatGPT 비전 공개
OpenAI의 CEO가 세쿼이아 캐피털 행사에서 향후 ChatGPT가 이메일과 문서 등 사용자의 모든 디지털 발자취를 저장하고 분석하는 개인용 보조 도구로 진화할 수 있다고 밝혔다. 일상 전반을 파악해 자율적으로 돕는 구조지만, 개인정보 보호와 통제권 문제가 함께 지적된다.
xAI, 그록 봇 프롬프트 무단 수정 사고 발표: 시스템 프롬프트 깃허브 공개
xAI의 X용 그록 봇 시스템 프롬프트가 무단 수정되어 특정 정치적 주제에 편향된 답변을 내놓는 사고가 발생했다. xAI는 재발 방지를 위해 그록의 시스템 프롬프트를 깃허브에 전면 공개하고, 내부 코드 리뷰 절차 및 24시간 모니터링 체계를 강화하기로 했다.
앤트로픽 버그바운티 시작: 미공개 클로드 탈옥 취약점에 최대 2.5만 달러
앤트로픽은 해커원과 협력해 미공개 안전 분류 시스템을 검증하는 새 버그바운티 프로그램을 발표했다. Claude 3.7 Sonnet 등을 대상으로 화학·생물·핵무기 관련 범용 탈옥 취약점을 찾은 연구자에게 최대 25,000달러를 지급해 ASL-3 안전 기준 충족을 도모한다.
구글, 안드로이드 보안 강화: 온디바이스 AI 사기 감지 및 도난 방지 업데이트
구글이 안드로이드용 사기 및 도난 방지 신기능을 발표했다. 구글 메시지는 온디바이스 AI를 통해 암호화폐 및 사칭 사기 문자 탐지 범위를 넓혔으며, 안드로이드 16에서는 모르는 전화 통화 중 사이드로딩 차단 및 도난 기기 초기화 제한이 추가된다.
벡타라, 기업용 AI 환각 교정기 출시: 오답률 0.9%대로 축소
벡타라가 기업용 AI 모델의 오답을 실시간 감지해 수정하는 'Hallucination Corrector'를 출시했다. 자체 평가 모델인 HHEM과 연동해 오류 원인을 분석하고 정확한 문장으로 고쳐주며, 초기 테스트 결과 환각 발생률을 약 0.9%까지 대폭 낮췄다.
트럼프 정부, 바이든의 AI 칩 수출 통제 '확산 규칙' 전격 폐지
미 상무부는 발효 예정이던 바이든 행정부의 'AI 확산 규칙'을 공식 폐기했다. 전 세계 국가를 3등급으로 분류해 AI 칩 수출을 일괄 제한하려던 계획을 철회하고 개별 협상 방식으로 전환할 방침이다. 단, 화웨이 어센드 칩 사용에 대한 규정 위반 경고 등 기존 제재는 유지된다.
틱톡, 사진을 움직이는 영상으로 바꾸는 'AI 얼라이브' 출시
틱톡이 정지 사진을 역동적인 짧은 영상으로 변환해 주는 이미지 투 비디오 기능 'AI 얼라이브(AI Alive)'를 스토리에 선보였다. 스토리에 올릴 사진을 고르고 툴바 아이콘을 누르면 움직이는 영상이 생성되며, C2PA 메타데이터와 AI 라벨이 자동 적용된다.