메타, 주디 덴치 등 할리우드 스타와 수백만 달러 규모 AI 음성 계약 추진
외신에 따르면, 메타가 주디 덴치, 아콰피나 등 유명 배우들과 메타 AI 음성 탑재를 위해 수백만 달러 규모의 계약을 협상 중이다. 메타는 9월 열리는 커넥트 행사에서 새 음성을 공개하고, 인스타그램과 레이밴 스마트 안경 등에 적용할 계획이다.
AI 안전
최신 소식 보기
음악 생성 AI '수노', 미국음반산업협회 저작권 소송에 정면 반박
음악 생성 AI 수노(Suno)가 미국음반산업협회(RIAA)의 저작권 침해 소송에 대해 공식 입장을 내고 웹상의 음악 데이터를 학습에 활용했음을 인정하면서도 '학습은 침해가 아니다'라고 반박했습니다. 수노는 모델 학습이 음악을 듣고 작곡을 배우는 과정과 같으며 모작 방지 장치도 갖췄다고 강조했습니다.
올트먼 해임 주도했던 전 OpenAI 이사, 워싱턴서 AI 정책 전문가로 안착
블룸버그에 따르면 샘 올트먼 해임 사태를 이끌었던 전 OpenAI 이사 헬렌 토너가 워싱턴 DC에서 신뢰받는 AI 정책 전문가로 자리 잡고 있다. 실리콘밸리 드라마와 일론 머스크의 소송 여파에서 벗어나, 현재 미 의회와 규제 당국에 AI 안전 거버넌스를 자문하고 있다.
OpenAI, 차기 모델 안전성 검증 위해 미 AI 안전 연구소에 사전 공개 약속
목요일 밤, 샘 올트먼 OpenAI CEO는 차기 주요 생성형 모델의 안전성 테스트를 위해 미국 AI 안전 연구소에 조기 접근 권한을 부여하는 협약을 추진 중이라고 밝혔습니다. 안전 연구를 뒷전으로 밀어냈다는 비판을 달래기 위한 조치로 보이지만, 세부 실행안은 아직 공개되지 않았습니다.
구글, '이 이미지에 대해' 서클 투 서치·렌즈로 확대…AI 생성 여부 바로 확인
구글이 이미지의 출처와 맥락을 검증하는 '이 이미지에 대해' 기능을 서클 투 서치와 구글 렌즈로 확대했다. 화면 속 이미지를 동그라미 치거나 업로드하면 웹 출처, 메타데이터, SynthID 워터마크 기반 AI 생성 여부를 바로 확인할 수 있다. 한국어 등 40개 언어를 지원한다.
구글, 언어모델 내부 분석 도구 '젬마 스코프' 오픈소스 공개
구글이 언어모델의 내부 동작 원리를 분석할 수 있는 도구 모음 '젬마 스코프'를 오픈소스로 공개했다. 젬마 2(2B 및 9B)를 위해 400개 이상의 희소 오토인코더와 3천만 개 이상의 특징을 제공해 모델 내부를 현미경처럼 들여다보고, 환각이나 조작 같은 AI 안전 위험을 연구할 수 있도록 지원한다.
OpenAI, 미 상원 AI 법안 3건 공식 지지…안전연구소 법제화 힘 실어
OpenAI는 미국 AI 안전 연구소의 법적 지위 부여와 AI 교육 지원을 골자로 하는 상원 법안 3건을 지지한다고 밝혔습니다. 향후 본격화될 규제 환경 속에서 입법자들과 우호적 관계를 구축하고 정책 논의 주도권을 확보하려는 전략으로 풀이됩니다.
백악관, 오픈소스 AI에 당장 규제 가할 필요 없어
미국 상무부 NTIA는 보고서를 통해 공개 가중치 AI 모델에 당장 제한을 둘 필요는 없다고 발표했다. 기술 개방의 이점을 인정한 조치이나, 정부는 잠재적 위험을 지속적으로 모니터링하며 위험이 커지면 언제든 개입할 준비를 갖출 방침이다.
머스크, 해리스 부통령 AI 딥페이크 영상 공유…X 자체 규정 위반 논란
일론 머스크가 카멀라 해리스 부통령의 음성을 변조한 AI 패러디 영상을 X에 공유했다. 원본에 있던 '패러디' 표기 없이 영상을 올려 허위 조작 미디어를 금지하는 X의 자체 규정을 위반했다는 비판과 함께 정치권의 거센 반발을 사고 있다.
파리 올림픽에 도입된 AI 기술: 판정 보조부터 악플 차단까지
인버스 보도에 따르면, 2024 파리 올림픽은 IOC의 '올림픽 AI 어젠다' 발표 후 열린 첫 대회다. AI는 선수 훈련과 부상 예방, 체조 종목의 심판 판정 보조뿐만 아니라 소셜 미디어상의 악성 댓글 자동 차단 및 대회 운영 최적화에 전방위로 쓰이고 있다.
X, 사용자 게시물 Grok 학습에 기본 동의 처리…英·아일랜드 규제 당국 조사
X가 이용자의 게시물과 Grok 대화 데이터를 AI 학습에 쓰도록 설정을 기본 활성화해 둔 사실이 드러났습니다. 사전 체크 방식의 동의는 GDPR 위반 소지가 커 영국 ICO와 아일랜드 DPC가 조사에 나섰으며, 수집을 막으려면 현재 웹 버전에서 직접 꺼야 합니다.
애플, 백악관 AI 안전 서약 공식 동참
백악관 발표에 따르면 애플이 안전하고 신뢰할 수 있는 AI 개발을 위한 자발적 서약에 동참했다. 오픈AI와 구글 등 기존 15개 빅테크에 이어 합류한 것으로, 모델 공개 전 레드팀 테스트, 모델 가중치 보안 유지, AI 워터마크 도입 등을 약속했다. 20억 기기 대상 애플 인텔리전스 배포를 앞두고 선제적 규제 대응에 나선 셈이다.
앤트로픽 크롤러 '클로드봇', 이용약관 무시하고 iFixit 100만 회 긁어 논란
수리 전문 사이트 iFixit의 CEO는 앤트로픽의 크롤러 '클로드봇'이 24시간 동안 사이트에 거의 100만 번 접근하며 AI 학습 금지 약관을 위반했다고 폭로했다. 앤트로픽은 robots.txt 설정만 준수한다고 해명했다. 이번 사태는 이용약관만으로는 무단 수집을 막지 못하고 robots.txt 차단 외에 뚜렷한 대안이 없는 현실을 보여준다.
런웨이, 유튜브 영상·불법 영화로 Gen-3 무단 학습 의혹 제기
외신 404 미디어가 확보한 내부 문서에 따르면, 런웨이가 수천 개의 유튜브 영상과 불법 복제 영화를 무단 수집해 동영상 생성 모델 'Gen-3' 학습에 활용한 정황이 드러났습니다. 구글과 엔비디아의 투자를 받은 유명 유니콘 기업의 데이터 저작권 침해 논란이 다시 거세지고 있습니다.
레딧, 미계약 검색엔진 및 AI 크롤러 차단… 최신 검색은 구글만 가능
외신에 따르면 레딧이 유료 라이선스 계약을 맺지 않은 검색엔진의 최신 글 수집을 차단했다. 6,000만 달러 규모의 AI 학습 계약을 맺은 구글만 최신 레딧 검색 결과를 표시하며, 빙과 덕덕고는 제외됐다. 레딧은 AI 활용 약속을 거부한 기업과는 합의하지 못했다고 밝혔다.
오픈AI, 규칙 기반 보상(RBR)으로 AI 안전성 강화
오픈AI가 대규모 인간 피드백 없이도 모델 안전성을 높이는 규칙 기반 보상(RBR) 기법을 소개했다. 명확한 규칙을 통해 모델 출력을 평가하여 정상적인 요청을 잘못 거부하는 오작동을 줄이고 훈련 비용도 절감한다. 새로운 안전 정책이 생겨도 재학습 없이 빠르게 반영할 수 있는 점이 핵심이다.
미 의원들, OpenAI에 서한…차기 모델 출시 전 정부 검증 요구
7월 미국 상원 의원들이 샘 알트만 OpenAI CEO에게 서한을 보내 차기 기반 모델 배포 전 미 정부 기관의 사전 테스트와 평가를 받을 것을 요구했다. 내부 고발자의 안전 기준 완화 폭로에 따른 조치로, 컴퓨팅 자원의 20%를 안전 연구에 투입할 것인지 등 총 12개 항목에 대한 답변을 압박했다.
캘리포니아 강력한 AI 규제법 추진에 구글·메타 등 빅테크 반발
캘리포니아주 의회가 대형 AI 모델을 출시하기 전 생화학 무기나 전력망 해킹 등 '파멸적 위험'에 대한 안전 테스트를 의무화하는 법안을 추진 중입니다. 구글과 메타 등 실리콘밸리 기업들은 기술적으로 불가능하며 혁신을 저해한다고 공개 반발했습니다. 트럼프 측이 연방 AI 규제 철회를 예고한 가운데 캘리포니아가 규제 주도권 싸움의 최전선으로 떠올랐습니다.
피그마, AI가 애플 디자인을 베낀 이유 해명: 발표 직전 검수 부족 탓
피그마는 생성형 AI 기능 'Make Designs'가 애플 날씨 앱과 판박이 디자인을 생성해 논란이 된 이유를 밝혔습니다. 자체 학습 탓이 아니라, Config 행사 직전 모델 컨텍스트에 추가한 컴포넌트와 샘플 화면을 충분히 검수하지 못했기 때문이라고 설명했습니다. 현재 해당 기능은 비활성화 상태입니다.
AI 벤치마크 점수의 함정: MMLU 만점 경쟁이 무의미한 이유
더 마크업의 조사 보도에 따르면 구글과 메타 등이 내세우는 MMLU 등 주요 AI 벤치마크가 실질적인 모델 성능을 대변하지 못하고 있습니다. 수년 전 데이터나 저품질 크라우드소싱 문제로 구성되어 실제 추론 능력이나 환각 방지를 검증하기 어렵다는 지적입니다.