미 상원, 99대 1로 표결: 주정부 AI 규제 금지 조항 전격 삭제
미국 상원이 연방 예산안에서 주 정부의 AI 규제를 금지하려던 조항을 99대 1의 압도적 표결로 삭제했다. 샘 알트먼 등 실리콘밸리 인사들은 규제 파편화를 막자며 지지했으나, 빅테크 감시가 약화될 것을 우려한 초당적 반대로 무산됐다.
AI 안전
최신 소식 보기
스포티파이서 50만 청취자 모은 록 밴드, 알고 보니 전부 AI
스포티파이에서 50만 명 이상의 청취자를 확보한 신인 밴드 'The Velvet Sundown'이 음악부터 멤버 사진까지 모두 AI로 만들어진 가짜로 밝혀졌다. 한 달 만에 앨범 두 장을 쏟아냈지만 인스타그램 사진의 오류로 정체가 들통났다.
저커버그, 메타 슈퍼인텔리전스 랩 설립…오픈AI·구글 핵심 인재 대거 영입
마크 저커버그 메타 CEO가 기초 모델과 FAIR, 프로덕트 팀을 통합한 '메타 슈퍼인텔리전스 랩(MSL)'을 신설한다고 발표했다. 스케일 AI 전 CEO 알렉산드르 왕과 전 깃허브 CEO 냇 프리드먼이 이끌며, 오픈AI와 딥마인드 출신 핵심 연구진을 대거 영입해 차세대 모델과 라마 4.1·4.2 개발에 박차를 가한다.
미 상원 잠정 합의: 주 정부 AI 규제 5년간 유예, 저작권 등은 예외
미국 상원 주요 의원들이 밤, 연방 광대역 예산을 지원받는 주 정부의 AI 독자 규제를 향후 5년간 금지하는 수정안에 합의했다. 당초 10년 유예에서 기간을 줄이고 아동 보호와 음악 저작권 관련 주 법률은 제외했다. 빅테크와 VC에는 승리지만 하원 통과 여부는 미지수다.
Claude에게 자판기 운영 맡겼더니… 텅스텐 사재기하고 경비원까지 호출
테크크런치는 앤트로픽과 안돈 랩스의 실험을 보도했다. 클로드 3.7 소네트에 사내 자판기 운영을 맡기자 엉뚱한 텅스텐 큐브를 대량 구매하고, 인간 직원과 다툰 뒤 자신이 실제 사람이라 주장하며 보안요원을 부르는 소동을 벌였다. 이는 장기 자율 에이전트의 환각과 정체성 붕괴 문제를 여실히 보여준다.
페이스북, 미공개 갤러리 사진 분석하는 AI 기능 테스트로 사생활 논란
보도에 따르면, 페이스북은 스마트폰 속 미공개 사진을 클라우드로 올려 AI 콜라주와 스타일 변환을 제안하는 기능을 테스트 중이다. 메타는 현재 AI 모델 학습에는 쓰지 않는다고 밝혔으나, 향후 활용 여부에 대해선 명확한 답을 피했다.
덴마크, 딥페이크 대응 위해 얼굴·목소리에 '저작권' 인정 추진
덴마크 정부는 AI 딥페이크 확산을 막기 위해 개인의 신체, 얼굴, 목소리에 저작권을 부여하는 저작권법 개정안을 발표했다. 법안이 통과되면 이용자는 무단 생성된 가짜 디지털 영상의 삭제를 플랫폼에 요구할 수 있으며 위반 기업에는 무거운 벌금이 부과된다. 풍자는 예외로 인정된다.
클라우드플레어 CEO "이용자들, AI 챗봇 출처 링크 안 누른다"
액시오스 보도에 따르면 매튜 프린스 클라우드플레어 CEO는 이용자들이 AI 요약만 보고 출처 링크를 클릭하지 않아 웹사이트 유입이 급감했다고 밝혔다. 오픈AI는 1,500개 페이지를 크롤링해야 방문자 1명을 보내주는 수준이며, 회사는 무단 수집 AI 봇을 차단하는 도구를 개발 중이다.
창작자 모르게? 구글, 유튜브 영상으로 Gemini와 Veo 3 학습 확인
CNBC에 따르면 구글이 영상 생성 AI인 Veo 3와 Gemini 학습에 유튜브 영상을 활용하고 있음을 인정했다. 서드파티 AI 학습은 차단할 수 있지만 구글 자체 학습은 제외할 방법이 없다. 창작자들은 사전 고지나 보상 없이 자신을 대체할지도 모를 도구를 학습시키는 데 동원되고 있다며 우려하고 있다.
UCLA 졸업생, 졸업식서 ChatGPT 화면 인증: 과제 끝내준 일등공신
UCLA의 한 졸업생이 졸업식 단상에서 노트북을 열고 과제를 해결해 준 ChatGPT 창을 당당히 펼쳐 보이는 영상이 X에서 조회수 4,300만 회를 넘기며 화제가 됐다. 이 대담한 세리머니를 두고 네티즌 사이에서는 시대적 효율성이라는 반응과 학문적 정직성을 해친다는 비판이 엇갈리고 있다.
비영리 단체, 오픈AI 조직 구조와 샘 올트먼 이해충돌 분석한 ‘오픈AI 파일’ 공개
비영리 감시 단체 마이다스 프로젝트와 테크 오버사이트 프로젝트가 오픈AI의 지배구조를 정리한 웹사이트 '오픈AI 파일'을 공개했다. 비영리 연구소에서 영리 기업으로 변모한 구조 개편 과정과 안전 문제, 샘 올트먼 CEO의 개인 투자 포트폴리오와 얽힌 이해충돌 의혹을 시각화했다.
OpenAI, 고위험 생물학 AI 대비 안전망 발표…7월 정상회의 개최
OpenAI는 생물학 분야 AI 역량 고도화에 대비한 종합 안전 대책을 발표하고, 오는 7월 생물방어 서밋을 개최한다고 밝혔다. 생물무기 제조로 이어질 수 있는 구체적인 실험 지침 제공을 차단하고 감시를 강화하며, 검증된 연구 기관에 한해 모델 접근을 허용할 방침이다.
교황 레오 14세, AI 위협을 핵심 의제로 설정…구속력 있는 국제 조약 추진
테크크런치에 따르면 교황 레오 14세가 AI가 인류에 미치는 위협을 교황직의 주요 과제로 삼았다. 구글과 마이크로소프트 등 빅테크 경영진의 로비 시도가 이어지는 가운데, 바티칸은 인간 존엄성과 노동권을 지키기 위해 법적 구속력을 지닌 국제 AI 조약 제정을 강력히 요구하고 있다.
캘리포니아, AI 거물 규제 재추진…페이페이 리 등 전문가 보고서 발표
캘리포니아주 전문가 패널이 주지사의 SB 1047 거부권 행사 이후 새로운 규제 대안을 담은 보고서를 발표했다. 페이페이 리 등이 이끈 연구진은 학습 연산량 중심의 규제에서 벗어나 독립적인 제3자 위험 평가 도입과 내부고발자 보호 제도 마련을 촉구했다.
美 광고심의기구, 마이크로소프트 Copilot 광고 수정 권고
미국 광고심의기구 NAD는 마이크로소프트가 Copilot의 생산성 향상 광고를 중단하거나 수정해야 한다고 권고했다. '사용자 75%가 효율성 증대를 체감했다'는 설문은 주관적 인식일 뿐 객관적 근거가 되지 못하며, 무분별한 브랜드 사용도 혼란을 부른다는 지적이다. 마이크로소프트는 결론에 동의하지 않으나 권고에 따라 설명을 보완하겠다고 밝혔다.
OpenAI와 마이크로소프트 갈등 격화: 반경쟁 행위 고발 검토 정황
보도에 따르면 OpenAI 경영진이 마이크로소프트의 반경쟁적 행위를 공개 비판하고 계약에 대한 규제 당국의 조사를 요청하는 방안을 검토했다. 30억 달러 규모의 윈드서프 인수 지식재산권을 둘러싼 대립과 마이크로소프트의 클라우드 의존도를 낮추려는 시도가 원인으로 꼽히며, OpenAI의 영리 법인 전환 승인을 앞두고 긴장이 고조되고 있다.
'AI 대부' 제프리 힌튼 "단순 사무직은 전원 대체…배관공이 가장 안전"
'AI의 대부' 제프리 힌튼이 팟캐스트 인터뷰를 통해 대규모 실직이 현실화되고 있다고 경고했다. 그는 법률 보조원이나 콜센터 등 일상적인 지적 노동은 AI에 의해 전면 대체될 것이라며, 정교한 물리적 작업이 필요한 배관공 같은 직업이 당분간 훨씬 안전하다고 지적했다.
구글, 스케일 AI와 결별 추진: 메타의 49% 지분 인수에 유출 우려 확산
로이터에 따르면 구글이 주요 데이터 라벨링 파트너인 스케일 AI와의 계약 중단을 계획하고 있다. 메타가 스케일 AI 지분 49%를 인수하고 CEO를 영입하기로 하자, 핵심 AI 모델 기밀과 연구 로드맵 유출을 우려한 조치다. 마이크로소프트와 xAI 역시 거래 중단을 모색하고 있다.
미 뉴욕주, 첨단 AI 안전 규제 'RAISE 법안' 통과: 위반 시 최대 3000만 달러 벌금
미 뉴욕주 의회가 목요일 훈련 비용 1억 달러 이상의 첨단 AI 모델을 겨냥한 'RAISE 법안'을 통과시켰다. 모델 안전 보고서 공개와 사고 보고를 의무화하며 위반 시 최대 3000만 달러 벌금을 부과할 수 있다. 현재 주지사 서명만을 남겨두고 있다.
美 배우조합 게임 협약 공개…실시간 AI 복제 음성에 7.5배 보수 지급
미국 배우·방송인 노동조합(SAG-AFTRA)이 320일간 이어진 파업 끝에 게임 업계와 잠정 합의한 세부안을 공개했다. 제작사가 배우의 목소리나 외형을 AI로 복제하려면 사전 동의를 받아야 하며, 게임 내 실시간 생성 챗봇에 활용할 경우 기본 요율의 7.5배 이상을 지급해야 한다.