캘리포니아 18개 AI 법안 서명: 딥페이크·무단 디지털 복제 전면 규제
9월 개빈 뉴섬 캘리포니아 주지사는 논란이 컸던 SB 1047 법안을 거부권 행사로 무산시켰지만, 18개 AI 규제 법안에는 최종 서명했다. 선거 개입 및 성착취 딥페이크 금지, 학습 데이터 출처 공개 의무화, 배우 동의 없는 AI 복제 제한 등 실질적인 권리 침해 방지에 초점을 맞췄다.
AI 안전
최신 소식 보기
OpenAI, 신규 모델 'o1' 사고 과정 파헤치는 사용자에 이용 정지 경고
OpenAI가 지난주 추론 능력을 갖춘 o1 모델을 선보인 이후, 숨겨진 원시 사고 과정(Chain of Thought)을 캐내려 시도한 사용자들에게 경고 메일을 보내며 계정 차단을 경고하고 나섰다. o1은 필터링된 추론 요약만 보여주도록 설계되었으며, 프롬프트에 'reasoning trace' 같은 단어를 넣기만 해도 안전 정책 위반으로 감지된다.
오라클 래리 엘리슨, 미래 AI의 상시 대규모 감시 사회 예견
오라클의 래리 엘리슨 회장은 재무 분석가 회의에서 향후 AI가 경찰과 시민의 행동을 상시 기록·감시하는 대규모 법 집행 네트워크를 지원할 것이라 전망했다. 그는 범죄 억제를 근거로 들었으나, 편향된 과거 데이터로 인한 사회적 차별 심화 우려도 지적받고 있다.
OpenAI 안전위원회, 독립 조직으로 개편: 모델 출시 연기 권한 부여
OpenAI는 안전·보안위원회를 카네기 멜론대 지코 콜터 교수가 이끄는 독립 이사회 감독위원회로 전환했다고 발표했다. 이 위원회는 모델의 안전 우려가 해결될 때까지 출시를 공식적으로 연기할 수 있는 권한을 갖는다.
LAION, 아동 성착취물 의심 링크 삭제한 새 데이터셋 공개
Stable Diffusion 학습 데이터를 구축했던 LAION이 유해 콘텐츠를 걸러낸 새 데이터셋 Re-LAION-5B를 공개했다. 외부 감시 기관의 권고에 따라 2,236개의 불법 의심 링크를 삭제했으며, 기존 LAION-5B 이용자들에게 신규 버전으로 전환할 것을 촉구했다.
오픈AI와 앤스로픽, 새 모델 출시 전후 미국 정부에 안전 검증용 개방
미국 AI 안전 연구소는 목요일, 오픈AI 및 앤스로픽과 양해각서를 체결하고 주요 신규 AI 모델을 출시 전후로 전달받아 안전성 평가를 진행한다고 발표했다. 위험을 평가하고 영국 기관과도 피드백을 공조할 계획이며, AI 규제 입법 논의가 이어지는 가운데 나온 조치다.
오프라 윈프리, ABC 'AI' 특집 방송 진행: 샘 알트먼·빌 게이츠 출연
외신에 따르면 오프라 윈프리가 진행하는 ABC 특집 다큐멘터리 'AI and the Future of Us'가 9월 12일 방영된다. 오픈AI의 샘 알트먼 CEO, 빌 게이츠, 유명 테크 유튜버 MKBHD 등이 출연해 AI가 일상생활과 일자리, 교육에 미칠 영향을 대중의 눈높이에서 짚어본다.
논란의 캘리포니아 AI 안전 법안 주의회 통과, 주지사 서명만 남아
초대형 AI 모델 개발사에 치명적 위험 방지 안전책 마련을 의무화하는 캘리포니아 'SB 1047' 법안이 주의회를 통과해 주지사 서명을 앞두고 있다. 일론 머스크가 공개 지지를 선언한 반면 오픈AI는 반대 입장을 고수하는 등 업계 반응이 엇갈리고 있다.
일론 머스크, 캘리포니아 AI 안전 법안 'SB 1047' 지지 표명
일론 머스크는 초대형 AI 모델에 안전 조치 의무를 부과하는 캘리포니아주 법안 'SB 1047'을 지지한다고 밝혔다. 그는 X를 통해 어려운 결정이지만 법안이 통과되어야 한다고 언급했다. 경쟁사인 오픈AI가 이 법안에 반대하는 가운데, 자신의 xAI 역시 규제 대상임에도 규제를 옹호하고 나섰다.
앤트로픽, 클로드 시스템 프롬프트 공개…"안면 인식 금지·절대 단어 배제"
앤트로픽이 클로드 3 및 3.5 모델에 적용된 시스템 프롬프트를 공식 공개했다. 지침에는 인물 사진 식별을 피해 안면인식장애처럼 행동할 것과 답변 시 'certainly' 같은 확정적 어휘를 쓰지 말라는 구체적 규칙이 담겼다. 주요 빅테크 기업이 프롬프트 원문을 투명하게 밝힌 드문 사례다.
오픈AI·MS, 'AI 생성물 워터마크 의무화' 캘리포니아 법안 지지
오픈AI, 어도비, 마이크로소프트가 AI 생성물에 워터마크 표기를 의무화하는 캘리포니아주 법안 'AB 3211'을 지지한다고 밝혔다. 메타데이터 워터마크 삽입과 함께 대형 플랫폼이 일반 이용자에게 AI 콘텐츠임을 명확히 알리도록 강제하는 법안으로, 수정 작업을 거치며 업계의 지지를 확보했다.
저커버그와 스포티파이 CEO의 경고: 유럽 규제가 오픈소스 AI 가로막아
메타 CEO 마크 저커버그와 스포티파이 CEO 다니엘 에크가 공동 기고문을 통해 유럽의 파편화된 규제가 오픈소스 AI 혁신을 가로막고 있다고 비판했습니다. 메타는 규제 불확실성으로 인해 차기 멀티모달 Llama 모델의 유럽 출시를 보류한다고 밝혔습니다. 양사 CEO는 규칙을 단순화하지 않으면 유럽이 AI 주도권을 완전히 잃을 것이라고 경고했습니다.
구글 딥마인드 직원 200여 명, 군사 계약 중단 촉구 서한 제출
2024년 5월 구글 딥마인드 직원 약 200명이 군사 조직과의 계약을 해지하고 군의 AI 기술 접근을 차단할 것을 요구하는 서한에 서명했다. 직원들은 2014년 인수 당시 군사 및 감시 목적 배제 약속을 강조하며 전담 감시기구 신설을 요구했으나, 구글은 아직 실질적인 답변을 내놓지 않았다.
MS, 논란의 윈도11 AI 기능 '리콜' 테스트 10월로 연기
마이크로소프트가 윈도11의 AI 검색 기능 '리콜'의 인사이더 프리뷰 배포를 10월로 연기한다고 밝혔다. PC 활동을 캡처하는 이 기능은 데이터 미암호화 등 보안 논란으로 6월 출시가 취소됐다. MS가 기본 비활성화와 암호화 등 전면 개편을 진행 중이어서 연내 정식 출시는 어려울 전망이다.
앤트로픽, 캘리포니아 AI 규제 법안 SB 1047 “득이 실보다 크다” 평가
앤트로픽은 캘리포니아 주지사에게 서한을 보내 수정된 AI 안전 법안 'SB 1047'의 이익이 비용보다 클 것이라는 입장을 밝혔다. 대규모 자본이 투입되는 프론티어 AI 기업에 안전 프로토콜 수립 책임을 부과하면서도 소규모 개발자의 규제 부담은 크게 줄였다는 설명이다.
OpenAI, 캘리포니아 AI 규제 법안에 공식 반대 표명
OpenAI는 캘리포니아주의 논란 많은 AI 규제 법안 SB 1047에 반대하는 서한을 주 의원과 주지사에게 발송했다. OpenAI는 이 법안이 혁신을 저해하고 인재 유출을 부를 것이라며 주 단위 대신 연방 차원의 규제를 촉구했다. 법안 발의 의원은 이러한 주장이 앞뒤가 맞지 않는다고 반박했다.
맥아피, 레노버 Copilot-Plus PC에 딥페이크 탐지 도구 출시
맥아피는 레노버의 Copilot-Plus PC에 딥페이크 탐지기(Deepfake Detector)를 출시했다. 프라이버시 보호를 위해 기기 내에서 로컬로 영상 음성을 분석해 AI 생성 의심 시 팝업으로 경고한다. 30일 무료 체험 후 첫해 연간 9.99달러의 유료 서비스로 제공된다.
美 작가들, 앤트로픽에 집단 소송 제기: 해적판 도서로 클로드 학습 의혹
미국 작가들이 앤트로픽을 상대로 캘리포니아 법원에 집단 소송을 제기했다. 오픈소스 데이터셋 '더 파일(The Pile)' 내 해적판 도서 모음인 'Books3'를 사용해 클로드(Claude)를 무단 학습시켰다는 혐의다. 원고 측은 손해배상과 저작물 사용 금지를 요구하고 있으며, 앤트로픽은 앞서 해당 데이터셋 사용을 인정한 바 있다.
트럼프, 테일러 스위프트의 가짜 AI 대선 지지 이미지 게시
외신에 따르면, 도널드 트럼프 전 대통령이 주말 동안 팝스타 테일러 스위프트가 자신을 지지하는 것처럼 꾸민 AI 생성 이미지를 SNS에 올렸습니다. 전문가들은 현행 딥페이크 규제가 설득력 있는 위조에 집중되어 있어 규제가 어렵지만, 가수 본인의 초상권 침해 소송 가능성은 열려 있다고 분석했습니다.
미 와이오밍 시장 후보의 공약: "당선되면 챗GPT가 시정 전부 결정"
미국 와이오밍주 샤이엔 시장 선거에 출마한 빅터 밀러 후보가 당선될 경우 커스텀 챗GPT 봇인 'VIC'에 시정 결정을 100% 맡기겠다고 밝혀 논란이 일고 있다. 주 선거 당국은 AI의 투표용지 등록을 불허했고 오픈AI도 계정을 정지했지만, 그는 하이브리드 거버넌스를 내세우며 선거전을 이어가고 있다.