새 로비단체 ARI 출범: "금융·원자력 규제 차용해 AI 통제해야"
초당적 옹호 단체인 ARI가 공식 출범했다. 이들은 워싱턴이 AI를 규제할 줄 모른다는 실리콘밸리의 주장에 반박하며, 금융, 사이버 보안, 원자력 등 기존 산업의 검증된 안전 규제 모델을 AI 거버넌스에 도입하자고 제안했다.
AI 안전
최신 소식 보기
마이크로소프트, 뉴욕타임스 AI 저작권 소송 각하 요구하며 'VCR 판례' 제시
The New York Times가 제기한 저작권 침해 소송에서 Microsoft가 일부 청구 각하를 법원에 신청했습니다. 마이크로소프트는 대규모 언어 모델이 과거 VCR이나 복사기처럼 합법적 용도가 뚜렷한 기술이며, 잠재적 남용 우려만으로 책임을 지울 수 없다고 주장했습니다. 또한 사용자의 직접 침해 증거도 없다고 반박했습니다.
오픈AI, 머스크 소송에 정면 반박…과거 이메일 공개하며 기각 요청
오픈AI는 일론 머스크의 소송에 반박하며 과거 이메일을 공개하고 모든 청구의 기각을 요청했다. 공개된 기록에 따르면 머스크는 테슬라와의 합병이나 경영권 독점을 요구했을 뿐 아니라, AGI를 오픈소스로 공개하지 않아도 된다는 내부 방침에도 동의했던 것으로 나타났다.
캘리포니아, 웨이모 로보택시 고속도로 주행 및 서비스 확장 승인
캘리포니아 공공유틸리티위원회가 웨이모의 로보택시 사업 확장을 최종 승인했다. 이에 따라 LA와 베이 에어리어 일부 일반 도로와 고속도로에서 최대 시속 65마일로 무인 운행이 가능해졌다. 현지 교통 당국의 반발은 기각됐으나, 웨이모는 당장 고속도로에 진입할 계획은 없으며 단계적으로 확장하겠다고 밝혔다.
머스크, 오픈AI·올트먼 제소: 비영리 약속 저버리고 MS 자회사로 전락 주장
일론 머스크가 목요일 저녁 오픈AI와 샘 올트먼을 상대로 샌프란시스코 법원에 소송을 제기했습니다. 머스크는 오픈AI가 인류를 위한 비영리 설립 취지를 어기고 마이크로소프트의 이익을 위한 사실상의 폐쇄형 자회사가 되었다며, GPT-4를 AGI로 규정해 상업적 라이선스를 제한할 것을 요구했습니다.
중국 법원, AI 생성 이미지의 '울트라맨' 저작권 침해 첫 인정
외신에 따르면 광저우 인터넷 법원이 AI 서비스가 생성한 이미지가 '울트라맨'과 실질적으로 유사하다며 저작권 침해를 인정하고 1만 위안의 배상금을 판결했다. 세계 최초의 AI 생성물 저작권 침해 판결로 해석되며, AI 학습 데이터를 둘러싼 분쟁이 더욱 거세질 전망이다.
오픈AI, 뉴욕타임스 소송 일부 기각 신청: "조작된 프롬프트로 표절 유도"
월요일, 오픈AI는 뉴욕타임스가 제기한 저작권 침해 소송의 주요 청구를 기각해달라고 법원에 요청했습니다. 오픈AI는 신문사가 '기만적인 프롬프트'와 버그를 악용해 챗GPT가 기사를 그대로 복제하도록 유도했다고 주장했으며, 신문사 측은 침해 증거 수집일 뿐이라고 맞섰습니다.
텀블러 모회사, 오픈AI·미드저니와 AI 학습 데이터 판매 협상
외신에 따르면 텀블러와 워드프레스닷컴 모회사 오토매틱이 오픈AI, 미드저니와 게시물 데이터를 AI 학습용으로 공급하는 계약 체결을 앞두고 있습니다. 공유 거부 설정을 도입할 계획이지만, 초기 수집 과정에서 비공개 글까지 포함됐다는 내부 의혹도 불거졌습니다.
구글, 제미나이 인물 생성 기능 몇 주 내 재개 추진
구글 딥마인드 창업자 데미스 허사비스는 역사적 고증 왜곡 논란으로 일시 중단된 제미나이의 인물 이미지 생성 기능을 몇 주 내 복구하겠다고 밝혔습니다. 다양성 확보라는 의도가 역사적 맥락에 너무 획일적으로 적용됐다며 세밀한 보완 작업을 거칠 계획입니다.
美 법무부 첫 최고AI책임자 임명, 프린스턴대 교수 취임
미 법무부가 조너선 메이어 프린스턴대 교수를 초대 최고AI책임자 겸 최고과학기술고문으로 임명했다. 메이어 교수는 AI 및 사이버 보안 전문가 팀을 꾸려 법 집행 지원에 나선다. 바이든 행정부의 AI 행정명령에 따라 형량 선고, 가석방, 감시 등에 쓰일 AI의 공정성 기준을 마련할 예정이다.
구글 제미나이 이미지 생성 논란: 인물 묘사 기능 일시 중단 및 사과
구글이 제미나이의 인물 이미지 생성 기능을 일시 중단한다고 발표했다. 다양성을 반영하려는 모델 튜닝이 과도하게 적용돼 역사적 사실과 맞지 않는 이미지를 생성하며 논란이 커진 탓이다. 구글은 실수를 인정하고 개선 후 재출시하겠다고 밝혔다.
구글 딥마인드, AI 안전·정렬 전담 조직 신설…AGI 위험 대응 본격화
구글 딥마인드가 제미나이 안전성 강화와 가상 AGI 통제를 목표로 'AI 안전 및 정렬' 신규 조직을 출범시켰다. UC 버클리 안카 드라간 교수가 이끌며, 오정보 확산 방지 등 현실적 과제 해결과 초지능 AI 통제 연구를 함께 진행한다.
AI 챗봇이 지어낸 가짜 정책 때문에… 에어캐나다 법원서 패소
캐나다 법원이 승객에게 잘못된 환불 규정을 안내한 AI 챗봇의 과실을 인정하고 에어캐나다에 환불을 명령했다. 항공사는 AI 챗봇이 독립적인 법적 주체라며 책임을 회피하려 했으나 법원은 기업이 자사 챗봇의 발언에 전적으로 책임을 져야 한다고 판결했다.
일레븐랩스, 2024년 선거 대비해 美·英 정치인 목소리 복제 차단
일레븐랩스는 2024년 글로벌 선거철을 맞아 음성 AI 오용을 막기 위한 안전 조치를 발표했다. 미국과 영국의 대선 및 총선 후보 목소리 복제를 차단하는 '금지 음성' 안전장치를 도입하고, 정치용 로보콜이나 사칭을 전면 금지하며 자사 생성 음성을 감지하는 AI 분류 도구도 계속 지원한다.
메타·오픈AI 등 빅테크 20개사, 선거 겨냥 AI 딥페이크 방지 협약 체결
메타, 구글, 마이크로소프트, 오픈AI 등 20개 IT 기업이 뮌헨안보회의에서 선거 방해 목적의 AI 딥페이크에 대응하는 자율 협약을 맺었다. 유권자를 속이는 가짜 콘텐츠를 탐지하고 라벨을 붙이는 데 집중하기로 했으나, 강제성이나 즉각적인 삭제 의무는 두지 않았다.
미 법원, 작가들이 OpenAI 상대로 제기한 저작권 소송 대부분 기각
미국 연방법원은 세라 실버먼 등 작가들이 OpenAI를 상대로 낸 저작권 소송에서 대위 침해와 DMCA 위반 등 대부분의 청구를 기각했다. 법원은 ChatGPT 출력물이 원작과 실질적으로 유사하다는 점을 입증하지 못했다고 판시했다. 직접 침해 소송은 유지되나 원고 측 논리는 크게 흔들리게 됐다.
오픈AI·MS, 사이버 공격 시도한 국가 연계 해커 조직 계정 차단
오픈AI는 마이크로소프트와 협력해 사이버 공격에 AI를 활용하려던 5개 국가 연계 해킹 조직의 계정을 차단했다고 발표했다. 이들은 주로 공개 정보 검색, 코드 디버깅, 피싱 문구 작성 등 기초 작업에 AI를 사용했다. 오픈AI는 현재 모델이 악성 작업에 주는 이점이 제한적이지만 위협에 선제 대응하겠다고 밝혔다.
모질라, 60명 감원 단행…파이어폭스와 AI에 다시 집중
모질라는 제품 전략을 재편하며 약 60명을 감원한다고 밝혔다. 3D 가상 공간 Hubs 서비스를 종료하고 VPN 투자를 줄이는 대신, 포켓 및 AI/ML 팀을 통합해 파이어폭스에 '신뢰할 수 있는 AI'를 도입하는 데 역량을 집중할 계획이다.
구글, AI로 가짜 리뷰 잡는다… 2023년 1억 7천만 건 이상 차단
구글은 허위 리뷰를 빠르게 감지해 차단하는 새 머신러닝 알고리즘을 도입했다고 밝혔다. 시간 경과에 따른 패턴을 분석해 복사된 리뷰나 평점 조작, 조직적 유료 알바를 적발하며 2023년에만 전년 대비 45% 증가한 1억 7천만 건 이상의 위반 리뷰를 차단했다.
샘 올트먼 "AI의 진짜 위험은 킬러 로봇 아닌 '미묘한 사회적 어긋남'"
오픈AI CEO 샘 올트먼은 세계정부정상회의에서 밤잠을 설치게 하는 위험은 킬러 로봇이 아닌 악의 없이도 혼란을 부를 수 있는 '미묘한 사회적 어긋남'이라고 밝혔다. 그는 국제원자력기구(IAEA) 같은 감독 기구 설립을 재차 촉구하며, 업계가 직접 규제를 주도해서는 안 되며 현재 AI는 '흑백 화면 휴대폰' 수준이라고 덧붙였다.