미 FTC, 생성형 AI 독점 정조준: 배타적 계약·끼워팔기 단속 예고
미국 연방거래위원회(FTC)는 생성형 AI 시장 내 반독점 조사 강화를 예고했다. 빅테크 기업이 컴퓨팅 인프라를 독점 계약해 스타트업을 배제하거나, 기존 소프트웨어에 AI를 끼워팔아 경쟁을 저해하는 행위, 핵심 데이터와 인재 인수를 통한 시장 왜곡을 집중 감시할 방침이다.
AI 안전
최신 소식 보기
구글, '책임 있는 AI' 연구 지원 위해 2000만 달러 펀드 조성
구글은 '디지털 퓨처스 프로젝트'를 시작하고 Google.org를 통해 2000만 달러 규모의 펀드를 조성했다. 브루킹스 연구소, MIT 등 세계 유수 싱크탱크와 연구 기관에 지원금을 제공해 AI가 노동, 안보, 경제에 미치는 영향을 분석하고 공공 정책 및 거버넌스 연구를 촉진한다는 구상이다.
핀란드 스타트업, 수형자에게 시급 1.54유로 주며 AI 데이터 라벨링 시켜
와이어드 보도에 따르면 핀란드 스타트업 Metroc이 교도소 수형자들에게 시급 1.54유로를 지급하며 자사 LLM을 위한 핀란드어 데이터 라벨링을 맡기고 있다. 교정 당국은 출소 후를 대비한 디지털 직업 훈련이라고 주장하지만, 인권 단체는 취약 계층을 향한 저임금 노동 착취라며 비판하고 있다.
아마존, 킨들 작가 대상 AI 활용 여부 공개 의무화
아마존이 킨들 다이렉트 퍼블리싱 작가를 대상으로 AI가 생성한 텍스트, 이미지, 번역 사용 여부를 의무적으로 공개하도록 하는 새 정책을 도입했다. 작가조합과의 수개월 논의 끝에 나온 조치로, 저품질 AI 서적의 범람을 막고 독자를 보호하려는 목적이다. 다만 AI 생성과 보조의 경계 설정은 여전히 숙제로 남았다.
MS "중국, 美 대선 유권자 여론 분열에 생성형 AI 악용"
마이크로소프트 위협분석센터는 중국계 공작 조직이 생성형 AI 이미지를 활용해 미국 유권자를 사칭하고 정치적 분열을 조장하고 있다고 밝혔다. 확산 모델 기반 이미지가 기존 사진보다 훨씬 정교해 총기 문제 등 민감한 의제에서 바이럴되며 1억 명 이상에게 노출된 것으로 추정된다.
타임지, 'AI 분야 가장 영향력 있는 100인' 발표…UAE 장관·머스크 포함
타임지가 AI 분야에서 가장 영향력 있는 100인 명단을 발표했다. 세계 최초의 AI 장관인 UAE의 오마르 알 올라마를 비롯해 샘 올트먼, 일론 머스크, AI의 위험성을 경고한 제프리 힌턴 등이 이름을 올렸다. 18세 윤리 운동가부터 76세 학자까지 다양한 인물이 조명됐다.
메타의 얀 르쿤이 'AI 파멸론'을 믿지 않는 이유
패스트 컴퍼니는 메타의 수석 AI 과학자 얀 르쿤과의 인터뷰를 전했다. 르쿤은 AI 파멸론을 일축하며, 라마 2와 같은 모델을 오픈소스로 공개해 누구나 활용할 수 있게 하는 것이 소수 실리콘밸리 엔지니어의 기술 독점을 막는 유일한 방법이라고 강조했다.
X, 이용약관 개정해 사용자 게시물을 AI 학습에 활용
X(구 트위터)가 이용약관을 개정하여 사용자 게시물을 AI 모델 학습에 사용할 수 있도록 명시했다. 일론 머스크의 xAI에 핵심 데이터 공급원이 될 것으로 보이며, 이용자 데이터 활용과 알고리즘 노출 제한에 대한 우려도 제기된다.
다크웹에 등장한 섬뜩한 광고: 대형 범죄 조직, 생성형 AI 도구 패키지로 판매
폭스뉴스 보도에 따르면 범죄학 전문가가 다크웹에 유통된 홍보 영상을 포착했다. 대규모 범죄 조직이 도용 계좌와 함께 생성형 AI, 딥페이크 도구를 '사기 서비스'로 묶어 판매하고 있어 정부 지원금 편취와 협박 범죄 피해가 급증할 위험이 제기됐다.
미국, 엔비디아·AMD 첨단 AI 칩 수출 규제 중동 일부 국가로 확대
미국 정부가 엔비디아와 AMD의 첨단 AI 칩 수출 통제를 중동 일부 국가로 확대해 A100 및 H100 제품 공급 시 추가 라이선스를 취득하도록 했다. 양사는 이번 조치가 당장 매출에 중대한 영향을 주지는 않는다고 밝혔으나, AI 연산 자원에 대한 미국의 기술 통제망이 더 넓어지고 있다.
OpenAI, 작가들의 저작권 소송에 반박 "ChatGPT 학습은 공정이용"
이번 주 OpenAI는 작가들이 제기한 집단소송에 대해 대부분의 혐의를 기각해 달라고 미 연방법원에 요청했다. OpenAI는 저작물에서 단어 빈도와 통계 정보를 추출해 언어 규칙을 학습하는 것은 공정이용에 해당하며, 저작권 침해가 아니라고 주장했다.
미 저작권청, AI 학습 및 생성물 저작권에 관한 공개 의견 수렴 착수
미 저작권청이 8월 30일부터 AI와 저작권 이슈에 관한 대중 의견 수렴을 시작한다. 주요 쟁점은 저작권 데이터의 AI 학습 허용 여부, 인간 개입 없는 AI 생성물의 저작권 인정 여부, 책임 소재 등 3가지다. 이번 수렴 결과는 향후 AI 규제 기준을 마련하는 핵심 지침이 될 전망이다.
구글, AI 생성 이미지 식별하는 워터마크 기술 'SynthID' 공개
구글 딥마인드와 구글 클라우드가 이미지 생성 모델 Imagen을 위한 비가시성 워터마크 기술 'SynthID' 베타를 선보였다. 픽셀 데이터에 직접 워터마크를 삽입해 사람 눈에는 안 보이며, 압축이나 필터 처리 후에도 감지된다. 현재 버텍스 AI 일부 고객에게 제공된다.
허깅페이스, 기업용 자체 호스팅 코드 비서 SafeCoder 출시
허깅페이스가 VMware와 협력해 기업용 코드 어시스턴트 솔루션 SafeCoder를 공개했습니다. 모든 학습과 추론이 고객사 자체 VPC 내에서 실행되어 소스 코드 유출을 완벽히 차단합니다. 오픈소스 StarCoder 기반으로 기업 고유의 '온프레미스 깃허브 코파일럿'을 구축할 수 있습니다.
뉴욕타임스, 오픈AI 크롤러 'GPT봇' 차단…AI 학습 거부
더버지에 따르면 뉴욕타임스가 자사 robots.txt를 수정해 오픈AI의 웹 크롤러 'GPTBot'의 접근을 차단했다. 기사 콘텐츠가 AI 모델 학습에 활용되는 것을 막기 위한 조치다. 아카이브 기록상 이미 8월 17일부터 차단된 것으로 확인됐으며, 뉴욕타임스는 저작권 침해 소송까지 검토 중이다.
미 연방판사 판결: AI 단독 생성 예술작품엔 저작권 인정 안 돼
미국 연방법원 베릴 하웰 판사는 AI가 전적으로 생성한 예술작품에는 저작권을 인정할 수 없다고 판결했습니다. 자신의 알고리즘으로 만든 이미지의 저작권 등록을 거부한 미국 저작권청을 상대로 스티븐 탈러가 제기한 소송을 기각한 것으로, 법원은 「인간의 창작성이 저작권의 필수 요건」이라고 못 박았습니다.
크루즈 무인 택시, 출동 중인 소방차와 충돌… 승객 부상으로 병원 이송
목요일 밤 샌프란시스코에서 크루즈의 무인 로보택시가 긴급 출동 중이던 소방차와 충돌해 탑승객 한 명이 경상을 입고 병원으로 이송됐다. 크루즈는 파란불에 진입했다고 밝혔으나 긴급 차량을 피하지 못했다는 지적이 나온다. 캘리포니아주가 24시간 전면 유료 운행을 승인한 지 불과 일주일 만에 사고가 발생해 안전성 논란이 재점화됐다.
테이크투, GTA 5 생성형 AI 모드 저작권 침해로 전격 차단
테이크투가 'GTA 5'에서 생성형 AI로 NPC와 음성 대화를 나누게 해주는 모드 'Sentient Streets'에 DMCA 삭제를 요청해 배포를 중단시켰다. 인월드 AI와 일레븐랩스를 결합해 30명 이상의 NPC와 대화할 수 있던 프로젝트였으나, 제작자는 사전 통보 없이 갑작스럽게 차단당했다고 토로했다.
AP통신, AI 가이드라인 발표: ChatGPT로 기사 작성 금지
AP통신은 생성형 AI 활용 가이드라인을 발표하고 기자들에게 ChatGPT로 기사를 작성해 게시하는 행위를 금지했다. AI 출력물은 검증되지 않은 취재원으로 취급해야 하며, 기밀 정보 입력이나 사진·음성 변조도 엄격히 제한된다.
OpenAI, GPT-4 활용한 콘텐츠 모더레이션 시스템 제안
OpenAI는 GPT-4를 활용해 콘텐츠 검수를 자동화하고 정책 적용 시간을 수 시간으로 단축하는 방식을 공개했다. 전문가가 프롬프트로 가이드라인을 입력한 뒤 AI 판정과 비교하며 규칙을 정교화하는 구조다. 단, 편향 문제로 인간의 개입과 모니터링은 여전히 필수적이다.