오픈AI, 성인용 콘텐츠 허용 검토…'책임 있는 방식' 모색
외신에 따르면, 오픈AI는 지침 문서를 통해 음란물과 노출 등 성인용 콘텐츠 생성을 '책임 있는 방식'으로 허용하는 방안을 검토 중이라고 밝혔다. 적법한 테두리 내 창작 자유를 보장한다는 취지이지만, 오남용을 막을 안전장치가 여전히 미흡하다는 지적이 나온다.
AI 안전
최신 소식 보기
오픈AI, 창작자가 AI 학습 여부 선택하는 '미디어 매니저' 개발
오픈AI가 창작자와 저작권 소유자가 자신의 저작물을 AI 연구 및 학습에 포함할지 여부를 직접 결정할 수 있는 '미디어 매니저'를 개발 중이라고 발표했다. 텍스트, 이미지, 오디오, 영상을 식별해 2025년까지 도입하는 것이 목표다. 저작권 갈등을 풀기 위한 시도이나 현재는 개발 단계다.
워런 버핏의 경고: AI 사기가 역대 최대 '성장 산업' 될 것
버크셔 해서웨이 연례 주주총회에서 워런 버핏은 AI 기반 사기가 역대 최대 성장 산업이 될 것이라고 경고했다. 그는 딥페이크와 음성 복제 범죄 위험을 지적하며, AI의 잠재적 파괴력을 원자폭탄에 비유해 병에서 풀려난 요정을 다시 가둘 수 없다고 우려했다.
MS, 미국 경찰의 Azure OpenAI 안면인식 사용 금지
마이크로소프트는 Azure OpenAI Service 이용약관을 개정해 미국 경찰이 해당 서비스를 안면인식에 사용하는 것을 명시적으로 금지했다. 또한 전 세계 법 집행 기관이 바디캠 등 이동형 카메라에서 실시간 안면인식을 수행하는 것도 전면 제한된다.
오픈AI, 챗GPT 플러스에 '메모리' 기능 전면 도입…한국 등 제외
오픈AI가 유럽과 한국을 제외한 모든 챗GPT 플러스 사용자에게 '메모리' 기능을 공식 출시했다. 챗GPT가 이전 대화에서 공유한 세부 사항과 선호도를 기억해 다음 대화에 반영하며, 메모리가 업데이트되면 알림을 준다. 사용자는 설정에서 기억을 확인·삭제하거나 임시 대화를 켤 수 있다.
OpenAI, 샘 올트먼의 또 다른 회사 월드코인과 파트너십 논의 중
보도에 따르면, 샘 올트먼이 이끄는 OpenAI가 그가 공동 창립한 암호화폐 기반 신원 인증 프로젝트 월드코인과 파트너십을 협상 중이다. OpenAI가 AI 솔루션을 제공하는 형태가 유력하나, 올트먼의 겸직 구조로 인해 규제 당국의 감시가 한층 강화될 전망이다.
메타의 AI 광고 도구 오작동…예산 급속 소진에 광고 단가 10배 폭등
더버지 보도에 따르면 메타의 자동화 광고 툴 '어드밴티지 플러스(Advantage Plus)'에서 결함이 이어지며 일일 예산의 75%가 2시간 만에 소진되고 노출당 비용이 10배 가까이 폭등했다. 매출 전환이 거의 일어나지 않자 일부 광고주들은 자동화 도구를 끄고 수동 집행으로 복귀하고 있다.
미 국토안보부 AI 안전 위원회 발족: 올트먼·나델라·피차이 합류
미 국토안보부가 금요일 전력망과 공항 등 핵심 인프라를 AI 위협에서 보호하기 위한 AI 안전·보안 위원회를 출범했습니다. 오픈AI의 샘 올트먼, 마이크로소프트의 사티아 나델라, 알파벳의 순다르 피차이 등 빅테크 CEO를 포함한 22명이 초기 위원으로 참여합니다.
드레이크, 고 투팍 AI 음성 사용한 디스곡 삭제
드레이크는 고 투팍 샤커(Tupac Shakur) 유산 관리 측의 소송 경고를 받은 뒤 X 계정에서 디스곡 'Taylor Made'를 삭제했다. 이 곡은 AI로 투팍의 목소리를 무단 복제해 논란이 됐다. 주류 음악계의 AI 음성 복제 기술 오용이 결국 법적 한계에 부딪힌 대표적 사례다.
AI로 교장 목소리 위조해 혐오 발언 누명 씌운 美 교사 체포
미국 메릴랜드주의 한 고등학교 교사가 AI 음성 복제 기술을 악용해 교장의 인종차별 발언 녹음을 위조·유포한 혐의로 체포됐다. 조작된 음성으로 교장이 정직 처분까지 받았으나 수사 결과 AI 생성 흔적이 입증됐다. 음성 합성 기술이 개인적 보복 범죄에 쓰인 대표적 사례다.
드레이크, 고 투팍 AI 음성 무단 사용으로 피소 위기…유족 측 삭제 요구
힙합 전설 고 투팍의 유산 관리 재단이 드레이크를 상대로 신곡 'Taylor Made'를 24시간 이내에 내리지 않으면 법적 대응에 나서겠다고 경고했습니다. 해당 곡은 투팍의 AI 음성을 무단으로 사용해 제작되었으며, 유족 측은 명백한 권리 침해라고 비판했습니다.
OpenAI와 빅테크 기업들, 아동 안전 위한 '안전 설계 원칙' 공동 채택
OpenAI는 비영리단체 쏜(Thorn) 및 구글, 메타, MS 등과 손잡고 생성형 AI '안전 설계' 원칙을 채택했다고 밝혔다. 모델 학습부터 배포 전 과정에서 아동 성착취물(CSAM) 생성을 선제적으로 차단하고, 매년 이행 경과를 공개할 계획이다.
무스타파 술레이만 "AI는 단순 기술 아닌 '새로운 디지털 종'"
마이크로소프트 AI의 무스타파 술레이만 최고경영자는 TED 강연을 통해 AI의 본질에 대한 새로운 시각을 제시했다. 그는 개발자들조차 AI의 발전 방향을 명확히 정의하지 못하고 있다며, AI를 하나의 '새로운 디지털 종'으로 바라볼 것을 제안했다.
스탠퍼드 HAI 연례 보고서: 기존 벤치마크서 인간 넘어서는 AI
스탠퍼드대 HAI가 제7차 'AI 인덱스' 연례 보고서를 발표했다. AI는 이미지 분류와 독해에 이어 경시대회급 수학(MATH) 해결률을 2년 만에 6.9%에서 84.3%까지 끌어올리며 인간 수준에 도달했다. 기존 평가 기준이 한계에 부딪혀 새 벤치마크 개발이 시급해진 반면, 환각 문제는 여전히 과제로 지적됐다.
페인트탄과 최루액 쏘는 가정용 AI 보안 카메라 ‘PaintCam Eve’ 등장
슬로베니아 기업 PaintCam이 침입자에게 페인트탄이나 최루가스를 발사해 격퇴하는 스마트 보안 카메라 ‘Eve’를 공개했다. 컴퓨터 비전으로 사람과 동물을 식별해 경고 후 직접 발사하지만, 오작동으로 인한 인명 피해 위험과 법적 책임 논란이 일고 있다.
미국 배우·방송인 노조, 대형 음반사와 AI 음성 보호 잠정 합의
미국 배우·방송인 노동조합(SAG-AFTRA)이 워너뮤직, 소니뮤직 등 주요 음반사와 잠정 합의를 맺었다. 아티스트의 음성을 디지털로 복제해 음원을 낼 때 사전 동의와 보상을 의무화했으며, ‘가수’라는 명칭은 인간에게만 적용되도록 못 박았다.
美 의원, AI 공개 30일 전 학습 저작물 제출 의무화 법안 발의
미국 아담 시프 하원의원이 '생성형 AI 저작권 공개 법안'을 발의했다. AI 기업이 새 생성형 시스템을 공식 출시하기 최소 30일 전, 학습에 쓰인 저작물 목록을 저작권등록관에게 제출하도록 의무화하며 위반 시 벌금이 부과된다. 저작물 학습을 전면 금지하진 않지만 철저히 비공개였던 데이터 내역을 공개하도록 압박한다.
캐나다, AI 경쟁력 강화에 24억 달러 투입…컴퓨팅 인프라에 집중
쥐스탱 트뤼도 캐나다 총리는 AI 생태계 강화를 위해 2024년 예산안에서 24억 달러를 투입한다고 발표했다. 이 중 20억 달러는 컴퓨팅 인프라 확충과 주권 컴퓨팅 전략에 쓰이며, AI 안전 연구소 설립에도 5천만 달러가 배정된다. 해외로의 AI 인재 및 스타트업 유출을 막겠다는 구상이다.
OpenAI, GPT-4 학습에 유튜브 영상 100만 시간 이상 무단 전사 논란
뉴욕타임스 보도에 따르면 OpenAI는 학습 데이터 부족을 해소하기 위해 Whisper로 100만 시간 이상의 유튜브 영상을 텍스트로 변환해 GPT-4 훈련에 썼다. 내부적으로 법적 논란을 인지했으나 공정 이용으로 판단했으며, 구글과 메타 역시 데이터 수급 한계에 부딪힌 상태다.
넷플릭스 예능 '더 서클' 시즌 6, 사람인 척하는 AI 봇 플레이어로 투입
넷플릭스가 리얼리티 서바이벌 예능 '더 서클' 시즌 6의 참가자 명단을 공개하며 '맥스'라는 AI 봇이 인간 참가자로 위장해 합류한다고 밝혔다. 참가자들은 10만 달러의 상금을 두고 소통과 심리전을 겨루게 된다. 과연 인간들이 AI의 정체를 밝혀낼 수 있을지가 이번 시즌의 핵심 관전 포인트다.