드레이크 AI 복제곡 플랫폼서 일제히 퇴출：유니버설 항의
드레이크와 더 위켄드의 목소리를 AI로 모사한 곡 'Heart On My Sleeve'가 스포티파이와 애플뮤직 등 주요 스트리밍 플랫폼에서 전면 삭제됐다. 삭제 전 스포티파이에서 62만 5천 회 이상 재생됐으며, 유니버설 뮤직 그룹의 저작권 침해 요청에 따른 조치다.
AI 안전
최신 소식 보기
스냅챗, 챗봇 '마이 AI' 전 세계 모든 사용자에게 무료 개방
스냅은 유료 구독자 전용이던 AI 챗봇 '마이 AI'를 전 세계 모든 스냅챗 사용자에게 전면 개방했다. 나만의 아바타로 커스텀할 수 있고, 친구들과의 단체 채팅방에서 @로 소환해 장소나 AR 렌즈 추천을 받을 수 있다. 미성년자 보호를 위한 연령 기반 안전장치도 함께 적용됐다.
일론 머스크, 챗GPT 대항마 '트루스GPT' 개발 선언: "우주의 진실 추구"
일론 머스크는 인터뷰에서 우주의 본질을 이해하고 '진실을 극대화해 추구하는 AI'인 트루스GPT를 개발 중이라고 밝혔습니다. 그는 우주를 탐구하는 AI가 인류를 파멸시키지 않을 안전한 대안이라며 영리화된 OpenAI를 겨냥했습니다. 다만 실제 개발 진행 단계는 아직 불투명합니다.
이탈리아, ChatGPT 차단 해제 조건 제시…OpenAI에 18일 시한
이탈리아 데이터 보호 당국이 수요일 ChatGPT 차단 해제를 위한 이행 조치를 발표했다. OpenAI는 4월 말까지 데이터 처리 투명성 확보, 18세 이상 연령 확인, 비이용자의 개인정보 처리 거부 절차를 마련해야 하며, 남은 시간은 약 18일에 불과하다.
OpenAI, 버그 바운티 프로그램 발표… 최대 2만 달러 보상
OpenAI는 버그크라우드(Bugcrowd)와 협력해 공식 버그 바운티 프로그램을 시작했다. 보안 연구원이 시스템 취약점을 찾아 보고하면 심각도에 따라 200달러에서 최대 2만 달러의 보상금을 지급한다. 글로벌 화이트해커의 집단지성을 빌려 시스템 보안을 강화하겠다는 구상이다.
GPT-4, 데이터 라벨링서 숙련 인력 제쳐: 50만 달러와 2만 시간 절감
Carnegie Mellon, Yale, UC Berkeley 연구진은 OpenAI의 GPT-4가 데이터 라벨링 작업에서 숙련된 크라우드워커보다 뛰어난 성능을 보였다고 밝혔다. 572,322개 텍스트 시나리오 작업에 GPT-4를 활용해 5,000달러 미만을 지출하며 500,000달러 이상의 비용과 20,000시간의 노동을 아꼈다. AI가 전문 인력 수준의 라벨링을 대체할 가능성을 보여준다.
자율 AI에 "인류 멸망시켜라" 명령했더니… 구글 검색 후 트윗 2건에 그쳐
바이스 보도에 따르면, 오픈소스 자율 AI 'Auto-GPT'를 기반으로 '인류 멸망' 명령을 받은 AI '카오스GPT(ChaosGPT)'의 실험 영상이 공개됐다. 이 AI는 가장 파괴적인 무기를 구글에서 검색하고 다른 AI를 포섭하려 했으나, 실제 영향은 팔로워 19명인 계정에 트윗 2건을 올리는 데 그쳤다.
이탈리아, 개인정보 침해 혐의로 ChatGPT 전면 차단 명령
이탈리아 데이터 보호 당국이 금요일 개인정보 침해 혐의로 ChatGPT 접속 차단과 OpenAI 조사를 전격 명령했다. 알고리즘 학습을 위한 대규모 데이터 수집의 법적 근거 부족과 미성년자 보호 미흡이 이유다. OpenAI는 이탈리아 내 서비스를 중단했으며, 20일 내로 시정 계획을 제출하지 않으면 막대한 과징금을 물게 된다.
미드저니 무료 체험 중단: 일회용 계정 남용에 유료 사용자까지 피해
미드저니가 무료 체험을 일시 중단했다. 데이비드 홀츠 CEO는 일회용 계정을 악용한 이미지 생성 급증과 GPU 부족이 겹쳐 유료 이용 환경을 위협했기 때문이라고 설명했다. 논란이 된 정치인 딥페이크 대응 차원의 조치는 아니라고 선을 그었다.
머스크와 석학들, GPT-4 능가하는 대형 AI 훈련 6개월간 중단 촉구
비영리단체 '생명의 미래 연구소'는 공개서한을 내고 일론 머스크, 요슈아 벤지오 등과 함께 GPT-4보다 강력한 AI 시스템 훈련을 최소 6개월간 즉각 중단할 것을 요구했다. 통제 불가능한 개발 경쟁이 사회에 위험을 초래할 수 있어 안전 규약 마련이 시급하다는 지적이다.
마이크로소프트, GPT-4 탑재한 '시큐리티 코파일럿' 공개... 사이버 보안 방어 속도 혁신
마이크로소프트는 최초의 사이버 보안용 생성형 AI '시큐리티 코파일럿'을 발표했다. 오픈AI의 GPT-4와 마이크로소프트의 보안 특화 모델을 결합해 매일 65조 개 이상의 위협 신호를 분석하며 자연어로 사고 조사를 돕는다. 전 세계 340만 명에 달하는 보안 인력 부족 문제를 AI로 메우겠다는 구상이다. 다만 초기 단계인 만큼 생성 결과에 오류가 발생할 수 있음을 밝혔다.
OpenAI, 3월 20일 ChatGPT 장애 원인 규명: 오픈소스 버그로 데이터 유출
OpenAI가 ChatGPT 서비스 중단 원인을 공개했다. 오픈소스 라이브러리 redis-py의 캐시 버그로 인해 타인의 대화 제목과 9시간 동안 접속한 Plus 회원의 약 1.2%의 이름, 이메일, 신용카드 뒷자리 4개가 노출되었다. 현재 패치 배포가 완료되어 서비스가 정상화되었다.
아들 목소리 AI로 복제해 보이스피싱… 美 부부 5천 달러 피해
외신에 따르면 미국 텍사스의 한 부부가 아들의 목소리를 AI로 복제한 사기범에게 속아 5,000달러를 갈취당했다. 전문가들은 SNS의 공개 영상 속 짧은 음성만으로도 쉽게 음성을 위조할 수 있다며 각별한 주의를 당부했다.
모질라, 30M 달러 투자해 독립 오픈소스 AI 기업 'Mozilla.ai' 설립
모질라는 신뢰할 수 있는 독립 오픈소스 AI 생태계 구축을 위해 30M 달러를 투자해 Mozilla.ai를 설립한다고 발표했다. 모에즈 드라이에프가 이끄는 이 조직은 안전한 생성형 AI 도구와 사용자 중심 추천 시스템에 집중한다. 빅테크의 독점에 맞서 투명하고 탈중앙화된 대안을 제시하려는 시도다.
오픈AI 샘 올트먼 "AI 위험성에 조금 두려워…사회적 규제 시급"
샘 올트먼 오픈AI CEO와 미라 무라티 CTO는 ABC 뉴스와의 인터뷰에서 GPT-4의 파급력과 위험성을 언급했다. 올트먼은 대규모 허위 정보 유포와 사이버 공격 악용 가능성에 대해 두려움을 느끼고 있다고 털어놨다. 그는 AI 모델이 사실 저장소가 아닌 추론 엔진이라며 사회적 규제 마련을 촉구했다.
美 저작권청 "단순 프롬프트로 만든 AI 이미지는 저작권 인정 안 돼"
미국 저작권청이 연방 관보를 통해 텍스트 프롬프트만으로 생성된 AI 이미지는 저작권 보호 대상이 아니라는 새 지침을 발표했다. 이용자의 명령어 입력은 외주 의뢰와 유사하며, 창작적 표현은 기계가 주도했다는 판단이다. 다만 인간의 실질적 편집이나 배치가 들어간 복합 저작물은 사례별로 인정받을 수 있다.
앤트로픽, 차세대 AI 어시스턴트 '클로드' 및 경량 버전 출시
앤트로픽이 AI 어시스턴트 클로드와 더 빠르고 저렴한 클로드 인스턴트를 선보였다. 유용하고 정직하며 무해한 AI를 지향하며, 챗 인터페이스와 개발자 콘솔 API를 통해 요약, 글쓰기, 코딩 등 다양한 작업에 활용할 수 있다.
마이크로소프트, AI 윤리·사회 팀 전원 해고: 속도전에 사라진 안전장치
외신에 따르면, 마이크로소프트가 1만 명 규모 구조조정 속에서 AI 윤리·사회 전담 팀을 전격 해고했다. 해당 팀은 OpenAI 기술 도입에 따른 위험을 점검하고 윤리 원칙을 실제 제품에 구현해 왔다. 경영진이 AI 제품 출시를 재촉하면서 내부 브레이크 역할을 하던 팀이 사라진 셈이다.
미국 TSA, 공항 전신 검색대에 AI 알고리즘 도입해 불필요한 몸수색 대폭 축소
미국 교통보안청(TSA)은 약 1,000대의 공항 전신 스캐너에 신규 AI 알고리즘을 적용해 시스템 오류로 인한 불필요한 촉수 검색을 대폭 줄이고 있다고 밝혔다. 기존의 이분법적 성별 판정 기준을 완화해 성소수자를 비롯한 일반 승객의 검색 과정을 개선했다.
ChatGPT가 뒤흔든 EU 규제안: 범용 AI 대응에 법안 재검토 착수
폴리티코에 따르면 ChatGPT의 등장이 유럽연합(EU)의 '인공지능법(AI Act)' 제정 일정을 뒤흔들고 있습니다. 특정 고위험 용도 중심이었던 기존 규제 틀로는 범용 언어 모델을 통제하기 어려워, 의원들이 무감독 텍스트 생성 AI를 고위험군에 포함하는 수정안을 내놓으며 로비와 논쟁이 격화되고 있습니다.