바이트댄스, 오픈AI 기술 무단 활용해 자체 LLM 개발…계정 정지 조치
더버지에 따르면 바이트댄스가 자체 거대언어모델 '프로젝트 시드' 개발과 평가에 오픈AI의 API를 비밀리에 활용해온 것으로 드러났다. 이는 경쟁 모델 개발을 금지한 서비스 약관을 정면으로 위반한 행위로, 오픈AI는 즉각 계정을 정지하고 조사에 착수했다. 바이트댄스 측은 관련 데이터를 올해 중반 학습 데이터에서 삭제했다고 해명했다.
AI 안전
최신 소식 보기
오픈AI, '초인공지능 정렬' 연구에 1천만 달러 지원 프로그램 발표
오픈AI가 에릭 슈미트와 협력해 인간을 뛰어넘는 AI의 안전과 정렬 기술을 연구하는 1천만 달러 규모의 지원 프로그램을 공개했다. 연구실과 개인에게 10만~200만 달러를 지원하고 대학원생 펠로우십도 운영한다. 정렬 연구 경험이 없어도 지원할 수 있으며 약-강 일반화와 해석 가능성 연구를 우선 지원한다.
구글, 텍스트로 음악 만드는 AI 툴 '뮤직FX' 공개
구글이 몇 마디 문장으로 음악을 생성하는 실험용 도구 '뮤직FX(MusicFX)'를 공개했다. 뮤직LM 모델 기반으로 딥마인드의 신스ID(SynthID) 워터마크 기술을 적용해 출처를 보증한다. 저작권 보호를 위해 보컬 생성과 특정 아티스트 모방은 차단되며, 미국과 호주 등 일부 국가에서 우선 테스트할 수 있다.
샘 알트만, 오픈AI 사태와 AGI 언급: 사내 정치보다 초지능 통제가 더 큰 고민
타임지 '올해의 CEO'로 선정된 오픈AI CEO 샘 알트만이 인터뷰를 통해 최근의 해임 사태와 AGI 거버넌스에 대해 털어놓았다. 그는 이사회 갈등이 지배구조 개선을 위한 계기가 되었다며, AGI가 인류 역사상 가장 강력한 기술이 될 것이라고 강조했다. 또한 사내 정치보다 초지능 통제와 2024년 선거 허위정보 리스크가 훨씬 더 큰 과제라고 짚었다.
美 회계감사원, 정부 기관 AI 도입 속도전에 경고…구매·안전 지침은 수년째 지연
미국 정부회계감사원(GAO)은 연방 기관들이 200개 이상의 분야에서 AI를 도입했으나 총괄적인 조달 및 안전 관리 지침은 수년째 뒤처져 있다고 발표했다. 백악관 관리예산국(OMB)의 공식 지침이 지연되면서 안면인식 등 민감한 영역에서 정책 공백과 프라이버시 침해 우려가 커지고 있다.
美 FTC, 마이크로소프트의 오픈AI 투자 반독점 조사 검토
미국 연방거래위원회(FTC)가 마이크로소프트의 오픈AI 투자가 반독점법을 위반했는지 조사하는 방안을 검토 중인 것으로 알려졌다. 마이크로소프트는 100억 달러 이상을 투자했으나 지분은 없고 수익 배분권만 갖는다고 강조했다. 영국 CMA에 이어 주요 규제 당국의 감시가 본격화되고 있다.
유튜버, 연출 논란 빚은 구글 제미나이 시연을 GPT-4V로 진짜 구현
유튜버 Greg Technology가 연출 의혹을 받은 구글 제미나이의 실시간 영상 시연을 오픈AI의 GPT-4V로 직접 재현했다. 손짓 인식, 그림 식별 등을 실제로 실시간 처리했으며 해당 인터페이스 코드를 깃허브에 오픈소스로 공개했다.
xAI의 그록, 답변 거부하며 "오픈AI 정책 위반" 황당 답변 논란
머스크의 xAI가 내놓은 챗봇 그록이 사용자 요청을 거절하며 "오픈AI의 사용 정책에 위배된다"고 답변한 사실이 드러났습니다. xAI는 웹 크롤링 과정에서 유입된 노이즈라고 해명했으나, 전문가들은 챗GPT 데이터를 활용해 미세조정했을 가능성을 제기했습니다.
패스트푸드 'AI 드라이브스루', 알고 보니 70% 이상 필리핀 인력이 수동 처리
외신에 따르면 주요 패스트푸드점에 AI 드라이브스루 시스템을 공급하던 프레스토 오토메이션(Presto Automation)의 주문 중 70% 이상이 필리핀 등지의 원격 노동자에 의해 처리된 것으로 SEC 문건을 통해 드러났다. 현재 SEC가 조사에 착수했다. 혁신적인 AI 자동화로 홍보된 기술의 실체가 저임금 해외 인력 아웃소싱에 불과했음이 밝혀진 셈이다.
EU, 세계 최초 포괄적 'AI 법' 잠정 합의: 위반 시 글로벌 매출 최대 7% 벌금
유럽의회와 이사회는 세계 최초의 포괄적 AI 규제안인 '인공지능법'에 잠정 합의했다. 위험도에 따라 사회적 채점 및 감정 인식 등을 전면 금지하며 범용 AI 모델에는 투명성 요건을 부과한다. 위반 시 최대 3500만 유로 또는 글로벌 매출의 7%에 달하는 벌금이 부과된다.
메타, 오픈 AI 안전 도구 '퍼플 라마' 및 '라마 가드' 공개
메타가 오픈소스 생성형 AI의 안전한 구축을 지원하는 '퍼플 라마' 프로젝트를 발표했다. LLM 사이버 보안 평가 지표와 위험 입출력을 필터링하는 오픈 파운데이션 모델 '라마 가드'를 공개했으며, 연구와 상업적 용도로 모두 자유롭게 활용할 수 있다.
메타, 독립형 웹 이미지 생성 도구 '이매진 위드 메타' 공개
메타가 웹에서 바로 사용할 수 있는 독립형 AI 이미지 생성 도구 '이매진 위드 메타'를 선보였다. 자체 Emu 모델을 기반으로 미국 사용자에게 무료 제공되며, 프롬프트당 4장의 이미지를 만들어 준다. 향후 이미지 자르기나 압축에도 유지되는 비가시성 AI 워터마크를 도입해 투명성을 높일 계획이다.
모질라 연례 보고서 발표: 웹 바꿨듯 오픈소스 AI에 집중한다
모질라가 최신 연례 보고서 'State of Mozilla'를 공개하고, 과거 파이어폭스로 웹을 개방했던 것처럼 AI 생태계 혁신에 나서겠다고 밝혔다. 빅테크의 독점과 조악한 AI 콘텐츠 범람에 맞서 오픈소스 개발자들과 연대하고, 인간 중심의 탈중앙화 AI에 투자할 계획이다.
베이징 법원의 판단: AI 생성 이미지도 저작권 보호 대상
베이징 인터넷 법원이 AI 생성 이미지라도 인간의 독창적 지적 투입이 반영되었다면 저작권법의 보호를 받는다고 판결했다. 프롬프트 작성과 파라미터 조절, 이미지 선택 과정을 도구를 이용한 창작 행위로 인정한 것으로, 저작권을 인정하지 않는 서구권 입장과 뚜렷한 대비를 이룬다.
아마존, 이미지 생성 AI 모델 '타이탄' 공개…보이지 않는 워터마크 탑재
아마존이 AWS re:Invent에서 '타이탄 이미지 제너레이터'를 공개했다. 베드록을 통해 제공되는 기업용 모델로, 이미지 생성과 배경 변경을 지원하며 잘라내도 유지되는 비가시성 워터마크를 기본 탑재했다. 기업 고객을 위한 저작권 면책도 함께 지원한다.
샘 알트먼, 오픈AI CEO 공식 복귀…새 이사회 출범
오픈AI는 샘 알트먼이 CEO로 공식 복귀했다고 발표했다. 미라 무라티와 그렉 브록먼도 리더십에 복귀했으며, 브렛 테일러를 의장으로 하는 새 이사회가 출범했다. 마이크로소프트는 무의결권 참관인 자격을 얻었으며, 이사회는 향후 거버넌스 개선과 사태 조사에 집중할 계획이다.
미 국방부, 2026년까지 수천 대 자율 드론 배치…치명적 AI 무기 현실화
외신에 따르면 미 국방부는 중국을 견제하기 위해 2026년까지 수천 대의 저비용 자율 무인기를 배치하는 '레플리케이터' 프로젝트를 추진 중이다. 800여 개 군사 AI 과제가 진행되면서 완전 자율 치명 무기의 도입 결정을 둘러싼 압박도 커지고 있다.
미·영 등 18개국 합의: AI '설계 단계부터 보안' 가이드라인 발표
미국, 영국 등 18개국이 AI 악용을 막기 위한 최초의 국제 안전 가이드라인을 발표했다. 기업들이 출시 전 보안 테스트를 거치고 데이터 변조를 막는 등 '설계 단계의 보안'을 우선하도록 권고했으나 구속력은 없다.
로이터 "오픈AI 올트먼 해임 배후에 인류 위협 경고한 'Q*' 서한 있었다"
로이터 통신에 따르면, 샘 올트먼의 깜짝 해임 직전 일부 연구진이 이사회에 'Q*'라는 AI 기술의 잠재적 위험을 경고하는 서한을 보낸 것으로 전해졌다. 방대한 연산으로 수학 문제를 해결해 AGI의 단초로 평가받은 이 기술이 이사회 해임 조치의 결정적 촉매제가 됐다는 분석이다.
오픈AI 사태 반전: 샘 올트먼 CEO 전격 복귀 합의
오픈AI는 밤 샘 올트먼이 CEO로 복귀하기로 원칙적 합의에 도달했다고 발표했다. 공동 창업자 그렉 브록먼도 함께 돌아오며, 브렛 테일러 등이 이끄는 새 이사회가 구성된다. 직원들의 거센 집단 사직 압박 끝에 5일간의 혼란이 수습됐으며, 해임 사태 전반에 대한 독립적인 외부 조사도 진행될 예정이다.