허깅페이스의 2인 팀 'H4', Zephyr 등 오픈소스 챗봇 모델 개발
테크크런치에 따르면, 허깅페이스 내 단 2명으로 구성된 'H4' 팀이 오픈소스 챗봇 모델 정렬 연구를 주도하고 있다. 이들은 1,000대 이상의 A100 GPU를 활용해 Zephyr-7B-α 등을 개발했으며, 훈련 코드와 레시피를 커뮤니티에 공개하고 있다.
AI 안전
최신 소식 보기
깃허브 어드밴스드 시큐리티에 AI 도입: 취약점 자동 수정과 비밀번호 유출 감지
GitHub은 GitHub Advanced Security에 세 가지 AI 기능 프리뷰를 공개했다. CodeQL의 JavaScript 및 TypeScript 경고에 대해 LLM이 자동 수정 코드를 생성해 PR에서 바로 적용할 수 있게 지원하며, 정형화되지 않은 유출 비밀번호 탐지와 정규식 생성도 AI로 돕는다.
미 FTC, 저작권청에 이례적 의견서 제출: 생성형 AI 저작권 침해 정조준
미국 연방거래위원회(FTC)가 저작권청에 이례적인 의견서를 제출하고, 생성형 AI의 무단 데이터 학습과 아티스트 모방이 '공정 이용'에 해당하더라도 소비자 기만 및 불공정 경쟁 행위로 처벌받을 수 있다고 경고했습니다. 업계 일각에서는 FTC의 권한 남용이라는 비판이 나옵니다.
할리우드 배우 조합 파업 협상 또 결렬, 영화사의 'AI 초상권 영구 소유' 요구에 반발
미국 배우 조합(SAG-AFTRA)과 제작자 연맹의 파업 협상이 AI 쟁점으로 다시 중단됐다. 제작사 측이 일부 배우의 디지털 스캔 초상권을 영구 소유하고 사후에도 동의 없이 활용할 수 있는 안을 내밀자, 조합은 매번 명시적 동의와 대가를 지불해야 한다며 맞섰다.
스칼렛 요한슨, 목소리 무단 복제한 AI 앱 개발사에 법적 대응
버라이어티에 따르면 스칼렛 요한슨이 AI 이미지 앱 'Lisa AI' 개발사 Convert Software를 상대로 법적 조치에 나섰다. 해당 앱은 광고에서 그녀의 목소리를 무단 복제해 기능을 홍보했으며, 면책 문구를 넣었음에도 대리인 측은 모든 법적 수단으로 대응하겠다고 밝혔다.
인스타그램, 성격·관심사 맞춤 설정하는 'AI 친구' 개발 중
유출된 스크린샷에 따르면 인스타그램이 맞춤형 'AI 친구' 기능을 개발 중이다. 사용자는 챗봇의 성별과 나이, 성격 특성, 관심 분야를 직접 골라 대화를 나눌 수 있다. 메타가 앞서 선보인 유명인 기반 AI 페르소나와 달리, 일상적인 대화와 교류에 초점을 맞춘 기능으로 풀이된다.
블레츨리 선언 채택… 미 상무부, AI 안전 연구소 설립 발표
영국 블레츨리 파크에서 열린 AI 안전 정상회의에서 프론티어 AI 위험 대응을 위한 '블레츨리 선언'이 발표됐다. 이와 함께 미국 상무부는 국립표준기술연구원(NIST) 산하에 AI 안전 연구소를 설립하고 각국과 규제 조율에 나선다고 밝혔다.
콜린스 사전, 2023년 '올해의 단어'로 AI 선정…사용량 4배 급증
영국 콜린스 사전이 2023년 '올해의 단어'로 AI(인공지능)를 선정했다. 콜린스 측은 지난 1년 동안 해당 단어의 사용 빈도가 4배 증가했으며, 이메일처럼 일상에 깊숙이 침투해 한 해 동안 가장 뜨겁게 논의된 화두였다고 설명했다.
미 법원, Midjourney·Stability AI 상대 저작권 소송 일부 기각
미국 연방법원은 시각 예술가들이 Stability AI와 Midjourney 등을 상대로 제기한 저작권 침해 소송을 대폭 축소했다. 법원은 모든 AI 생성물이 자동으로 침해물이라는 주장과 Midjourney에 대한 청구를 기각했으나, 모델 학습 데이터 무단 사용에 대한 Stability AI의 직접 침해 혐의는 계속 심리하기로 했다.
메타 AI 수장 "기존 오픈소스 라이선스, 대형 모델에 맞게 바뀌어야"
메타 AI 연구 책임자 조엘 피노는 기존 소프트웨어 라이선스가 방대한 데이터를 학습하는 AI 모델의 저작권과 책임 문제를 담아내지 못한다고 밝혔다. Llama 2의 사용 제한 탓에 '가짜 오픈소스'라는 비판이 쏟아졌지만, 오픈소스 이니셔티브(OSI) 역시 한계를 인정하고 AI 전용 정의를 새로 마련 중이다.
바이든 미 대통령, AI 행정명령 서명: 최고 성능 모델 안전 검증 의무화
바이든 미국 대통령이 인공지능 안전을 위한 행정명령에 서명했다. 국방물자생산법을 발동해 고위험 파운데이션 모델 개발 시 정부에 사전 통보하고 레드팀 테스트 결과를 공유하도록 의무화했으며, AI 생성물 워터마크 표준도 마련하기로 했다.
Yan LeCun의 경고: 오픈소스 AI 규제하면 소수 기업이 지식 독점한다
Yan LeCun은 종말론을 앞세워 오픈소스 AI 연구 규제를 로비하는 움직임을 비판했다. 그는 AI 플랫폼이 인류 지식을 담는 기반이 될 만큼 위키피디아처럼 개방되어야 한다며, 규제로 오픈소스가 사라지면 소수 거대 기업이 대중의 디지털 삶을 통제하게 된다고 경고했다.
스태빌리티 AI, 영국 정부 'AI 안전 정상회의' 참석
스태빌리티 AI는 에마드 모스타크 CEO가 영국 블레츨리 파크에서 열리는 AI 안전 정상회의에 참석한다고 밝혔다. 대표적인 오픈소스 AI 기업으로서 빅테크 독점을 방지하고 생태계 전반을 아우르는 안전 정책과 경쟁 환경을 촉구할 계획이다.
MS, 영국 AI 안전 정상회의 앞두고 책임 있는 AI 이행 현황 공개
마이크로소프트는 영국 AI 안전 정상회의를 앞두고 자사의 AI 안전 정책 이행 현황을 공개했다. 독립된 AI 레드팀을 강화해 빙 이미지 크리에이터 등을 점검하고, AI 생성 이미지 자동 표시 기술을 적용했다. 또한 보안 개발 수명 주기에 책임 있는 AI 기준을 통합하고 안전 연구 지원도 확대했다.
구글, 생성형 AI 공격 시나리오에도 버그바운티 포상금 지급
구글은 취약점 포상금 프로그램(VRP)을 생성형 AI 공격 시나리오까지 확대 적용한다고 밝혔습니다. 새로운 버그 분류 가이드라인을 공개하는 동시에, SLSA와 Sigstore 기반 모델 서명 프로토타입을 통해 AI 공급망 보안도 강화합니다. 외부 보안 연구자들에게 보상을 지급해 AI 편향과 탈옥 등 잠재적 위험을 선제적으로 찾아내겠다는 취지입니다.
영국, 세계 최초 'AI 안전 연구소' 설립 추진…중국 포함 글로벌 패널 제안
Thursday 영국 리시 수낵 총리는 모델 출시 전 편향과 극단적 위험을 평가하는 세계 최초 'AI 안전 연구소'를 설립하겠다고 발표했다. 또한 기후변화 정부간 협의체를 모델로 한 글로벌 전문가 패널 설립을 제안하며 중국을 포함한 주요 AI 강국의 참여를 촉구했다.
오픈AI, 프론티어 AI의 파국적 위험 대비할 전담팀 신설
오픈AI가 고성능 AI 모델의 파국적 위험을 추적하고 예방하기 위한 전담 조직 '프리페어드니스(Preparedness)' 팀을 신설했다. 사이버 안보, 화학·생물학적 위협, 자율 복제 등을 집중 평가하며 신규 위험 정책을 수립한다.
구글, 이미지 팩트체크 도구 출시: 최초 검색 기록과 AI 생성 여부 확인 가능
구글이 전 세계 영어 사용자를 대상으로 'About this image' 기능을 정식 출시했다. 이미지가 검색에 처음 등장한 시점, 다른 사이트에서의 맥락, AI 생성 여부를 나타내는 메타데이터를 확인할 수 있다. 공인된 팩트체커와 기자를 위한 전용 API도 함께 제공된다.
문법 교정기 그래머리, 사용자 문체 학습해 텍스트 다시 쓰는 기능 공개
그래머리는 사용자의 고유한 문체를 자동으로 감지해 학습하는 신기능을 공개했다. 평소 입력 습관을 바탕으로 '문체 프로필'을 만들어 어떤 글이든 사용자 특유의 어조로 재작성해 준다. 연말까지 비즈니스 요금제 사용자에게 출시될 예정이다.
프론티어 모델 포럼 첫 수장 선임, 1천만 달러 규모 AI 안전 펀드 조성
Anthropic, Google, Microsoft, OpenAI는 프론티어 모델 포럼의 초대 상임이사로 Chris Meserole을 선임하고 1천만 달러 이상의 AI 안전 펀드를 조성한다고 발표했다. 해당 펀드는 독립 연구자들의 레드팀 테스트 및 안전성 평가 도구 개발을 지원하며, 최첨단 AI 모델의 안전 기준을 정립하는 데 초점을 맞춘다.