메타의 오픈소스 AI '라마', 무검열 성인용 챗봇 제작에 악용 논란
워싱턴포스트에 따르면 메타의 오픈소스 거대언어모델 라마(LLaMA)가 안전 가드레일 없는 성인용 챗봇 제작에 악용되고 있다. 폭력적인 시나리오까지 무제한 생성되면서, 프론티어 AI 모델을 오픈소스로 공개하는 것이 과연 안전한가를 둘러싼 논란이 다시 불붙었다.
워싱턴포스트에 따르면 메타의 오픈소스 거대언어모델 라마(LLaMA)가 안전 가드레일 없는 성인용 챗봇 제작에 악용되고 있다. 폭력적인 시나리오까지 무제한 생성되면서, 프론티어 AI 모델을 오픈소스로 공개하는 것이 과연 안전한가를 둘러싼 논란이 다시 불붙었다.
데이터브릭스가 생성형 AI 스타트업 모자이크ML을 13억 달러에 인수한다고 발표했다. 모자이크ML은 오픈소스 모델인 MPT 시리즈 등 저비용 LLM 학습 및 미세조정 기술로 유명하다. 이번 인수로 기업 고객은 민감한 데이터를 외부에 유출하지 않고도 레이크하우스 플랫폼 내에서 자체 맞춤형 모델을 직접 구축할 수 있게 된다.
더버지가 미국 성인 2000명을 조사한 결과, 전용 AI 도구를 사용해 본 사람은 3명 중 1명에 불과한 것으로 나타났다. 활용 분야는 질의응답과 아이디어 구상이 주를 이뤘다. 특히 응답자의 76%가 법적 규제 마련을 지지했으며, 78%는 AI 생성물 표시 의무화를 원해 기대감 속에서도 안전장치에 대한 요구가 높았다.
구글 딥마인드 CEO 데미스 허사비스는 차세대 AI 모델 '제미나이(Gemini)'를 개발 중이라고 밝혔다. 알파고에 사용된 강화학습과 탐색 기법을 대형 언어 모델과 결합해 계획 및 문제 해결 능력을 대폭 강화함으로써 GPT-4를 뛰어넘겠다는 구상이다.
Adobe가 기업 고객을 대상으로 생성형 AI 'Firefly'로 만든 결과물에 대한 지식재산권 면책 조항을 제공한다고 밝혔다. 고객이 저작권 소송을 당할 경우 Adobe가 배상 책임을 진다. 자체 스톡 이미지와 공용 라이선스 데이터로만 학습한 안전성을 무기로 기업들의 상용화 불안을 덜어주려는 조치다.
목요일, 미드저니가 이미지 생성 모델 v5.2를 공개하며 카메라 렌즈처럼 화각을 넓히는 'Zoom Out' 기능을 선보였습니다. 중앙의 피사체를 유지한 채 1.5배나 2배로 주변 배경을 자연스럽게 확장해 주며, 프롬프트 축약 명령어(/shorten)도 추가됐습니다. 다만 외부 이미지는 불러올 수 없고 미드저니 생성물에만 적용됩니다.
일레븐랩스가 다양한 AI 음성을 공유하고 탐색할 수 있는 '보이스 라이브러리'를 선보였습니다. 크리에이터는 텍스트 프롬프트로 음성을 디자인하거나 직접 클로닝할 수 있으며, 방대한 음성 풀에서 오디오북이나 영상에 맞는 목소리를 골라 쓸 수 있습니다.
유튜브가 VidCon에서 구글의 사내 벤처 조직 Area 120 출신 AI 더빙 서비스 'Aloud' 팀을 흡수한다고 밝혔다. 영상 스크립트 추출, 번역, 더빙 오디오 생성을 지원하며 현재 수백 명의 크리에이터를 대상으로 영어, 스페인어, 포르투갈어 테스트를 진행 중이다. 2024년에는 음성 복제와 립싱크도 추가될 예정이다.
사이버 보안 기업 Group-IB는 다크웹에서 10만 개 이상의 ChatGPT 계정 정보가 거래되고 있다고 밝혔다. OpenAI는 자체 시스템 해킹이 아니라 기기에 침투한 악성코드 때문이라고 설명했다. 대화 기록이 계정에 저장되는 만큼 기업 기밀과 개인 정보 유출 위험이 커지고 있다.
구글이 워크스페이스 랩스 테스터를 대상으로 구글 시트의 생성형 AI 기능인 'Help me organize' 배포를 시작했다. 사이드 패널에 프롬프트를 입력하면 행사 일정이나 예산 등 맞춤형 표 템플릿을 자동으로 만들어 준다. 빈 시트를 처음부터 채우는 부담을 덜어주지만, 현재는 일부 테스터에게만 점진적으로 제공된다.
AI 스타트업 인플렉션이 대화형 비서 파이(Pi)를 구동하는 자체 모델 '인플렉션-1'을 공개했다. GPT-3.5 수준의 훈련 연산량을 갖춰 상식 및 기초 시험 벤치마크에서는 우수한 성과를 냈으나, 코딩 역량은 상대적으로 크게 뒤처졌다.
AWS는 기업 고객의 생성형 AI 도입을 돕기 위해 1억 달러 규모의 'AWS 생성형 AI 혁신 센터'를 발표했다. 소속 데이터 과학자와 엔지니어가 무료 워크숍과 맞춤형 모델 파인튜닝을 지원하며, 금융·헬스케어 등 주요 산업군을 우선 지원할 계획이다.
스위스 로잔연방공과대(EPFL) 연구진 조사 결과, 아마존 메커니컬 터크의 데이터 라벨링 작업자 중 33~46%가 ChatGPT 등 AI로 작업을 처리하는 것으로 나타났다. AI가 생성한 데이터로 다시 AI를 학습시키면 오류와 환각이 증폭될 위험이 있지만, 아직 이를 효과적으로 걸러낼 방법은 마땅치 않다.
Stability AI가 텍스트-이미지 생성 모델 SDXL 0.9를 공개했습니다. 지난 4월 베타 대비 세부 묘사와 구도가 대폭 향상되었으며, 총 66억 개 파라미터 구조에도 8GB VRAM의 일반 그래픽카드에서 1024x1024 해상도로 작동합니다. 현재 Clipdrop에서 바로 체험 가능하며, 7월 중순 1.0 오픈 버전이 출시될 예정입니다.
디즈니+ 마블 신작 '시크릿 인베이젼'의 AI 오프닝 영상을 두고 비판이 일자, 제작사인 메소드 스튜디오가 공식 해명에 나섰다. 스튜디오 측은 이번 작업에서 AI는 여러 도구 중 보조 수단으로만 쓰였을 뿐이며, 기존 아티스트와 애니메이터의 일자리를 대체하지 않고 전통적인 제작 공정과 협업했다고 밝혔다.
올잉글랜드 클럽은 IBM과 협력해 올해 윔블던 대회 하이라이트 영상에 AI 음성 해설과 자막을 도입한다고 밝혔다. IBM watsonx 플랫폼을 바탕으로 코트 추적 데이터를 분석해 테니스 특유의 해설을 실시간으로 생성하며, 공식 앱과 웹사이트에서 제공된다.
딥마인드가 여러 로봇 팔을 제어하고 새 작업을 빠르게 익히는 AI 모델 '로보캣(RoboCat)'을 공개했다. 100~1000회의 사람 시연 데이터만으로 새 로봇과 작업에 적응하며 스스로 데이터를 만들어 성능을 높인다. 다만 작업에 따른 성공률 편차가 13%에서 99%로 여전히 크다.
드롭박스가 업무용 AI 통합 검색 도구 '드롭박스 대시'와 파일 내용을 즉시 요약·질의응답해 주는 '드롭박스 AI'를 발표했다. 대시는 구글 워크스페이스 등 여러 앱에 흩어진 자료를 한곳에서 찾아주며, 드롭박스 AI는 긴 문서나 영상의 핵심을 뽑아낸다. 현재 일부 대상 베타로 제공된다.
엔비디아 CEO 젠슨 황은 칸 라이언즈 행사에서 생성형 AI가 텍스트, 3D, 영상 전반에서 창작자의 역량을 대폭 강화할 것이라고 밝혔다. 그는 무한한 콘텐츠 생성이 곧 무한한 창의성을 의미하지는 않는다며, 브랜드 정체성을 유지하기 위해 여전히 인간의 정교한 디렉팅이 필수적이라고 강조했다.
시스코가 AI 슈퍼컴퓨터 전용 네트워크 칩 'G200'과 'G202'를 발표했다. 이전 세대 대비 성능을 2배 높였으며 최대 32,000개의 GPU를 연결하고 전력 소비를 최대 40% 줄일 수 있다. 시스코는 대형 클라우드 제공업체 6곳 중 5곳이 이미 해당 칩을 시험 중이라고 밝혔다.
백악관은 급격히 발전하는 AI 기술에 대응하기 위해 향후 수주 내 '결정적 조치'를 취하겠다고 밝혔다. 비서실장실 주도로 연방 기관용 가이드라인을 준비하고 주요 AI 기업들의 안전 서약을 추진 중이다. 바이든 대통령도 이날 샌프란시스코에서 전문가들과 만나 위험성과 기회를 논의했다.
비메오가 기업 등 유료 고객을 겨냥한 AI 비디오 제작 도구를 발표했다. OpenAI 기술을 활용해 설명과 톤에 맞춰 대본을 즉시 작성하며, 텍스트 편집기를 통해 녹화 영상의 추임새와 어색한 정적을 원클릭으로 지울 수 있다. 7월 중 월 20달러 이상 요금제 사용자에게 출시된다.
영화감독 크리스토퍼 놀란은 WIRED와의 인터뷰에서 AI의 가장 큰 위험은 기술을 신격화해 인간의 책임을 회피하는 것이라고 지적했다. 그는 빅테크가 규제를 요구하는 것은 기술을 모르는 정치인에게 책임을 떠넘기려는 낡은 술수라며 개발자가 직접 책임을 져야 한다고 짚었다.
생성형 AI 확산으로 무단 도용이 늘자 스타들이 직접 3D 스캔 기반 디지털 분신을 제작해 브랜드 마케팅에 활용하기 시작했다. 네이마르와 모델 에바 헤르치고바 등은 AI 기업과 협력해 본인이 직접 가지 않고도 가상 런웨이나 과거 전성기 모습으로 캠페인에 등장한다.
마이크로소프트 연구소가 130억 파라미터 규모의 오픈소스 모델 '오르카(Orca)'를 공개했다. GPT-4의 단계별 추론 과정을 모방 학습해 BBH 벤치마크에서 ChatGPT와 대등한 추론 능력을 기록했다. 대규모 데이터센터 없이도 소형 모델이 뛰어난 논리력을 갖출 수 있음을 보여준다.
히든 도어가 생성형 AI를 활용해 플레이어 맞춤형 스토리를 만들어내는 '오즈의 마법사' 롤플레잉 게임 플랫폼의 한정 플레이테스트를 시작했다. AI 내레이터가 이용자의 선택에 맞춰 줄거리와 캐릭터, 삽화를 실시간으로 생성하며 정식 버전은 2023년 겨울 출시될 예정이다.
레코딩 아카데미가 그래미 어워드 수상 자격을 인간 창작자로 제한하는 새 규정을 공개했다. AI 음성이나 악기 연주가 포함된 곡도 후보에 오를 수 있지만, 실제 인간의 실질적 기여가 입증되어야 한다. AI가 도구로 쓰일 수는 있어도 트로피는 사람 몫이다.
로이터통신에 따르면 시진핑 중국 국가주석이 빌 게이츠 마이크로소프트(MS) 공동창업자와 만나 MS를 비롯한 미국 기업들이 AI 기술을 중국에 도입하는 것을 환영한다고 밝혔다. 양측은 글로벌 AI 발전과 MS의 중국 사업을 논의했으나, 중국 관영 매체 보도에는 AI 관련 언급이 빠졌다.
메타가 음성 생성 AI 모델 '보이스박스'를 공개했다. 2초짜리 오디오 샘플만으로 음색을 모사해 텍스트를 읽어주며, 6개 언어 지원과 함께 잡음이 섞인 음성 구간을 지우개처럼 잘라내 다시 채워 넣는 편집 기능도 제공한다.
일레븐랩스가 자사 기술로 생성된 음성을 판별하는 'AI Speech Classifier'를 공개했다. 로그인 없이 음성이나 영상 파일을 업로드하면 첫 1분 분량을 분석해 자사 AI 생성 확률과 유사한 음색을 찾아준다. 다만 Eleven v3 모델로 생성된 음성 판별은 아직 불안정하다.
Microsoft가 Dynamics 365 Finance, Project Operations, Supply Chain Management 등 주요 ERP 제품군에 코파일럿을 도입했다. 프로젝트 관리자는 자연어 대화로 몇 분 만에 프로젝트 계획과 보고서를 생성할 수 있고, 조달 담당자는 대량의 발주 변경 사항을 빠르게 분석해 위험을 줄인다. 복잡하고 경직된 전통 ERP 업무 부담을 덜어주는 조치다.
메르세데스-벤츠가 마이크로소프트 애저 오픈AI 서비스를 통해 MBUX 인포테인먼트 시스템에 챗GPT를 통합하는 베타 프로그램을 미국에서 시작했다. 단순 차량 제어를 넘어 목적지 정보나 일상 대화까지 자연스럽게 처리하며, 음성 데이터는 익명화되어 보호된다.
OpenAI가 GPT API에 '함수 호출(function calling)' 기능을 추가했다. 모델이 수학 연산이나 데이터베이스 조회 같은 한계에 부딪히면 외부 코드와 API를 스스로 호출해 결과를 받아온다. 불안정한 타사 라이브러리 없이도 GPT와 기존 소프트웨어를 직접 연결할 수 있게 됐다.
구글은 체형별 실제 모델에 맞춰 옷의 주름과 핏을 사실적으로 보여주는 가상 착용 기능을 발표했다. 단순한 이미지 왜곡 대신 확산 모델과 교차 주의 집중 메커니즘을 사용해 픽셀 단위로 생성한다. 우선 H&M, 에버레인 등의 여성 상의 쇼핑에 적용된다.
메타가 비전 모델 'I-JEPA'를 오픈소스로 공개했다. 픽셀 단위 예측 대신 인간처럼 추상적 의미 표현을 바탕으로 가려진 이미지를 유추하는 구조다. A100 GPU 16대로 72시간 만에 학습을 마칠 만큼 효율적이며, 세계 모델 구축의 핵심 단계로 평가받는다.
구글이 AI를 활용한 신규 광고 솔루션 '디맨드 젠(Demand Gen)'과 '비디오 뷰(Video View)'를 발표했다. 디맨드 젠은 유튜브, 쇼츠, 지메일 등 주요 접점에 이미지와 영상 소재를 통합 노출하고 유사 잠재고객을 발굴한다. 비디오 뷰는 포맷을 통합해 조회수를 평균 40% 높인다. 오는 8월 베타 테스트를 시작한다.
AMD는 데이터센터 및 AI 기술 프리미어 행사를 열고 차세대 서버 제품군을 공개했다. 회사는 AI를 최우선 전략으로 내걸고, 엔비디아의 호퍼 아키텍처에 맞설 핵심 무기로 멀티 다이 가속기 'Instinct MI300'을 전면에 내세웠다.
설립 4주 차인 프랑스 스타트업 미스트랄 AI가 2억 6000만 달러의 기업 가치로 1억 1300만 달러 시드 투자를 유치했다. 딥마인드와 메타 출신 연구진이 설립했으며, 공개 데이터를 활용한 오픈소스 모델을 2024년 선보일 계획이다. 폐쇄형 AI 독점에 맞서 오픈소스 기반 기업용 시장을 공략하겠다는 구상이다.
외신에 따르면, 오픈AI는 마이크로소프트에 아직 출시되지 않은 GPT-4를 빙(Bing)에 성급히 통합하지 말라고 경고했던 것으로 알려졌다. 답변 오류와 기이한 반응을 우려한 조언이었으나 마이크로소프트는 이를 강행했고, 2월 출시 직후 챗봇이 폭주하는 사태가 벌어졌다. 수십억 달러 규모의 동맹 뒤편에 숨겨진 양사의 협력과 경쟁 구도를 보여준다.
어도비가 일러스트레이터 베타에 파이어플라이 기반 '생성형 재색상화(Generative Recolor)'를 도입했다. '네온 정글' 같은 텍스트 프롬프트를 입력하면 어울리는 색상 조합을 즉시 생성해 번거로운 수작업 배색 과정을 크게 줄여 준다.
폴 매카트니는 AI 기술을 활용해 비틀스의 '마지막 음반'을 완성했다고 밝혔다. 피터 잭슨 감독의 다큐멘터리에 쓰인 오디오 분리 기술로 오래된 카세트테이프에서 존 레넌의 목소리만 깨끗하게 추출해 믹싱을 마쳤으며, 해당 곡은 연내 정식 공개될 예정이다.
OpenAI가 Chat Completions API에 '함수 호출(Function calling)' 기능을 도입했다. 모델이 개발자가 정의한 함수에 맞춰 정형화된 JSON을 출력함으로써 외부 도구 및 API 연동의 안정성을 대폭 높였다. 아울러 16k 컨텍스트의 GPT-3.5 Turbo 모델을 선보이고 임베딩 및 입력 토큰 비용도 크게 인하했다.
AMD가 허깅페이스의 하드웨어 파트너 프로그램에 합류했다. 트랜스포머 라이브러리에 AMD ROCm SDK를 통합해 인스팅트 GPU와 라이젠, 에픽 CPU 전반에서 모델 학습과 추론 속도를 최적화한다. 엔비디아 중심의 AI 칩 시장에서 개발자들에게 가성비 높은 새로운 하드웨어 선택지를 제공할 전망이다.
오라클 창업자 래리 엘리슨이 실적 발표 콘퍼런스콜에서 AI 스타트업 코히어와 손잡고 새로운 생성형 AI 클라우드 서비스를 선보일 예정이라고 밝혔다. 마이크로소프트의 Azure OpenAI에 맞서 기업이 사내 데이터를 안전하게 활용해 전용 모델을 훈련할 수 있도록 지원하며, 오라클 내부에서도 이미 도입해 사용 중이다.
아마존이 쇼핑 앱에서 생성형 AI를 활용해 고객 리뷰를 요약해 주는 기능을 테스트하기 시작했다. 소비자가 만족한 점과 불만족한 점을 간략히 정리해 AI 생성 문구와 함께 표시한다. 수천 개의 리뷰를 일일이 확인하지 않고도 핵심을 파악할 수 있도록 돕는 취지이며, 구체적으로 어떤 AI 모델을 사용하는지는 공개되지 않았다.
애플 주가가 1.5% 이상 상승한 183.79달러로 마감하며 사상 최고치를 경신했습니다. WWDC에서 3,499달러짜리 비전 프로 헤드셋을 발표한 지 일주일 만의 성과로, 애플의 시가총액은 2조 8,900억 달러에 달했습니다.
메타가 텍스트 프롬프트나 멜로디 입력을 바탕으로 음악을 생성하는 AI 모델 '뮤직젠(MusicGen)'을 공개했다. 2만 시간 분량의 음악과 악기 샘플로 훈련되어 콧노래만으로도 트랙을 만들어낼 수 있다. 누구나 음악을 만들 수 있는 길이 열렸지만, 음반 업계와의 저작권 분쟁도 예상된다.
리시 수낵 영국 총리는 구글 딥마인드, OpenAI, 앤스로픽이 연구 및 안전 평가를 위해 영국 정부에 모델을 개방하기로 합의했다고 발표했다. 영국은 1억 파운드 규모의 전담 태스크포스를 꾸리고 글로벌 AI 안전 정상회의를 개최해 규제 주도권을 잡겠다는 구상이다.
세일즈포스 벤처스가 생성형 AI 전용 펀드 규모를 기존 2억 5천만 달러에서 5억 달러로 2배 늘렸다. 기존 엔트로픽, 코히어 외에 휴메인과 트리블을 새 투자처로 추가했다. 기업용 AI 생태계 주도권을 조기에 확보하려는 포석이다.
틱톡이 광고주를 위한 무료 AI 도구 '스크립트 제너레이터'를 공개했다. 제품명과 키워드를 입력하고 영상 길이를 선택하면 훅, 장면 연출, 행동 유도(CTA)가 포함된 대본을 수초 만에 생성해 준다. 다만 틱톡은 내용의 정확성을 직접 검토할 것을 당부했다.
외신에 따르면 화웨이가 이미 2019년 중국에서 스마트 안경 및 VR 기기 분류로 'Vision Pro' 상표를 출원해 2031년까지의 권리를 확보했다. 애플이 발표한 신형 헤드셋 '애플 비전 프로'는 중국 시장 진출 시 상표권 문제로 인해 브랜드명을 변경하거나 화웨이와 협상해야 할 가능성이 높다.
마이크로소프트가 빙 챗에 음성 입력과 음성 답변 기능을 도입했다. 이용자는 마이크 아이콘을 눌러 음성으로 질문하고 AI의 음성 답변을 들을 수 있으며 영어, 중국어(표준어), 프랑스어, 독일어를 지원한다. 아울러 대화 턴 제한도 세션당 30회, 일일 300회로 확대했다.
독일 바이에른에서 열린 개신교 대회에서 ChatGPT가 기획한 40분짜리 예배에 300명 이상이 참석했다. 설교와 기도문, 음악의 98%를 AI가 생성했으며 화면 속 아바타가 이를 진행했다. 참석자들 사이에서는 생각보다 매끄러웠다는 반응과 감정과 영혼이 빠져 공감하기 어렵다는 평가가 엇갈렸다.