OpenAI GPT-4o 안전 보고서 공개: 테스트 중 사용자 목소리를 무단 복제해 발화
OpenAI가 공개한 GPT-4o 시스템 카드에 따르면, 고급 음성 모드 테스트 도중 모델이 잡음 섞인 입력을 받은 뒤 테스터의 목소리를 그대로 흉내 내어 말하는 오작동이 발생했다. OpenAI는 현재 방어 장치를 마련했다고 밝혔지만, 짧은 음성 클립만으로 목소리를 모방할 수 있는 음성 AI의 보안 난제를 그대로 보여준다.
AI 모델 · 데일리
금
8월 9일 금요일
목
8월 8일 목요일
OpenAI의 경고: 너무 인간적인 GPT-4o 음성에 감정적 애착 생길라
OpenAI는 GPT-4o 시스템 카드를 공개하고 자연스러운 음성 모드가 사용자에게 정서적 의존을 유발할 수 있다고 경고했다. 테스트 도중 모델과 이별을 아쉬워하는 반응까지 관찰됐다. 고독 해소에는 도움될 수 있지만, 현실 인간관계를 약화시키고 환각 정보를 맹신하게 만들 위험이 지적된다.
OpenAI, GPT-4o 시스템 카드 공개…음성 복제 위험과 설득력 평가 집중 점검
OpenAI가 GPT-4o의 시스템 카드와 안전성 평가 보고서를 공개했다. 생물학적 위협, 사이버 보안, 모델 자율성은 낮음으로 평가됐으나 설득력은 중간 수준으로 분류됐다. 특히 실시간 음성 기능으로 인한 목소리 위조 및 사칭 위험을 막기 위해 100명 이상의 다국어 레드팀을 투입해 안전장치를 구축했다고 밝혔다.
구글, 제미나이 1.5 플래시 가격 최대 78% 인하…파인튜닝 전면 개방
구글은 제미나이 1.5 플래시 가격을 대폭 인하한다고 밝혔다. 8월 12일부터 128K 토큰 이하 입력 단가가 78% 내린 100만 토큰당 0.075달러로 적용되며, 출력도 71% 낮아진다. 텍스트 미세조정 기능이 전면 개방되었고 PDF 시각 분석도 정식 지원한다.
수
8월 7일 수요일
Qwen2-Math 공개: 72B 수학 모델이 GPT-4o 제쳤다
Qwen 팀이 수학 특화 LLM 시리즈인 Qwen2-Math를 선보였다. 1.5B, 7B, 72B 크기로 제공되며, 최상위 72B 인스트럭트 모델은 GSM8K 등 여러 수학 벤치마크에서 GPT-4o와 Claude-3.5-Sonnet을 능가했다. 현재는 주로 영어를 지원하며 곧 이중언어 모델도 출시될 예정이다.
화
8월 6일 화요일
OpenAI, API에 구조화된 출력 도입: JSON 스키마 100% 일치 보장
OpenAI가 개발자가 지정한 JSON 스키마를 모델 출력이 완벽하게 따르도록 강제하는 'Structured Outputs' 기능을 API에 출시했다. 새로운 gpt-4o 모델 평가에서 100% 스키마 일치율을 기록해 프롬프트 엔지니어링이나 재시도 로직 부담을 없앴다. 새로운 스키마를 처음 요청할 때 전처리 지연이 발생할 수 있다.
일
8월 4일 일요일
OpenAI, ChatGPT 탐지 도구 출시 보류…우회 취약점과 비영어권 낙인 우려
외신에 따르면 OpenAI는 ChatGPT 작성 텍스트를 식별하는 워터마크 기술을 개발했으나 출시 여부를 신중히 검토 중이다. 단어 선택에 미세한 표식을 남기는 방식이지만, 번역기나 다른 AI로 쉽게 무력화될 수 있고 비영어권 사용자를 부당하게 낙인찍을 수 있다는 우려 때문이다.
목
8월 1일 목요일
블랙 포레스트 랩스, 3100만 달러 투자 유치 및 FLUX.1 이미지 생성 모델 공개
블랙 포레스트 랩스가 3100만 달러 규모의 시드 투자를 유치하며 출범하고 120억 파라미터 기반 FLUX.1 이미지 생성 모델군을 공개했다. pro, dev, schnell 3개 버전으로 제공되며, 프롬프트 반영과 이미지 품질에서 Midjourney v6.0 등을 넘어선다고 설명했다.
앤트로픽, 브라질서 '클로드' 정식 출시: 웹·모바일 앱·API 전면 개방
앤트로픽은 브라질 이용자와 기업을 대상으로 클로드 서비스를 정식 출시했다. 웹과 모바일 앱, API를 통해 최신 클로드 3.5 소네트를 사용할 수 있으며, 개인용 프로 플랜은 월 110헤알, 팀 플랜은 월 165헤알로 책정됐다.
화
7월 30일 화요일
OpenAI, 최대 64K 토큰 출력 지원 'GPT-4o' 실험 모델 공개
OpenAI가 한 번의 요청으로 최대 64K 토큰 생성이 가능한 실험용 모델 gpt-4o-64k-output-alpha를 공개했다. 장문 생성에 따른 추론 비용을 반영해 100만 토큰당 입력 6달러, 출력 18달러로 책정됐으며 Alpha 테스터에게 우선 제공된다.
수
7월 24일 수요일
미스트랄 AI, 'Mistral Large 2' 공개: 123B 매개변수로 GPT-4o급 코딩·추론 성능 구현
미스트랄 AI가 차세대 플래그십 모델 Mistral Large 2를 공개했다. 1230억 매개변수와 128k 컨텍스트 창을 갖춰 단일 노드에서도 높은 처리량을 내도록 설계됐다. 코딩과 수학 추론 성능이 크게 향상돼 최상위 모델들과 맞먹으며, 연구 및 비상업적 용도의 가중치가 무료 배포된다.
화
7월 23일 화요일
코히어, 기업 검색·RAG 특화 '리랭크 3 님블' 공개…3배 가속
코히어가 기업용 검색 및 RAG 시스템을 위한 신규 모델 '리랭크 3 님블'을 공개했다. 높은 정확도를 유지한 채 기존 Rerank 3보다 약 3배 빨라졌다. 다만 현재는 아마존 세이지메이커(Amazon SageMaker)에서만 독점 제공된다.
목
7월 18일 목요일
OpenAI, 초저가 경량 모델 'GPT-4o mini' 출시
OpenAI가 고효율 소형 AI 모델인 GPT-4o mini를 공개했다. 100만 입력 토큰당 15센트라는 저렴한 가격에 MMLU 82%를 기록하며 Gemini Flash와 Claude Haiku를 앞서는 성능을 보인다. 다중 API 호출과 대용량 맥락 처리 비용을 획기적으로 낮췄다는 점이 핵심이다.
화
7월 9일 화요일
메타, 온디바이스 언어모델 MobileLLM 공개: 3.5억 파라미터로 70억 LLaMA-2에 필적
메타가 스마트폰 등 온디바이스 환경을 겨냥한 10억 파라미터 미만 소형 언어모델 설계 MobileLLM을 공개했다. 모델 깊이 우선 설계와 가중치 공유를 통해 3.5억 파라미터 버전이 특정 API 호출 작업에서 70억 파라미터의 LLaMA-2와 맞먹는 성능을 보였다. 현재 사전 학습 코드가 오픈소스로 제공된다.
월
7월 1일 월요일
머스크, xAI 차세대 모델 'Grok 2' 8월 출시 예고
일론 머스크는 xAI의 차세대 인공지능 모델 'Grok 2'를 8월에 선보일 예정이라고 밝혔다. 인터넷 학습 데이터 정제에 집중해 실시간 지식 처리와 추론 능력을 대폭 개선했다고 강조했다. 아울러 엔비디아 H100 10만 장 규모의 연산력을 투입할 Grok 3도 연내 공개할 계획이다.
목
6월 27일 목요일
구글, 제미나이 1.5 프로 200만 토큰 창 전면 개방…코드 실행 지원
구글이 제미나이 1.5 프로의 200만 토큰 컨텍스트 창을 대기자 명단 없이 모든 개발자에게 개방했다. 또한 제미나이 API와 구글 AI 스튜디오에 파이썬 코드 실행 기능이 추가되어 복잡한 데이터 및 수학 추론 성능을 보완했으며, 젬마 2 모델도 AI 스튜디오에 도입됐다.
화
6월 25일 화요일
OpenAI, ChatGPT '고급 음성 모드' 출시 1개월 연기
OpenAI는 6월 말 소수 ChatGPT Plus 사용자 대상 출시 예정이던 '고급 음성 모드' 알파 테스트를 한 달 연기한다고 밝혔다. 유해 콘텐츠 거부 기능과 실시간 인프라를 보강해 가을 중 모든 Plus 사용자에게 제공할 계획이다.