xAI 그록에 이미지 이해 기능 추가, X 유료 구독자 대상 지원
xAI가 그록(Grok)에 이미지 이해 기능을 추가했다. X 플랫폼 유료 구독자는 이미지를 업로드하고 관련 질문을 던질 수 있으며, 일론 머스크는 농담 짤(밈)을 설명하는 것도 가능하다고 전했다. 현재는 초기 단계이지만 멀티모달 역량을 지속적으로 넓혀갈 방침이다.
AI 모델
GPT, Claude, Gemini, DeepSeek, Qwen 등 대규모 언어 모델의 새 버전, 벤치마크, 가격과 API 변경 소식을 매일 전합니다.
최신 소식 보기
오픈AI 차세대 모델 '오리온' 12월 출시설…알트만은 부인
더 버지는 오픈AI가 12월 차세대 플래그십 AI 모델 '오리온'을 선보일 계획이라고 보도했다. 챗GPT 전면 공개 대신 파트너사에 먼저 제공될 것으로 알려졌으나, 샘 알트만 CEO는 가짜 뉴스라고 일축했고 대변인 역시 연내 출시 계획이 없다고 부인했다.
구글, 초경량 모델 '제미나이 1.5 플래시-8B' 정식 출시
구글이 경량 AI 모델 'Gemini 1.5 Flash-8B'를 상용 환경에 정식 출시했다. 기존 1.5 플래시에 근접한 성능을 보이면서도 제미나이 제품군 중 가장 낮은 토큰당 비용과 분당 최대 4,000회 요청의 높은 처리 한도를 제공한다.
AMD, 첫 소형 언어 모델 'AMD-135M' 공개: 투기적 디코딩으로 추론 가속
AMD가 첫 소형 언어 모델 시리즈인 AMD-135M을 공개했다. Llama 계열 기반의 기본형과 코딩 특화형으로 나뉘며, AMD Instinct MI250 노드에서 학습됐다. 대형 모델의 추론 속도를 높여주는 투기적 디코딩 기술을 전면에 내세워 기업용 프라이빗 배포 시장을 공략한다.
MIT 스핀오프 리퀴드 AI, 비-트랜스포머 모델 'LFM' 공개
MIT 출신 연구진이 창업한 리퀴드 AI가 트랜스포머 아키텍처를 벗어난 첫 생성형 모델 제품군 ‘LFM’ 3종(1.3B, 3.1B, 40.3B)을 선보였다. 액체 신경망을 기반으로 설계돼 메모리 사용량을 대폭 절감하면서 최대 100만 토큰을 처리할 수 있는 점이 특징이다.
오픈AI, 챗GPT '고급 음성 모드' 유료 구독자 대상 순차 배포 시작
오픈AI가 챗GPT의 '고급 음성 모드(Advanced Voice Mode)'를 플러스 및 팀 사용자를 대상으로 순차 배포하기 시작했습니다. 배포는 이번 주 내로 완료될 예정입니다. 자연스러운 실시간 대화뿐 아니라 메모리, 맞춤 지침 기능이 추가되었으며 5개의 신규 음성과 개선된 억양이 적용되었습니다.
구글, 개선된 제미나이 1.5 출시…프로 가격 최대 64% 인하
구글이 최신 프로덕션 모델인 '제미나이-1.5-프로-002'와 '플래시-002'를 공개했다. 수학 벤치마크 점수가 약 20% 향상되고 불필요한 거부가 줄었다. 10월 1일부터 1.5 프로의 입력 토큰 비용이 64%, 출력이 52% 인하되며 API 요청 한도도 확대된다. 개발자는 고성능 모델을 훨씬 저렴한 비용으로 쓸 수 있다.
OpenAI, o1 사용 한도 완화…o1-mini는 하루 50건으로 7배 상향
OpenAI가 Plus 및 Team 유료 사용자를 대상으로 o1 모델의 사용량 제한을 완화했다. 가벼운 o1-mini는 기존 주당 50건에서 하루 50건으로 7배 늘어났으며, 연산 비용이 더 큰 o1-preview도 주당 30건에서 50건으로 확대됐다.
OpenAI, 신규 모델 'o1' 사고 과정 파헤치는 사용자에 이용 정지 경고
OpenAI가 지난주 추론 능력을 갖춘 o1 모델을 선보인 이후, 숨겨진 원시 사고 과정(Chain of Thought)을 캐내려 시도한 사용자들에게 경고 메일을 보내며 계정 차단을 경고하고 나섰다. o1은 필터링된 추론 요약만 보여주도록 설계되었으며, 프롬프트에 'reasoning trace' 같은 단어를 넣기만 해도 안전 정책 위반으로 감지된다.
매직, 1억 토큰 처리하는 LTM-2-mini 공개 및 3억 2000만 달러 투자 유치
매직은 1억 토큰의 초장문 맥락을 추론할 수 있는 AI 모델 'LTM-2-mini'를 발표했다. 이는 코드 약 1000만 줄이나 소설 약 750권에 달하는 분량으로, 해당 맥락 크기에서 Llama 3.1 405B 대비 추론 연산 비용을 약 1000배 절감했다. 매직은 3억 2000만 달러의 신규 투자 유치와 구글 클라우드와의 슈퍼컴퓨터 구축 파트너십도 함께 공개했다.
알리바바, 비전 모델 Qwen2-VL 공개: 2B·7B 오픈소스화 및 20분 영상 분석 지원
알리바바 Qwen 팀이 비전 언어 모델 Qwen2-VL을 출시했다. 2B와 7B 모델을 Apache 2.0 라이선스로 오픈소스 공개하고 72B는 API로 제공한다. 임의 해상도 이미지와 20분 이상의 영상 분석, 모바일 기기 조작 에이전트 기능을 지원하며 72B는 GPT-4o급 성능을 자랑한다.
구글, 실험용 제미나이 3종 공개: 초경량 Flash-8B와 코딩 강화된 Pro
구글이 소형 모델인 Gemini 1.5 Flash-8B와 성능을 크게 개선한 Flash, 코딩과 복잡한 프롬프트 처리를 강화한 Pro 등 실험용 모델 3종을 선보였습니다. 모두 100만 토큰 컨텍스트를 지원하며, 구글 AI 스튜디오와 API에서 무료로 테스트할 수 있습니다.
OpenAI 추론 모델 '스트로베리' 포착: 美 안보 관료에 시연, 차세대 '오리온' 개발에 투입
디 인포메이션에 따르면 OpenAI가 수학과 코딩 추론에 특화된 프로젝트 '스트로베리'를 개발해 미국 국가안보 관료들에게 시연했다. 이르면 올가을 경량화 버전으로 챗GPT에 탑재될 예정이며, GPT-4의 후속작인 차세대 플래그십 '오리온'을 훈련하기 위한 고품질 합성 데이터를 생성하는 데 핵심 역할을 맡고 있다.
앤트로픽, 클로드 시스템 프롬프트 공개…"안면 인식 금지·절대 단어 배제"
앤트로픽이 클로드 3 및 3.5 모델에 적용된 시스템 프롬프트를 공식 공개했다. 지침에는 인물 사진 식별을 피해 안면인식장애처럼 행동할 것과 답변 시 'certainly' 같은 확정적 어휘를 쓰지 말라는 구체적 규칙이 담겼다. 주요 빅테크 기업이 프롬프트 원문을 투명하게 밝힌 드문 사례다.
xAI, 3일 만에 추론 스택 재작성…Grok-2 mini 속도 2배 향상
xAI 개발팀이 오픈소스 프레임워크인 SGLang을 활용해 추론 기술 스택을 3일 만에 완전히 새로 작성했다. 그 결과 Grok-2 mini의 속도가 기존보다 2배 빨라지고 정확도도 소폭 개선됐으며, 대규모 Grok-2 모델의 다중 호스트 서빙 속도도 크게 개선됐다.
오픈AI, 'GPT-4o' 파인튜닝 기능 정식 지원
오픈AI가 모든 유료 개발자 티어를 대상으로 'GPT-4o' 미세조정(파인튜닝) 기능을 지원하기 시작했다. 수십 개의 예시만으로도 도메인별 톤과 출력 형식을 커스텀할 수 있으며, 9월 23일까지 조직당 매일 100만 훈련 토큰이 무료로 제공된다.
엔비디아, 온디바이스 SLM '네모트론-4 4B' 공개: RTX PC서 게임 NPC와 실시간 대화
엔비디아가 게임스컴에서 디지털 휴먼 기술 스위트 'NVIDIA ACE'에 첫 온디바이스 소형 언어 모델 '네모트론-4 4B 인스트럭트'를 추가했다. 15B 모델에서 지식 증류 및 양자화되어 메모리 점유율을 대폭 낮췄다. 이용자의 RTX PC에서 로컬로 구동되어 '메카 브레이크' 등 게임 속 NPC가 클라우드 없이도 지연 시간 없이 자연스럽게 플레이어의 명령을 이해하고 반응한다.
오픈AI, 성능 개선된 GPT-4o 모델 배포…“구체적 변화는 설명 어려워”
오픈AI가 챗GPT와 API에 업데이트된 GPT-4o 모델을 적용하고 챗봇 아레나 1위를 탈환했다. 흥미로운 점은 공식 릴리스 노트에서 데이터 개선과 피드백 기반 튜닝이라고만 밝혔을 뿐, 모델의 구체적인 행동 변화를 명확히 설명하긴 어렵다고 인정한 것이다. 최대 출력 토큰은 16,384개로 늘어났다.
Anthropic, Claude에 프롬프트 캐싱 도입…비용 최대 90% 절감
Anthropic이 API에서 자주 사용하는 긴 컨텍스트를 저장해 재사용할 수 있는 '프롬프트 캐싱' 기능을 출시했다. 긴 프롬프트 처리 시 비용은 최대 90%, 지연 시간은 최대 85%까지 줄어든다. 대용량 코드베이스 질의응답이나 문서 분석, 멀티턴 에이전트 작업의 부담을 크게 덜어준다.
최신 GPT-4o, LMSYS 벤치마크 1위 탈환: 코딩 성능 30점 상승
LMSYS는 OpenAI의 최신 GPT-4o(20240808)가 1,314점을 기록하며 구글 Gemini-1.5-Pro-Exp를 제치고 Chatbot Arena 종합 1위를 탈환했다고 밝혔다. 코딩과 고난도 프롬프트 등 여러 부문에서 선두를 차지했으며, API에서는 chatgpt-4o-latest로 제공된다.