OpenAI, GPT-5.6 Sol용 '울트라패스트' 모드 공개: 초당 750토큰으로 14배 가속
OpenAI는 Cerebras 기반의 신규 API 티어인 Ultrafast 모드를 공개했다. GPT-5.6 Sol의 출력 속도를 초당 최대 750토큰까지 끌어올려 표준 처리보다 14배 빨라졌다. 실시간 처리를 위해 더 작은 모델을 타협할 필요 없이 장애 대응 등 즉각적인 업무에 투입할 수 있다. 현재 일부 고객 대상 제한적 프리뷰로 제공된다.
OpenAI는 Cerebras 기반의 신규 API 티어인 Ultrafast 모드를 공개했다. GPT-5.6 Sol의 출력 속도를 초당 최대 750토큰까지 끌어올려 표준 처리보다 14배 빨라졌다. 실시간 처리를 위해 더 작은 모델을 타협할 필요 없이 장애 대응 등 즉각적인 업무에 투입할 수 있다. 현재 일부 고객 대상 제한적 프리뷰로 제공된다.
코그니션이 AI 소프트웨어 엔지니어 데빈(Devin)을 위한 자체 모델 'SWE-1.7'을 발표했다. 오픈소스 Kimi K2.7을 기반으로 대규모 강화학습을 거쳐 GPT-5.5 및 Opus급 코딩 성능을 훨씬 저렴한 비용으로 구현했다. 세레브라스 칩을 통해 초당 1000토큰 속도로 데빈 전 제품군에 즉시 배포됐다.
오픈AI가 Responses API에 웹소켓 모드를 도입했다. 매번 전체 대화 기록을 재검증하던 HTTP 방식 대신 지속적인 연결과 인메모리 캐시를 적용해 에이전트 워크플로 지연 시간을 최대 40% 줄이고 첫 토큰 응답 속도를 45% 앞당겼다. Cursor와 클라인 등 코딩 도구에 즉시 적용되었다.
디인포메이션 보도에 따르면 오픈AI가 AI 칩 스타트업 세레브라스와 3년간 200억 달러가 넘는 컴퓨팅 서버 사용 계약을 체결했다. 오픈AI는 데이터센터 구축비 10억 달러도 지원하며 최대 10% 지분을 확보할 수 있는 신주인수권을 얻게 되며, 이는 2분기 상장을 노리는 세레브라스에 결정적인 호재가 될 전망이다.
OpenAI는 실시간 코딩에 특화된 소형 모델 GPT-5.3-Codex-Spark 연구 프리뷰를 공개했다. 세레브라스 하드웨어를 기반으로 초당 1,000토큰 이상의 생성 속도를 내며 대기 시간을 대폭 줄였다. 현재 ChatGPT Pro 구독자는 Codex 앱과 VS Code 확장 프로그램에서 바로 사용해 볼 수 있다.
Perplexity가 자체 검색 모델 Sonar를 공개했다. Llama 3.3 70B 기반에 Cerebras 추론 칩을 더해 초당 1200토큰이라는 즉각적인 생성 속도를 낸다. 테스트 결과 사용자 만족도에서 상위 모델을 앞섰으며, Pro 사용자에게 우선 제공된다.