xAI, API 공식 공개: 매월 25달러 크레딧 지급 및 경쟁사 SDK 호환

개발자를 끌어들이기 위해 일론 머스크마저 무료 크레딧 카드를 꺼내 들었습니다.

xAI가 대형언어모델 Grok 제품군을 활용할 수 있는 API를 일반에 공식 공개했습니다. 개발자 유입을 촉진하기 위해 연말까지 매달 25달러 상당의 무료 API 크레딧을 지급하는 프로모션도 함께 발표했습니다. 이미 11월에 접어든 만큼 실제 제공되는 혜택은 두 달 동안 총 50달러 수준입니다.

머스크는 3주 전 해당 API의 베타 버전을 공개한 바 있으나, 초기 개발자 유입이 기대에 미치지 못하자 무료 크레딧을 추가 인센티브로 내세운 것으로 보입니다.

경쟁사보다 비싸지만 호환성은 확보

가격 정책을 살펴보면 xAI의 API는 저렴한 편이 아닙니다. grok-beta 모델 기준으로 입력 토큰 100만 개당 5달러, 출력 토큰 100만 개당 15달러가 책정되었습니다.

이는 OpenAI의 GPT-4o(입력 2.50달러, 출력 10달러)는 물론, Anthropic의 Claude 3.5 Sonnet(입력 3달러, 출력 15달러)과 비교해도 확연히 높은 수준입니다.

따라서 매달 제공되는 25달러의 크레딧은 생각보다 빠르게 소진됩니다. 월간 입력 약 200만 토큰, 출력 약 100만 토큰 정도를 처리할 수 있는 분량으로, 소설책 대여섯 권 분량의 텍스트에 불과합니다.

컨텍스트 윈도우 한도는 약 12만 8천 토큰으로 GPT-4o와 유사하지만, Claude 3.5 Sonnet(20만 토큰)이나 Google Gemini 1.5 Flash(100만 토큰)에는 미치지 못합니다. 또한 현재 공개된 API는 텍스트 전용으로, Grok 2에서 제공되던 이미지 생성 기능은 지원하지 않습니다.

다만 xAI는 강력한 편의 기능을 함께 내놓았습니다. 공식 발표에 따르면 xAI API는 OpenAI 및 Anthropic의 SDK와 직접 호환됩니다.

기존에 두 회사의 라이브러리를 사용해 구축한 애플리케이션이라면, 엔드포인트와 API 키만 교체해 손쉽게 Grok을 테스트할 수 있습니다. 외부 앱 기능을 호출해 실행하는 펑션 콜링 기능도 지원합니다.

xAI는 이번 릴리스가 개발 막바지 단계에 있는 신규 Grok 모델의 프리뷰이며, 다음 주 중 비전 모델을 선보일 예정이라고 밝혔습니다. xAI는 최근 미국 테네시주 멤피스에서 10만 대의 엔비디아 H100 GPU를 탑재한 대규모 연산 클러스터 Colossus를 가동하고 본격적인 모델 학습을 진행 중입니다.

왜 중요한가

개발자 관점에서 이번 50달러 크레딧은 충분히 활용해 볼 만한 기회입니다. 기존 OpenAI나 Anthropic 기반 파이프라인의 코드를 거의 뜯어고치지 않고도 Grok의 성능을 검증할 수 있기 때문입니다. 다만 본격적인 상용 서비스 도입은 신중해야 합니다. 경쟁사 플래그십보다 단가가 비싸기 때문에 대규모 트래픽을 처리하기에는 비용 부담이 큽니다.

업계 전반으로 보면 xAI는 전환 비용을 최소화하는 전략을 택했습니다. 개발자 생태계 록인은 주로 SDK와 개발 도구에서 발생하는데, xAI가 경쟁사의 규격을 그대로 흡수하면서 진입 장벽을 완전히 허물었습니다.

우리는 SDK 호환 전략 자체는 매우 영리하다고 판단하지만, 가격 정책에는 여전히 의문이 남습니다. 텍스트 전용 모델에 제한된 컨텍스트 길이를 제공하면서 GPT-4o보다 비싼 요금을 책정한 것은 다소 무리한 설정으로 보입니다. 10만 장의 H100을 투입한 Colossus 클러스터의 위력이 다음 주 비전 모델과 후속 모델에서 압도적인 격차로 증명되지 않는다면, 개발자들을 장기적으로 묶어두기는 어려울 것입니다.