스태빌리티 AI, 7B 모델 제친 경량 코딩 모델 ‘Stable Code Instruct 3B’ 공개
스태빌리티 AI가 인스트럭션 튜닝을 거친 경량 코딩 모델 'Stable Code Instruct 3B'를 공개했다. 30억 파라미터 크기임에도 코드 완성 및 생성 평가에서 70억 규모의 CodeLlama 7B Instruct를 앞선다. 가중치는 허깅페이스에 공개되었으며 비상업적 용도로 무료 제공된다.
스태빌리티 AI가 인스트럭션 튜닝을 거친 경량 코딩 모델 'Stable Code Instruct 3B'를 공개했다. 30억 파라미터 크기임에도 코드 완성 및 생성 평가에서 70억 규모의 CodeLlama 7B Instruct를 앞선다. 가중치는 허깅페이스에 공개되었으며 비상업적 용도로 무료 제공된다.
스택 오버플로가 AI 기업을 위한 신규 API인 'OverflowAPI'를 출시하며 구글과 첫 파트너십을 맺었다. 구글은 검증된 개발자 Q&A 데이터를 구글 클라우드용 제미나이 및 콘솔에 통합해 출처와 함께 제공하며, 스택 오버플로 역시 버텍스 AI를 도입할 계획이다.
깃허브가 기업 맞춤형 '깃허브 코파일럿 엔터프라이즈'를 정식 출시했습니다. 요금은 사용자당 월 39달러입니다. 조직 내부의 비공개 코드베이스와 지식을 바탕으로 깃허브 웹에서 질의응답을 지원하고 PR 요약본을 자동 생성하며, 빙 검색도 연동됩니다. 기업의 프라이빗 코드는 모델 학습에 사용되지 않습니다.
블룸버그에 따르면 애플이 개발 툴 '엑스코드(Xcode)'에 깃허브 코파일럿과 유사한 생성형 AI 코드 자동완성 기능을 내부 테스트 중이며 연내 출시를 목표로 하고 있다. 아울러 스포트라이트 검색에도 자연어 기반 대화형 AI 기능을 도입할 계획으로, 올해 WWDC에서 구체적인 AI 로드맵이 공개될 전망이다.
퍼플렉시티가 웹 개발 플랫폼 버셀과 손잡고 버셀 AI SDK에 실시간 검색 모델인 pplx-7b-online과 pplx-70b-online을 제공한다. 개발자는 지식 컷오프 제한 없이 최신 웹 정보를 반영하는 앱을 손쉽게 만들 수 있다. 버셀은 일레븐랩스 등과의 연동 및 AI 플레이그라운드도 함께 공개했다.
스타트업 아바쿠스 AI가 알리바바의 Qwen-72B를 미세조정한 오픈소스 언어 모델 '스마우그-72B'를 공개했다. 허깅페이스 오픈 LLM 리더보드에서 최초로 평균 80점을 돌파했으며 추론과 수학 평가에서 GPT-3.5 및 미스트랄 미디엄을 앞섰다. 모델 가중치는 허깅페이스에서 바로 내려받을 수 있다.
메타는 코드 생성 대규모 언어 모델인 ‘코드 라마 70B’를 출시했다. 5000억 토큰의 코드로 학습되었으며 10만 토큰의 컨텍스트 창을 지원한다. 인스트럭트 버전 및 파이썬 특화 버전으로 제공되며, 상업적 활용이 가능한 오픈 라이선스로 무료 배포된다.
오픈AI가 신규 임베딩 모델인 text-embedding-3-small과 large를 출시했다. 검색 성능이 대폭 개선되고 차원을 줄여 저장 비용을 아낄 수 있으며, 소형 모델 가격은 전작 대비 5분의 1로 낮췄다. 또한 GPT-3.5 터보 입력 비용을 50% 인하하고 코드 생성 시 태만 문제를 개선한 새 GPT-4 터보 프리뷰를 배포했다.
깃허브는 '깃허브 코파일럿 챗'을 모든 개인 및 조직 사용자에게 정식 제공한다고 발표했다. GPT-4 기반으로 작동하며 Visual Studio Code와 Visual Studio에서 자연어로 코드 설명, 취약점 탐지, 테스트 작성을 돕는다. 기존 코파일럿 구독자는 추가 비용 없이 바로 쓸 수 있다.
구글은 Google Colab의 AI 코딩 보조 기능을 무료 사용자를 포함한 전 세계 지원 지역 이용자에게 확대 제공한다고 밝혔다. 사용자는 자연어로 파이썬 코드를 생성하고 실행 오류를 AI로 분석받을 수 있으며, 이번 무료 체험은 2024년까지 이어질 예정이다.
구글이 개발자와 기업을 대상으로 제미나이 프로 및 멀티모달 모델 제미나이 프로 비전 API를 공개했다. 32K 컨텍스트와 함수 호출을 지원하며, 개발자는 구글 AI 스튜디오를 통해 분당 최대 60회까지 무료로 테스트할 수 있다.
Microsoft가 27억 파라미터 언어 모델 Phi-2를 공개했다. 교과서 수준의 고품질 데이터와 지식 전수를 바탕으로 코딩과 수학 등 다단계 추론에서 25배 큰 Llama-2-70B를 앞선다. 데이터 선별만으로 소형 모델에서도 강력한 창발적 능력을 구현할 수 있음을 보여준다.
유튜버 Greg Technology가 연출 의혹을 받은 구글 제미나이의 실시간 영상 시연을 오픈AI의 GPT-4V로 직접 재현했다. 손짓 인식, 그림 식별 등을 실제로 실시간 처리했으며 해당 인터페이스 코드를 깃허브에 오픈소스로 공개했다.
AWS가 기업 업무 환경에 특화된 생성형 AI 비서 '아마존 Q'를 공개했다. 사내 문서와 시스템, AWS 인프라와 연동해 코딩 보조, 인프라 문제 진단, 데이터 검색을 지원한다. 기존 보안 및 권한 정책을 엄격히 준수하며 고객 데이터는 모델 학습에 사용되지 않는다. 현재 프리뷰로 제공된다.
AI 검색 엔진 유닷컴(You.com)이 Llama 2 등 다양한 언어 모델에 실시간 웹 검색을 연결하는 API를 출시했다. 기존 검색 엔진과 달리 긴 본문 스니펫 인덱스를 제공하며, 일반 검색, 뉴스, RAG 등 3가지 형태로 월 100달러부터 시작한다.
GitHub은 GitHub Advanced Security에 세 가지 AI 기능 프리뷰를 공개했다. CodeQL의 JavaScript 및 TypeScript 경고에 대해 LLM이 자동 수정 코드를 생성해 PR에서 바로 적용할 수 있게 지원하며, 정형화되지 않은 유출 비밀번호 탐지와 정규식 생성도 AI로 돕는다.
메타가 허깅페이스, 유럽 클라우드 기업 스케일웨이와 함께 프랑스 STATION F에서 오픈소스 AI 스타트업 육성 프로그램을 발표했다. 선정된 5개 스타트업에 FAIR 연구진의 기술 멘토링, 개발 도구 및 컴퓨팅 파워를 지원할 예정이다.
Xbox는 생성형 AI 기반 게임 내러티브 도구를 구축하기 위해 인월드 AI와 파트너십을 체결했다. 프롬프트를 각본과 대사 트리로 변환하는 AI 디자인 코파일럿과 실시간으로 대사와 퀘스트를 생성하는 캐릭터 런타임 엔진을 개발해 다양한 플랫폼에 지원할 계획이다.
OpenAI가 개발자 콘퍼런스 DevDay에서 GPT-4 Turbo를 발표했다. 128K 토큰 컨텍스트를 지원하며 입력 비용은 기존 대비 3분의 1, 출력은 절반 수준으로 낮췄다. 코드 인터프리터와 문서 검색을 자체 지원하는 어시스턴트 API도 함께 공개해 에이전트 개발 장벽을 크게 낮췄다.
핀드(Phind)는 HumanEval 벤치마크에서 74.7%를 기록하며 GPT-4를 앞서는 코딩 전문 모델을 공개했다. 엔비디아 TensorRT-LLM과 H100을 활용해 초당 100토큰의 빠른 속도와 16k 컨텍스트를 지원한다. 해당 모델은 허깅페이스에 오픈소스로 공개되었으며 웹 및 VS Code 확장 프로그램에서 무료로 쓸 수 있다.