오픈AI, 'GPT-4o' 파인튜닝 기능 정식 지원
오픈AI가 모든 유료 개발자 티어를 대상으로 'GPT-4o' 미세조정(파인튜닝) 기능을 지원하기 시작했다. 수십 개의 예시만으로도 도메인별 톤과 출력 형식을 커스텀할 수 있으며, 9월 23일까지 조직당 매일 100만 훈련 토큰이 무료로 제공된다.
바이브 코딩
최신 소식 보기
퍼플렉시티, 코드 인터프리터 및 차트 렌더링 기능 순차 배포
퍼플렉시티 CEO가 코드 인터프리터와 차트 렌더링 기능을 순차 배포 중이라고 밝혔다. 파이썬 라이브러리를 직접 설치해 주식 차트 등을 답변 화면에 바로 시각화할 수 있다. 현재 일부 사용자를 대상으로 점진적 적용 중이다.
MS 파워토이, 앱을 한 번에 실행하고 화면에 자동 배치하는 새 기능 준비
마이크로소프트가 Windows용 유틸리티 제품군 파워토이에 '워크스페이스(Workspaces)' 기능을 추가할 예정이라고 밝혔다. 사용자가 지정한 앱 레이아웃을 바로가기로 저장해 한 번의 클릭으로 여러 모니터에 앱을 자동 실행·배치하며, 0.84 업데이트에 포함될 예정이다.
Anthropic, Claude에 프롬프트 캐싱 도입…비용 최대 90% 절감
Anthropic이 API에서 자주 사용하는 긴 컨텍스트를 저장해 재사용할 수 있는 '프롬프트 캐싱' 기능을 출시했다. 긴 프롬프트 처리 시 비용은 최대 90%, 지연 시간은 최대 85%까지 줄어든다. 대용량 코드베이스 질의응답이나 문서 분석, 멀티턴 에이전트 작업의 부담을 크게 덜어준다.
최신 GPT-4o, LMSYS 벤치마크 1위 탈환: 코딩 성능 30점 상승
LMSYS는 OpenAI의 최신 GPT-4o(20240808)가 1,314점을 기록하며 구글 Gemini-1.5-Pro-Exp를 제치고 Chatbot Arena 종합 1위를 탈환했다고 밝혔다. 코딩과 고난도 프롬프트 등 여러 부문에서 선두를 차지했으며, API에서는 chatgpt-4o-latest로 제공된다.
오픈AI, 코딩 벤치마크 신뢰도 높인 'SWE-bench Verified' 공개
오픈AI가 원작자들과 협력해 신뢰성을 대폭 개선한 'SWE-bench Verified'를 공개했다. 전문 개발자 93명이 참여해 모호한 문제 설명과 부당한 테스트 케이스를 걷어내고 500개 샘플을 추려냈다. 소프트웨어 엔지니어링 에이전트의 역량을 한층 정확하게 측정할 수 있게 됐다.
코사인, AI 소프트웨어 엔지니어 '지니' 공개: 데빈 넘어서는 코딩 성능 달성
스타트업 코사인이 자율형 AI 소프트웨어 엔지니어 '지니(Genie)'를 발표했다. SWE-Bench 벤치마크에서 30% 점수를 기록해 데빈의 13.8%를 크게 앞질렀다. 오픈AI의 긴 출력 지원 GPT-4o 모델을 미세조정해 개발됐으며, 현재 초대 기반으로 한정 제공된다.
구글, 제미나이 1.5 플래시 가격 최대 78% 인하…파인튜닝 전면 개방
구글은 제미나이 1.5 플래시 가격을 대폭 인하한다고 밝혔다. 8월 12일부터 128K 토큰 이하 입력 단가가 78% 내린 100만 토큰당 0.075달러로 적용되며, 출력도 71% 낮아진다. 텍스트 미세조정 기능이 전면 개방되었고 PDF 시각 분석도 정식 지원한다.
OpenAI, API에 구조화된 출력 도입: JSON 스키마 100% 일치 보장
OpenAI가 개발자가 지정한 JSON 스키마를 모델 출력이 완벽하게 따르도록 강제하는 'Structured Outputs' 기능을 API에 출시했다. 새로운 gpt-4o 모델 평가에서 100% 스키마 일치율을 기록해 프롬프트 엔지니어링이나 재시도 로직 부담을 없앴다. 새로운 스키마를 처음 요청할 때 전처리 지연이 발생할 수 있다.
오픈AI, 올가을 개발자 행사서 차세대 모델 미공개…API 중심 로드쇼 전환
오픈AI는 연례 개발자 콘퍼런스 ‘데브데이(DevDay)’를 샌프란시스코, 런던, 싱가포르를 순회하는 로드쇼 형식으로 변경한다고 밝혔다. 기대를 모았던 차세대 플래그십 모델 공개는 건너뛰고, API와 개발자 도구 업데이트에 집중할 계획이다.
미스트랄 AI, 'Mistral Large 2' 공개: 123B 매개변수로 GPT-4o급 코딩·추론 성능 구현
미스트랄 AI가 차세대 플래그십 모델 Mistral Large 2를 공개했다. 1230억 매개변수와 128k 컨텍스트 창을 갖춰 단일 노드에서도 높은 처리량을 내도록 설계됐다. 코딩과 수학 추론 성능이 크게 향상돼 최상위 모델들과 맞먹으며, 연구 및 비상업적 용도의 가중치가 무료 배포된다.
코히어, 기업 검색·RAG 특화 '리랭크 3 님블' 공개…3배 가속
코히어가 기업용 검색 및 RAG 시스템을 위한 신규 모델 '리랭크 3 님블'을 공개했다. 높은 정확도를 유지한 채 기존 Rerank 3보다 약 3배 빨라졌다. 다만 현재는 아마존 세이지메이커(Amazon SageMaker)에서만 독점 제공된다.
Meta, Llama 3.1 공개: GPT-4o 맞먹는 405B 오픈소스와 증류 허용
Meta가 Llama 3.1 시리즈를 공개했다. 플래그십 405B 모델은 128K 컨텍스트를 지원하며 GPT-4o급 성능을 제공한다. 특히 라이선스가 개정되어 405B의 출력을 활용해 다른 소형 모델을 증류 및 개선할 수 있도록 공식 허용했다.
미스트랄 AI, 맘바 기반 오픈소스 코드 모델 '코드스트랄 맘바' 공개
미스트랄 AI가 트랜스포머 대신 맘바 아키텍처를 적용한 코드 생성 모델 '코드스트랄 맘바'를 발표했다. 입력 길이에 구애받지 않는 선형 시간 추론을 지원하며 최대 256k 토큰 컨텍스트 검색을 테스트했다. 아파치 2.0 라이선스로 전면 무료 공개되어 허깅페이스 가중치 다운로드 및 플랫폼 테스트를 지원한다.
앤트로픽, 클로드 ‘아티팩트’ 공유 및 리믹스 기능 공개
앤트로픽이 클로드(Claude)의 ‘아티팩트(Artifacts)’를 웹에 발행하고 공유할 수 있는 기능을 추가했다. 다른 사람이 만든 코드나 다이어그램, 간단한 게임을 가져와 수정할 수 있는 ‘리믹스’도 지원해 AI 기반 인터랙티브 결과물 공유가 쉬워졌다.
허깅페이스, 구글 클라우드 TPU v5e 도입: 시간당 1.38달러부터
허깅페이스가 Inference Endpoints와 Spaces에 구글 클라우드 TPU v5e 지원을 추가했다. 시간당 1.375달러부터 시작하며, 오픈소스 Optimum TPU 라이브러리를 통해 Gemma, Llama, Mistral 같은 모델을 클릭 몇 번으로 손쉽게 배포할 수 있다.
앤트로픽 콘솔에 프롬프트 평가 기능 도입: 테스트 케이스 자동 생성 및 비교 지원
앤트로픽이 개발자 콘솔에 프롬프트 평가 도구를 추가했다. Claude 3.5 Sonnet을 활용해 프롬프트와 테스트 케이스를 자동 생성하거나 CSV를 불러와 일괄 실행할 수 있으며, 여러 버전의 출력을 나란히 두고 5점 척도로 평가할 수 있다. 스프레드시트 수작업 없이 콘솔 안에서 즉시 검증이 가능하다.
AI 플랫폼 포, 대화창서 웹앱 바로 실행하는 '프리뷰' 기능 공개
포(Poe)가 대화창 안에서 AI가 생성한 웹 애플리케이션을 직접 보고 조작할 수 있는 '프리뷰(Previews)' 기능을 공개했다. 클로드 3.5 소넷, GPT-4o, 제미나 1.5 프로 등 코딩 능력이 뛰어난 모델에 최적화됐다. 코드를 외부 에디터로 옮기지 않고도 그 자리에서 바로 실행해볼 수 있다.
LangChain, LangGraph v0.1 및 클라우드 공개: 복잡한 멀티 에이전트 제어 지원
LangChain이 에이전트 개발 프레임워크 LangGraph v0.1 정식 버전과 배포 인프라인 LangGraph Cloud 비공개 베타를 발표했다. 세밀한 워크플로 제어와 사람의 승인 개입, 상태 롤백 기능을 지원해 안정적인 상용 에이전트 구축을 돕는다.
OpenAI, GPT-4의 오류 잡아내는 'CriticGPT' 공개
OpenAI는 ChatGPT의 코드 오류를 찾아내는 모델 'CriticGPT'를 공개했다. 인간 트레이너가 CriticGPT의 도움을 받을 경우 단독 작업보다 오류 지적 성과가 60% 더 뛰어났다. OpenAI는 이를 RLHF 파이프라인에 통합해 복잡한 AI의 정렬 난이도를 낮출 계획이다.