OpenAI、「GPT-4o」のファインチューニングを提供開始
OpenAIは全有料ティアの開発者向けに「GPT-4o」のファインチューニング機能の提供を開始した。わずか数十件のサンプルから独自の構造やトーンを学習可能で、9月23日までは組織ごとに1日100万トークンの訓練枠が無料で提供される。
OpenAIは全有料ティアの開発者向けに「GPT-4o」のファインチューニング機能の提供を開始した。わずか数十件のサンプルから独自の構造やトーンを学習可能で、9月23日までは組織ごとに1日100万トークンの訓練枠が無料で提供される。
Perplexity の CEO がコードインタープリタおよびグラフ描画機能を順次提供中だと明らかにした。外部 Python ライブラリの導入に対応し、株価チャートなどを回答内で直接描画できる。現在は一部ユーザー向けに段階的に開放されている。
MicrosoftがWindows向けユーティリティ「PowerToys」に新機能「Workspaces」を追加予定であることを明らかにした。作成したレイアウトから複数アプリを一括起動し、マルチモニター上に自動整列できる機能で、バージョン0.84で提供予定。
AnthropicはAPI向けに「Prompt caching」の提供を開始した。複数回のリクエスト間で頻出コンテキストをキャッシュすることで、長文プロンプトのコストを最大90%、遅延を最大85%削減できる。コードベース全体の参照や長文ドキュメントとの対話、マルチターンなエージェント処理の大幅な効率化が期待できる。
LMSYSはOpenAIの最新版GPT-4o(20240808)がChatbot Arenaで1314点を獲得し総合1位に返り咲いたと発表した。GoogleのGemini-1.5-Pro-Expを抜き、コーディングや難問プロンプトでもトップを記録。APIではchatgpt-4o-latestとして利用できる。
OpenAIはSWE-benchの開発陣と共同で「SWE-bench Verified」を公開した。93人の専門開発者が曖昧な課題文や不当なユニットテストを精査し、信頼性の高い500件の問題を厳選。AIによる自律的なソフトウェア開発能力をより正確に測定できるようになる。
スタートアップのCosineは自律型AIソフトウェアエンジニア「Genie」を発表した。SWE-Benchテストで30%のスコアを記録し、Devinの13.8%を大幅に上回った。OpenAIの長文出力対応GPT-4oを独自にファインチューニングしており、現在は招待制で提供されている。
GoogleはGemini 1.5 Flashの大幅値下げを発表した。8月12日より128Kトークン以下の入力が78%減の100万トークンあたり0.075ドル、出力が71%減となる。さらにテキスト微調整機能を全開発者に開放し、図表を含むPDFの直接解析にも対応した。
OpenAIはAPI向けに「Structured Outputs」を正式公開した。制約付きサンプリング技術により、最新のgpt-4oなどで開発者が指定したJSON Schemaへの完全準拠(評価スコア100%)を実現。プロンプト調整やリトライ処理に頼る必要がなくなる。初回のスキーマ処理時にわずかな遅延が発生する点には注意が必要だ。
OpenAI は開発者会議「DevDay」の形式を変更し、サンフランシスコ、ロンドン、シンガポールの 3 都市を巡るツアー形式で開催すると発表した。次期大型フラグシップモデルの発表は見送り、API や開発者向けツールのアップデートに注力する方針。
Mistral AIは新フラッグシップ「Mistral Large 2」を発表した。1230億パラメータと128kコンテキストを備え、単一ノードで高速動作するよう設計されている。コード生成や推論能力はGPT-4oなどに匹敵し、ハルシネーション抑制も強化。研究用ライセンスで重みが無償公開されている。
Cohereはエンタープライズ検索やRAG向けの新モデル「Rerank 3 Nimble」を発表した。高精度を保ちながらRerank 3比で約3倍の高速化を実現している。なお、現時点ではAmazon SageMaker限定で提供される。
Metaはオープンソースモデル「Llama 3.1」を発表した。フラッグシップの405Bモデルは128Kコンテキストに対応しGPT-4oに匹敵する性能を持つ。規約も改定され、モデル出力による小型モデルの蒸留や改善が公式に認められた。
Mistral AIは、Mambaアーキテクチャを採用したコード生成モデル「Codestral Mamba」を公開した。Transformerと異なり線形時間での推論が可能で、最大256kトークンの文脈検索を検証済み。Apache 2.0ライセンスで完全無償公開されており、Hugging Faceやla Plateformeで提供される。
Anthropic は Claude の「Artifacts」を外部に公開・共有できる新機能を発表した。他人が作成した Artifacts をベースに再編集できる Remix にも対応。コードやベクター画像、簡単なゲームなどを手軽に共有・共同作業できるようになった。
Hugging Face は Inference Endpoints と Spaces で Google Cloud TPU v5e の提供を開始した。利用料は1時間あたり1.375ドルから。オープンソースの Optimum TPU を活用し、Gemma や Llama、Mistral などのモデルを数クリックでデプロイできる。
Anthropic は開発者向けコンソールにプロンプト評価機能を導入した。Claude 3.5 Sonnet を使ったプロンプトやテストケースの自動生成、CSV インポート、複数バージョンの出力並列比較、5 段階評価に対応する。スプレッドシートでの手動検証から解放され、本番導入前の改善サイクルを素早く回せるようになった。
Poeはチャット内で生成されたWebアプリを即座に表示・操作できる新機能「Previews」を発表した。Claude 3.5 SonnetやGPT-4o、Gemini 1.5 Proなどコーディングに強いモデルに対応。コードを外部環境に貼り直すことなく、会話の中でそのまま動かして試せる。
LangChainは自律型エージェント構築フレームワーク「LangGraph v0.1」の安定版と、運用基盤「LangGraph Cloud」のベータ版を発表した。細かい制御フローの設計や人間による介入・巻き戻し編集に対応し、実運用での信頼性向上と大規模スケールを支援する。
OpenAIはChatGPTのコード出力に含まれる誤りを指摘する「CriticGPT」を発表した。GPT-4をベースにしたモデルで、人間のトレーナーと連携することで単独作業より60%高い精度でバグを発見できる。高度化するAIをRLHFで正しく評価するための試みだ。