Google、軽量モデル「Gemini 1.5 Flash-8B」の正式提供を開始
Google は軽量 AI モデル「Gemini 1.5 Flash-8B」の一般提供を開始した。May に出た 1.5 Flash に迫る性能を備えつつ、Gemini 系列で最も安価なコストと 1 分あたり最大 4,000 リクエストの高レート制限を実現している。
Google は軽量 AI モデル「Gemini 1.5 Flash-8B」の一般提供を開始した。May に出た 1.5 Flash に迫る性能を備えつつ、Gemini 系列で最も安価なコストと 1 分あたり最大 4,000 リクエストの高レート制限を実現している。
AMDは、初となる小型言語モデル「AMD-135M」シリーズを発表した。Llamaベースの通常版とコード特化版の2種を用意し、自社のInstinct MI250環境で事前学習を実施。投機的デコードによるドラフトモデルとして推論を加速させ、企業のオンプレミス導入を狙う。
MIT発のスタートアップLiquid AIが、Transformer構造を使わない新しい基盤モデル「LFM」ファミリー(1.3B、3.1B、40.3B)を発表した。液体ニューラルネットワークを基盤にしており、メモリ消費を大幅に抑えながら最大100万トークンを処理できる。エッジ機器や長文処理における新たな選択肢として注目される。
OpenAIはChatGPTの「高度な音声モード(Advanced Voice Mode)」をPlusおよびTeamユーザー向けに順次提供開始しました。今週中に順次利用可能になる予定です。新たにカスタム指示やメモリ機能に対応したほか、5種類の新しい音声とアクセントの改善が盛り込まれています。
Googleは製品版モデル「Gemini-1.5-Pro-002」と「Flash-002」を公開した。数学ベンチマークが約20%向上し、無駄な拒絶も減少。さらに10月1日より1.5 Proの入力トークンが64%、出力が52%値下げされ、APIレート制限も緩和される。高性能モデルをより安価に扱えるようになる。
OpenAIはPlusおよびTeamユーザー向けに推論モデル「o1」の利用制限を引き上げたと発表した。軽量版のo1-miniは週50回から1日50回へと7倍に大幅緩和され、計算コストの高いo1-previewも週30回から週50回へと増加した。
OpenAIが先週公開した新モデル「o1」シリーズを巡り、内部の生データである思考チェーンを探ろうとしたユーザーに対し、規約違反の警告メールや利用停止の警告を送っていることが分かった。o1はフィルタリング後の思考要約のみを表示する仕様で、「reasoning trace」などの語句を入力するだけでも検知対象になるという。
Magicは1億トークンのコンテキストウィンドウを処理できるモデル「LTM-2-mini」を発表した。コード約1000万行に相当し、推論コストはLlama 3.1 405Bと比べ約1000分の1に抑えられるという。同社は3億2000万ドルの新規調達と、Google Cloud上でのGB200スパコン構築も明かした。
アリババのQwenチームが視覚言語モデル「Qwen2-VL」を公開した。2Bと7BをApache 2.0でオープンソース化し、72BはAPIで提供する。動的解像度や20分以上の動画認識、端末操作エージェント機能に対応し、72BはGPT-4oに匹敵する性能を示す。
Googleは小型版「Gemini 1.5 Flash-8B」、性能が大幅向上した「Flash」、そしてコーディングと複雑な指示処理を強化した「Pro」の実験的3モデルを公開しました。いずれも100万トークンの長文脈に対応し、Google AI StudioやAPIから無料でテスト可能です。
The Informationの報道によると、OpenAIは数学やプログラミングの難問を解く推論特化型モデル「Strawberry」を開発し、米国の国家安全保障関係者にデモを披露した。早ければ今秋にもChatGPTへ組み込まれる可能性があるほか、次世代旗艦モデル「Orion」を学習させるための高品質な合成データ生成にも使われているという。
Anthropicは、Claude 3および3.5シリーズのシステムプロンプトを公開した。画像内の人物特定を避け「相貌失認」のように振る舞うことや、「certainly」で文を始めないといった細かい行動指針が記されている。大手AI企業が公式に設定内容を開示するのは異例の試みだ。
xAIの開発チームがオープンソースフレームワーク「SGLang」を採用し、推論コード全体を3日間でゼロから書き直した。これによりGrok-2 miniの処理速度が前日比で2倍に向上し、精度もわずかに改善されたほか、大型のGrok-2の推論も効率化された。
OpenAIは全有料ティアの開発者向けに「GPT-4o」のファインチューニング機能の提供を開始した。わずか数十件のサンプルから独自の構造やトーンを学習可能で、9月23日までは組織ごとに1日100万トークンの訓練枠が無料で提供される。
NVIDIAはGamescomにて、デジタルヒューマン技術「NVIDIA ACE」向けに初のオンデバイス小規模言語モデル「Nemotron-4 4B Instruct」を発表した。15Bモデルから蒸留・量子化され、メモリ消費を抑えつつ高速応答を実現。RTX搭載PC上でローカル動作し、『Mecha BREAK』などのゲームでNPCが遅延なくプレイヤーの音声指示を理解して行動できるようになる。
OpenAIはChatGPTおよびAPI向けに更新版GPT-4o(chatgpt-4o-latest)を提供開始し、Chatbot Arenaで首位に返り咲いた。一方で公式は具体的な挙動の定量的説明が難しく、データの改善や定性的な好みに基づく調整だと説明している。最大出力は16,384トークンに拡大した。
AnthropicはAPI向けに「Prompt caching」の提供を開始した。複数回のリクエスト間で頻出コンテキストをキャッシュすることで、長文プロンプトのコストを最大90%、遅延を最大85%削減できる。コードベース全体の参照や長文ドキュメントとの対話、マルチターンなエージェント処理の大幅な効率化が期待できる。
LMSYSはOpenAIの最新版GPT-4o(20240808)がChatbot Arenaで1314点を獲得し総合1位に返り咲いたと発表した。GoogleのGemini-1.5-Pro-Expを抜き、コーディングや難問プロンプトでもトップを記録。APIではchatgpt-4o-latestとして利用できる。
xAIは最新フロンティアモデル「Grok-2」および軽量版「Grok-2 mini」のベータ版を発表した。LMSYSベンチマークでClaude 3.5 Sonnetなどを上回るスコアを記録したほか、FLUX.1連携による画像生成にも対応する。現在「𝕏」の有料会員向けに順次提供が始まっており、月内には企業向けAPIも提供予定だ。
OpenAIはChatGPT向けのGPT-4oを先週密かにアップデートしたと発表した。新世代モデルではなく改善版と位置づけているが、具体的な変更点の公表は見送られている。API側では最大出力トークン数が旧版の4倍となる16,384に拡大された。