Metaが「Code Llama 70B」を公開、10万トークンの文脈に対応し商用利用も可能
Metaはコード生成向け大規模言語モデル「Code Llama 70B」を公開した。5000億トークンのコードデータで訓練され、10万トークンのコンテキストに対応する。Python特化版や指示チューニング版も用意され、商用利用可能なオープンライセンスで提供される。
AIモデル · デイリー
月
1月29日 月曜日
木
1月25日 木曜日
OpenAI、新埋め込みモデル発表 GPT-3.5 Turbo値下げとGPT-4改善も
OpenAIは新埋め込みモデル「text-embedding-3-small」および「large」を発表した。検索性能が向上したほか、次元数を削減して保存コストを抑える機能に対応した。あわせてGPT-3.5 Turboの入力価格を50%引き下げ、コード生成の手抜きを抑えた新GPT-4 Turboプレビューも提供する。
木
1月18日 木曜日
Meta、次世代LLM「Llama 3」を学習中と発表 年内にH100を34万基超確保へ
Metaのマーク・ザッカーバーグCEOは次世代大規模言語モデル「Llama 3」の事前学習を開始したと明らかにしました。AGIの実現に向けて推論やコーディング能力を大幅に強化する方針で、2024年末までにNVIDIA H100を34万基以上確保し、強力な計算基盤を構築する計画です。
月
12月18日 月曜日
ChatGPTが「GPT-4.5で動作中」と回答？ OpenAI幹部やAltman氏が「幻覚」と否定
12月、一部のユーザーに対しChatGPTが未発表の「gpt-4.5-turbo」で動作していると自答し、密かなアップデート疑惑が浮上した。しかしOpenAIの従業員やサム・アルトマンCEOは即座に否定し、奇妙で一貫性のあるハルシネーション（幻覚）にすぎないと説明した。
水
12月13日 水曜日
Googleが「Gemini Pro」APIを一般公開、毎分60リクエストまで無料提供
Googleは開発者や企業向けに「Gemini Pro」およびマルチモーダル対応の「Gemini Pro Vision」APIの提供を開始した。32Kのコンテキスト長や関数呼び出しに対応。Google AI Studio経由で毎分最大60リクエストまで無料で利用できる。
火
12月12日 火曜日
マイクロソフトが27億引数の「Phi-2」公開、25倍サイズのモデルを凌駕
Microsoftは27億パラメータの言語モデル「Phi-2」を公開した。教科書品質の厳選データと知識転移により、コード生成や数学推论で25倍大きいLlama-2-70Bを上回る。小規模モデルでも訓練データの質次第で高度な創発的能力を発揮できることを示した。
月
12月11日 月曜日
Meta、音声生成基盤モデル「Audiobox」の体験デモを公開
Metaは音声生成の基盤研究モデル「Audiobox」の体験デモを公開した。ゼロショット音声合成（TTS）やテキストからの効果音生成、音声のインフィリング（補完・修復）機能を備えており、ブラウザ上で直接各機能を試すことができる。
GPT-4Vで再現：YouTuberがGoogle「Gemini」の演出動画を実機で実証
YouTuberのGreg Technology氏がGPT-4Vを使い、編集による演出疑惑が持たれていたGoogle Geminiのプロモ動画を再現した。リアルタイムの動画入力で手ぶりやイラストを判別させ、動作するコードをGitHubに公開している。
土
12月9日 土曜日
xAIの「Grok」、質問拒否時に「OpenAIの規約違反」と誤答して波紋
セキュリティテスターがxAIのGrokにプロンプトを入力した際、「OpenAIの利用規約に違反する」と回答を拒否された事例を公開しました。xAI側はWebデータの誤収集と釈明したものの、専門家からはOpenAIの出力で微調整された可能性が指摘されています。
木
12月7日 木曜日
xAIのAIチャットボット「Grok」、XのPremium+会員向けに提供開始
Elon Musk氏はxAIが開発したAIチャット「Grok」をXのPremium+会員向けに正式提供すると発表した。Grok-1を基盤とし、皮肉やユーモアを交えた回答が特徴だ。広告依存からの脱却と「スーパーアプリ」化に向けた課金誘導の目玉となる。
Stable LM Zephyr 3B公開：30億パラメータでエッジ端末でも軽快に動作
軽量対話モデル「Stable LM Zephyr 3B」が公開された。7Bモデルより60%小型化されており、DPOにより指示追従やQ&A性能を強化。高価なハードウェアを必要とせず、エッジ端末上でも軽快に動作する。現在は非商用ライセンスで提供されている。
水
12月6日 水曜日
Google、Bardに新型AI「Gemini」を導入：まず英語版Proから
Googleは対話型AI「Bard」に最新モデル「Gemini」を統合すると発表した。まずは170以上の国と地域で英語版のGemini Proがテキスト向けに提供され、GPT-3.5を上回る推論性能をアピールする。最上位のGemini Ultraを積んだBard Advancedは来年初頭に登場予定だ。
火
11月21日 火曜日
AnthropicがClaude 2.1を発表：20万トークン対応、ハルシネーションを半減
Anthropicは最新モデル「Claude 2.1」を公開しました。業界最大級となる20万トークンのコンテキストに対応し、誤情報の出力率を従来の半分に削減。APIではシステムプロンプトや外部ツール連携（Tool use）のベータ版も利用可能です。
Microsoft、推論力を高めた小規模言語モデル「Orca 2」公開 5〜10倍サイズのモデルに匹敵
Microsoft は小規模言語モデル「Orca 2」の重みを公開した。大規模モデルの単なる模倣をやめ、課題に応じて思考ステップを使い分ける戦略を学習。複雑なゼロショット推論テストで、自らより 5 〜 10 倍大きなモデルに匹敵する性能を示した。
金
11月17日 金曜日
Google、GPT-4対抗の次世代AI「Gemini」の公開を2024年初頭に延期
米報道によると、Googleは次世代AIモデル「Gemini」の提供を、当初予定していた11月から2024年初頭へ延期した。DeepMindがGPT-4に対抗すべく開発を進める主力モデルだが、生成AIレースでOpenAIの背中を追うGoogleの苦戦が続いている。
水
11月15日 水曜日
Google、AIチャット「Bard」を世界中のティーン向けに開放 数学解説や安全対策も導入
Google は自立管理可能な年齢に達した世界中のティーン向けに「Bard」を開放した。数式の画像や入力から段階的な解き方を提示する機能やデータ可視化に対応。ハルシネーションや不適切コンテンツへの対策として、安全フィルターに加え回答の裏付けを確認する二重チェック機能が初回自動実行される。
OpenAI、ChatGPT Plusの新規登録を一時停止 DevDay後の需要急増で
OpenAIは、ChatGPT Plusの新規ユーザー登録を一時停止したと発表した。DevDay以降の利用急増でサーバー容量を超過したため、既存ユーザーの体験を維持するための措置だという。再開時の通知はアプリ内から登録できる。
月
11月13日 月曜日
OpenAI、次世代「GPT-5」の開発に着手 アルトマンCEO明かす
OpenAIのサム・アルトマンCEOは英紙の取材に対し、次世代モデル「GPT-5」の開発に着手したことを認めた。超知能やAGIの実現には膨大な計算資源とデータが不可欠であり、実用化には米Microsoftなどからのさらなる巨額投資が必要になると語っている。公開時期は未定。
