Stability AI、初の日本語LLM「Japanese StableLM Alpha」を公開
Stability AI は初の日本語大規模言語モデル「Japanese StableLM Alpha」(70億パラメータ)を公開した。7500億トークンで学習され、ベンチマークで高い性能を記録。Baseモデルは商用利用可能な Apache 2.0 で提供され、Instruct版は研究目的で利用できる。
Stability AI は初の日本語大規模言語モデル「Japanese StableLM Alpha」(70億パラメータ)を公開した。7500億トークンで学習され、ベンチマークで高い性能を記録。Baseモデルは商用利用可能な Apache 2.0 で提供され、Instruct版は研究目的で利用できる。
アリババは木曜日、70億パラメータの大規模言語モデル「Qwen-7B」と対話向け「Qwen-7B-Chat」をオープンソース化したと発表した。英中両言語に対応し、世界中の開発者が無償で利用できる。月間アクティブユーザー数が1億人を超える企業にはライセンス申請が必要。MetaのLlamaに対抗し、主力のクラウド事業拡大を狙う。
IBMとHugging Faceは、NASAの衛星データを活用して開発した地理空間基盤モデルをオープンソース化した。ラベル付きデータを半減させつつ従来技術より精度を15%向上させており、森林伐採の追跡や洪水予測といった気候変動研究の分析を一気に加速させる狙いがある。
Metaはテキストから高品質な音楽や効果音を生成するフレームワーク「AudioCraft」のコードと重みをオープンソースで公開した。音楽生成のMusicGen、環境音生成のAudioGen、改良版コーデックEnCodecを統合し、研究者が独自データで追加学習できる。
オープンソース・イニシアティブ(OSI)はMetaが「オープンソース」という言葉を誤用していると指摘した。LLaMA 2のライセンスが商用規模や用途を制限しており、オープンソースの定義(OSD)に反するという。OSIは10月17日に正式な「オープンソースAI」の定義草案を発表する予定だ。
Stability AIは主力画像生成モデル「SDXL 1.0」をオープンソース公開した。ネイティブ1024x1024解像度に対応し、苦手だった手や文字の描写、複雑な構図の再現性が向上。「masterpiece」などの呪文を使わず高画質を出力でき、8GB VRAMの一般GPUでも動作する。
Hugging Face はブラウザや Node 環境から LLM にツール実行権限を与える新ライブラリ「Agents.js」を公開した。画像生成やキャプション作成などのマルチモーダルツールを標準搭載し、独自のモデルやツールも拡張可能。ただし環境上で任意コードを実行する仕様のため、セキュリティリスクへの注意も呼びかけている。
画像生成ツールInvokeAIがv3.0.0を公開した。内部構造をノードベースへと全面刷新し、実験的なノードエディタを搭載。ControlNet連携やダイナミックプロンプト、SDXLの先行サポート、長文プロンプト対応、Macでの半精度ロードによる省メモリ化などを実現した。
Hugging Faceは動画と音楽の自動生成を検証する実験的デモ「AI WebTV」を公開した。ChatGPTでプロンプトを展開し、Zeroscope V2で動画を生成、FILMによるフレーム補間とMusicGenの音楽を組み合わせてFFmpegで常時配信する。生成品質には課題が残るものの、完全自律型のオープンソース動画配信パイプラインを実証した。
米Washington Postによると、Metaが公開したLLM「LLaMA」が、安全フィルターのない成人向けチャットボットの構築に利用されている。暴力的な描写を生成する事例も報告されており、フロンティアAIをオープンソース化すべきか閉じるべきかの議論が再燃している。
Microsoft Researchは130億パラメータの言語モデル「Orca」を発表した。GPT-4の段階的な思考プロセスを模倣して学習することで、BBH推論ベンチマークでChatGPTに匹敵する性能を達成した。巨大なデータセンターに頼らず手元で動作する小型モデルでも、高度な推論が可能になることを示している。
Meta は視覚モデル「I-JEPA」をオープンソース公開した。画素単位ではなく抽象的な意味表現で欠損部分を予測するのが特徴で、16 基の A100 GPU で 72 時間以内に学習を完了する。ヤン・ルカン氏が提唱する世界モデル実現に向けた重要な一歩となる。
Hugging Face はアブダビ TII が開発したオープン言語モデル「Falcon」ファミリーへの対応を発表した。Apache 2.0 ライセンスで商用利用が可能で、Falcon-40B は LLaMA-65B を抑えてオープン LLM リーダーボードの首位を獲得。Multi-Query Attention により推論時のメモリ消費も大幅に抑えられている。
テキスト指示文と歌詞を入力するだけでボーカル入り楽曲をフル生成できる、新しいオープンソースのAI音楽生成モデルがGitHubで公開された。レゲエやカントリー調などクリアなステレオ音源を出力できる一方、一部で発音の甘さも残る。ローカル実行手順も案内されている。
Metaは音声AIモデル群「Massively Multilingual Speech(MMS)」のモデルとコードを公開した。音声認識と音声合成の対応言語を従来の約100言語から1100以上に拡大し、4000以上の話し言葉の識別も実現。聖書などの多言語音声データを活用して学習データ不足を克服し、言語多様性の保護を支援する。