Googleがコード特化モデル「CodeGemma」公開、2Bと7Bの3種展開
GoogleはHugging Faceと連携し、オープンアクセスなコード特化モデル「CodeGemma」を公開した。Gemmaをベースに5000億トークンを追加学習し、補完特化の2B、コードと自然言語を扱う7B、対話型の7B Instructを用意。2Bモデルは約6GBのメモリで動作し、端末内での高速補完に向く。
Transformers
AMDとHugging Faceが提携 CPU・GPUでのAIモデル実行を高速化
AMDはHugging Faceのハードウェアパートナープログラムに参画したと発表した。transformersライブラリにROCm SDKを統合し、EPYCやRyzen、Instinct GPU上でのモデル学習と推論を最適化する。Nvidia一強のAIインフラ市場において、開発者に費用対効果の高い代替選択肢を提供する狙いだ。