MetaがCM3leonを発表:テキストと画像を相互生成、計算量を5分の1に削減
Metaは、テキストから画像、画像からテキストの両方を1つでこなす基盤モデル「CM3leon」を発表した。言語モデルの訓練手法を取り入れ、従来のTransformerベースの手法と比べ計算コストを5分の1に抑えつつ、MS-COCOベンチマークでGoogleのPartiを上回るスコアを記録した。
Metaは、テキストから画像、画像からテキストの両方を1つでこなす基盤モデル「CM3leon」を発表した。言語モデルの訓練手法を取り入れ、従来のTransformerベースの手法と比べ計算コストを5分の1に抑えつつ、MS-COCOベンチマークでGoogleのPartiを上回るスコアを記録した。