Microsoft、推論力を高めた小規模言語モデル「Orca 2」公開 5〜10倍サイズのモデルに匹敵
Microsoft は小規模言語モデル「Orca 2」の重みを公開した。大規模モデルの単なる模倣をやめ、課題に応じて思考ステップを使い分ける戦略を学習。複雑なゼロショット推論テストで、自らより 5 〜 10 倍大きなモデルに匹敵する性能を示した。
Microsoft は小規模言語モデル「Orca 2」の重みを公開した。大規模モデルの単なる模倣をやめ、課題に応じて思考ステップを使い分ける戦略を学習。複雑なゼロショット推論テストで、自らより 5 〜 10 倍大きなモデルに匹敵する性能を示した。