NVIDIAがNeMo Switchyardを発表：エージェント負荷を最適配分、コストを74%削減
NVIDIAはAIエージェント向けモデルルーティング基盤「NeMo Switchyard」を発表した。難易度や段階に応じて最適なモデルへ動的にタスクを振り分け、LangChainのテストでは精度を維持したまま呼び出しコストを74%削減した。
NVIDIAはAIエージェント向けモデルルーティング基盤「NeMo Switchyard」を発表した。難易度や段階に応じて最適なモデルへ動的にタスクを振り分け、LangChainのテストでは精度を維持したまま呼び出しコストを74%削減した。