Phindの独自コード生成モデル、GPT-4超えの精度を5倍の高速性で実現
PhindはHumanEvalで74.7%を記録し、GPT-4を上回るプログラミング特化モデルを発表した。NVIDIAのTensorRT-LLMとH100を活用して毎秒100トークンの高速出力を実現し、16kコンテキストに対応する。重みはHugging Faceでオープンソース公開され、VS Code拡張機能などでも利用できる。
PhindはHumanEvalで74.7%を記録し、GPT-4を上回るプログラミング特化モデルを発表した。NVIDIAのTensorRT-LLMとH100を活用して毎秒100トークンの高速出力を実現し、16kコンテキストに対応する。重みはHugging Faceでオープンソース公開され、VS Code拡張機能などでも利用できる。