OpenAIがSWE-Lancer公開:100万ドル分の実務案件でAIを試す
OpenAIは1,400件以上のUpwork実務案件(総額100万ドル相当)を用いた新ベンチマーク「SWE-Lancer」を発表した。50ドルのバグ修正から32,000ドルの機能実装まで含むが、最先端モデルでも大半は解けなかった。評価用Dockerなどは公開中。
OpenAIは1,400件以上のUpwork実務案件(総額100万ドル相当)を用いた新ベンチマーク「SWE-Lancer」を発表した。50ドルのバグ修正から32,000ドルの機能実装まで含むが、最先端モデルでも大半は解けなかった。評価用Dockerなどは公開中。