#nanoGPT

15:16開源專案傳播指數 50

Karpathy 開源 nanochat：8000 行程式碼、100 美元手搓一個 ChatGPT

Andrej Karpathy 開源專案 nanochat。它僅用約 8000 行程式碼，就打通從分詞、預訓練、SFT、強化學習到推理介面的全棧流程。在 8 張 H100 上花約 100 美元跑 4 小時，就能訓出一個能聊天的基礎模型。該專案還將作為其 LLM101n 課程的結業大作業。