OpenAI 揭秘 ChatGPT 儲存底座:靠定製 Azure 支撐 10 億使用者
OpenAI 披露其儲存平臺 Habitat 的架構細節。為支撐 40 個區域的超 10 億 ChatGPT 使用者,團隊與微軟 Azure 深度定製 Cosmos DB,重寫代理並引入請求分級,讓讀取速度提升 12 倍,單賬號支撐超 2000 萬 QPS。
OpenAI 披露其儲存平臺 Habitat 的架構細節。為支撐 40 個區域的超 10 億 ChatGPT 使用者,團隊與微軟 Azure 深度定製 Cosmos DB,重寫代理並引入請求分級,讓讀取速度提升 12 倍,單賬號支撐超 2000 萬 QPS。