突破記憶體牆：斯坦福聯合 SkyWater 造出單片 3D 晶片，AI 提速最高 12 倍

跑大模型最怕什麼？不是算力不夠，而是晶片裡的「堵車」。算力單元跑得飛快，但記憶體裡的資料送不過去，行業裡管這叫「記憶體牆」。

來自斯坦福大學、卡耐基梅隆大學、賓夕法尼亞大學和麻省理工學院的研究團隊，聯手美國本土晶圓代工廠 SkyWater Technology，造出了一款單片 3D 晶片。這是第一顆在美國本土商業晶圓廠成功流片的單片 3D 晶片，相關成果發表在第 71 屆 IEEE 國際電子器件大會（IEDM）上。

把平房推倒，原地蓋摩天大樓

傳統的 2D 晶片就像平房，計算單元和記憶體並排擺在一塊平面上。兩者之間連線很長，傳輸頻寬成了死穴，碰上 ChatGPT、Claude 這種需要頻繁搬運海量引數的大模型，計算核心大部分時間都在「等資料」。

以前業界嘗試做 3D 晶片，大多是把兩顆做好的晶圓像夾心餅乾一樣疊在一起貼合。這種方案雖然能用，但層與層之間的物理觸點粗疏，垂直連線密度低，依然容易卡脖子。

這次研究團隊換了一種「單片」（Monolithic）做法：底層晶片造好後，不拿去貼片，而是在低溫環境下，一層接一層直接往上生長電路。因為溫度控制得夠低，不會燒壞底下的元件，各層之間的垂直導線密度做到了迄今為止的最高水平。

賓夕法尼亞大學助理教授 Robert M. Radway 把這套架構比作「計算領域的曼哈頓」，與其讓人在平地長途跋涉，不如直接坐垂直電梯穿梭樓層。

效能實測提速 4 倍，模擬大模型快 12 倍

從早期實測資料來看，這顆原型晶片的效能已經達到同規格傳統 2D 晶片的 4 倍左右。

在針對多層堆疊架構的模擬測試中，面對 Meta 開源的 LLaMA 這類真實大模型工作負載，晶片效能提升幅度達到了 12 倍。研究人員測算，這種設計有望在平衡速度與能耗的「能量延遲積」（EDP）指標上，實現 100 到 1000 倍的改善。

更關鍵的一點在於製造地點。整顆晶片並不是在高校實驗室的手工檯上搓出來的，而是在 SkyWater 位於明尼蘇達州布盧明頓的商業晶圓廠裡完成流片。

這證明了單片 3D 架構不再停留在學術論文的 PPT 上，現有的半導體代工產線就有能力把它造出來。

為什麼重要

大模型訓練和推理走到今天，單純靠砸錢微縮電晶體尺寸的「微縮牆」已經快撞上了。輝達等廠商目前主要靠台積電的 CoWoS 等先進封裝技術來堆視訊記憶體，但封裝層面的堆疊受制於產能和高昂成本。

如果單片 3D 路線走通，未來的 AI 加速卡可以在極小的物理面積內塞進高密度的片上儲存。對需要部署本地小模型、做邊緣計算的裝置來說，這種低功耗、高密度的晶片會是直接的解法。不過我們認為，現在說它能顛覆市場還為時過早，原型晶片堆疊的層數有限，垂直堆疊帶來的發熱怎麼排出去、商業代工的良率有多高，都是來源中尚未解答的硬骨頭。

對半導體行業來說，這項研究最聰明的地方在於直接拉上了 SkyWater 這家商業代工廠。它避開了最尖端的 EUV 光刻機封鎖，試圖通過垂直架構創新在成熟或特色工藝節點上擠出幾倍甚至十倍的效能提升。

這一步如果能實現規模化量產，意味著製造先進製程 AI 晶片的路徑多了一條支線，不再只有死磕台積電先進封裝一條路。