◎ 林修民
記憶體三大廠之一的美光（Micron, MU）於 Hot Chips 2026 大會發表演說，坦言 AI 算力每兩年成長 3 倍，超過 HBM 頻寬每年不到 2 倍的擴展速度，「記憶體牆（Memory Wall）」持續惡化。
Hot Chips 是全球半導體與處理器領域最具權威性的頂級學術與產業年會之一，每年在美國史丹佛大學（Stanford University）舉行，主要匯集全球頂尖的處理器、GPU、AI 加速器、記憶體與系統設計團隊，發表最新的高性能晶片架構與技術創新。
甚麼是記憶體牆？
記憶體牆（Memory Wall）是指處理器（如 CPU 或 GPU）的運算速度飛速成長，但資料從記憶體傳輸到處理器的頻寬與速度卻跟不上，導致系統效能被資料傳輸速率嚴重拖慢的瓶頸現象。
記憶體牆的問題，事實上從35年前的intel 80486 DX2 系列的CPU就已經開始，處理器的速度只好透過晶片內的倍頻技術增加，同時透過晶片裡面多層次的快取來解決外部記憶體速度不足問題。
但AI的創新與架構惡化了這個問題
根據美光在這一次會議發表的研究，確認了這個問題的確在加速惡化中，即使記憶體業者拼命提升HBM改朝換代的速度，仍然不足以跟上AI晶片成長的速度。
記憶體面臨的物理限制
相較於邏輯晶片可以持續向下微縮， 即便JEDEC已經放寬了HBM可以封裝的高度，這表示可以堆疊的層數可以向上提升，這也意味著頻寬可以繼續往上增加，但問題是過多層也導致了散熱問題更加嚴重，這物理的限制恐怕有待半導體業者合作才能解決。
高階記憶體的供給在短期之內仍然無解
上面的研究結論顯示，除非AI的系統（軟體模型與硬體架構）對於token （符元）達到效能停止或是成本停止下降的飽和點，否則記憶體，特別是高階的記憶體用於AI訓練以及推論的HBM，在可見的未來仍然無解。
而同時與HBM競爭消耗晶圓的（LP）DDR5價格恐怕也持續居高不下。
（作者為科技專欄作家）
請先 登入 以發表留言。