隨著AI模型參數從千億邁向萬億,單一伺服器的記憶體容量已無法滿足需求。CXL(Compute Express Link)技術應運而生,成為AI資料中心記憶體池化的關鍵解決方案。
什麼是CXL?
CXL是一種開放標準的高速互連協議,基於PCIe物理層,支援CPU與加速器、記憶體擴充裝置之間的高效數據傳輸。CXL 3.0版本支援記憶體共享與池化,多台伺服器可共享同一記憶體池。
CXL的三種協議
- CXL.io:基於PCIe的I/O協議,用於設備發現與配置
- CXL.cache:支援加速器快取CPU記憶體,降低存取延遲
- CXL.memory:支援CPU直接存取加速器記憶體,實現記憶體擴充
應用場景
三星、SK海力士等記憶體大廠已推出CXL記憶體模組,可將DRAM擴充至數TB容量。在AI訓練場景中,CXL可實現多GPU共享記憶體池,解決大模型記憶體不足問題。
業界預估,CXL市場規模將從2025年的10億美元成長至2030年的100億美元,成為AI資料中心基礎設施的重要組成。