AI伺服器記憶體競爭正從HBM延伸至完整Memory／Storage Hierarchy。Kioxia 9月3日舉行技術說明會，提出AI時代NAND策略，依照不同工作負載配置低延遲XL-FLASH、TLC與高容量QLC，並透過CXL記憶體擴充與GPU近接SSD，讓Flash從傳統資料儲存逐步靠近運算核心。
背後關鍵在於AI工作負載正在改變。大型模型進入多模態、RAG與Agentic AI後，Token化、索引及向量資料可能讓實際處理資料集大幅膨脹；全部放在成本較高的HBM與DRAM並不實際，因此需要不同速度、容量與成本的儲存層分工。Kioxia將需求分成Archive、大規模資料Ingest、Training／Inference及NVIDIA Storage-Next四類。
其中，LC9系列採用2Tbit QLC，單顆SSD最高容量達245.76TB，鎖定Data Lake與Vector Database；CM系列支援訓練、推論及Context Cache；更靠近GPU的GP1則採第二代XL-FLASH與PCIe 6.0，支援GPU直接存取，512-byte隨機讀取最高可達1,000萬IOPS，目的在縮小DRAM與傳統NAND之間的延遲落差。
AI儲存不只HBM，CXL與高速SSD形成第二記憶體層。
|
市場需求也開始反映這種轉變。Counterpoint資料顯示，2026年第2季伺服器eSSD已占NAND總Bit出貨量48%，主要受到AI推論、KV Cache與大型資料集需求推動導致新況。
AI記憶體架構因此可能由單純「GPU＋HBM」進一步形成HBM→DRAM／CXL→低延遲Flash→大容量SSD的多層結構。對控制器、PCIe／CXL、企業級SSD與NAND供應鏈而言，AI推論正在開闢HBM之外的第二個記憶體戰場。
