人工智慧（AI）已重新定義資料中心的設計版圖，同時也將資料處理與儲存的效能、複雜度與成本推向歷史新高。儘管GPU、CPU與AI加速器往往佔據新聞頭條，儲存領域也正經歷一場屬於自己的變革。不僅涵蓋該如何配置與最佳化，更延伸至其在資料中心機櫃中的部署位置。
NAND快閃記憶體（Flash）是這場討論的核心，因為它藉由建構高密度、非揮發性的資料路徑，協助支援AI模型訓練、資料管道處理與推論作業。eSSD（企業級SSD）尤其如此，這類以NAND為基礎的企業級固態儲存硬碟，能提供當今超大規模運算環境所需的資料密度、可靠性、傳輸量與耐寫度。
在此發展階段，資料中心的eSSD正演化出兩條截然不同的分支。第一條分支是運算最佳化型eSSD，緊鄰GPU運作，滿足高效能工作負載對大型資料集的高速、低延遲存取需求，同時也需處理呈指數成長的鍵值快取（KV Cache）容量，兼顧大量儲存與運算層級的效能表現。第二條分支則是容量最佳化型eSSD，專門支援為GPU大規模饋送資料的高密度資料湖，能在龐大資料儲存量與快閃記憶體的速度、可靠性之間取得最佳平衡。這兩種新興的NAND快閃記憶體儲存層級，正逐漸成為AI基礎設施不可或缺的根基。
全新的設計挑戰：AI時代的資料分層
傳統的資料中心設計採用較為單一的儲存架構，以NAND為基礎的eSSD同時支援延遲敏感型與通用型的儲存需求。然而，隨著當今AI資料管道的工作負載型態愈趨多樣，這種統一性已不再適用，因此對資料中心架構師而言，挑戰已從「如何部署資料」擴大為「如何為資料分層」。
這是因為AI工作負載橫跨多個階段，從資料擷取、前置處理，到模型訓練與推論，每個階段對效能與容量的要求皆不相同。以AI模型訓練為例，需要持續穩定的傳輸量以及對大型資料集的平行存取能力；而推論則會觸發較零散的存取模式，通常需要更小、更頻繁的讀取，並著重於資料上下文保留。這使得新的配置方式必須同時支援高效能儲存與大規模儲存，且往往需要在同一套部署架構中並存。
這場演變也體現在實體層面上，儲存不再侷限於單一位置。延遲敏感型資料最好貼近運算端存放，容量密集型資料則可分解（Disaggregated）並重新分割。在部分部署情境中，例如遠端網路儲存，資料甚至可以移出運算端所在的即時運算區域之外。
在這樣的情境下，資料中心工程師不僅是在建構系統，更是在定義並指派全新的資料儲存拓樸架構。他們必須決定哪些資料應貼近運算端存放、哪些資料應安置於其他位置，以及各儲存層級在實際工作負載下該如何協作。
鄰近運算的eSSD是饋送GPU的關鍵
鄰近運算的NAND快閃記憶體，一般稱為運算型（Compute）eSSD，運作位置緊鄰高價值的GPU與加速器，且擁有可透過繞過CPU與系統記憶體直接存取的技術。這類儲存裝置經過最佳化，具備低延遲、高讀寫速度（IOPS），能在高並行負載下維持穩定效能，可支援模型載入、檢查點儲存與推論快取等應用情境；在這些情境中，延遲會直接影響系統的整體傳輸量。
隨著存取模式逐漸轉向更小的資料單元與更頻繁的查詢，AI工作負載正進一步推升這些需求。運算型eSSD以同一套裝置架構同時滿足兩種截然不同的應用情境，應對市場對更細微、更即時儲存方案的需求。運算型eSSD最初主要用於處理AI模型訓練的資料管線與檢查點儲存功能。然而，隨著推論與代理式AI日益普及，加上模型與參數規模急遽膨脹，第二種應用情境隨之浮現，也就是鍵值快取卸載。如今，鍵值快取已成為NAND快閃記憶體在AI資料中心裡最大的成長機會之一。
這正是運算最佳化型NAND常被形容為「記憶體階層的延伸」的原因。它扮演著卸載鍵值快取大容量儲存池的角色，填補DRAM與傳統儲存之間的空位，讓AI基礎設施得以突破封裝內記憶體的實體限制，而得以擴展上下文視窗。
高容量NAND快閃記憶體：擴展資料湖
在光譜另一端，高容量NAND快閃記憶體支援了AI資料湖的快速成長。AI本身未必會創造出新的資料類型，但確實改變了資料的存取方式。AI訓練通常需要高速存取整個資料集，而非僅查詢資料的子集，這也促成了「高速」資料湖的興起。在這類環境中，傳輸量及可存取性與容量本身同等重要。
高容量eSSD針對儲存密度與效率進行最佳化，其價值的衡量較不取決於延遲指標，而更側重於每單位功耗能儲存與傳輸的資料量。這使得容量最佳化型eSSD特別適合成本、空間與能源預算都相對吃緊的大規模「冷」儲存環境。
然而，在某些情境下，資料存取頻率的提升正逐漸讓冷儲存「升溫」。此時，相較於結合快閃記憶體與硬碟的傳統分層儲存架構，採用全快閃儲存方案更能滿足資料存取需求。這類情境中，NAND密度的技術進展正在改變整體格局，讓以快閃記憶體為基礎的資料湖，能夠在大規模應用下兼顧容量與效率。
QLC NAND與規模經濟
NAND快閃記憶體，尤其是QLC NAND，是這場資料中心轉型的核心。QLC每個儲存單元可容納4個位元（和16個電壓狀態），因此能大幅提升儲存密度。雖然其效能不及部分高階NAND產品，但其價值在於，在大規模應用下能以更低的每位元成本提供更佳的能源效率。
這使得QLC成為容量最佳化型儲存的理想選擇，讓資料中心得以將多顆硬碟整合為單一快閃儲存裝置，同時降低實體空間佔用與電力消耗。
QLC也讓記憶體階層得以更精細地劃分。架構師不必再仰賴單一儲存類型，而是能將不同等級的NAND分配給不同工作負載，高效能NAND可保留給緊鄰運算端的任務，而QLC儲存則可支援資料湖與大量儲存需求。
專為功耗、密度與大規模而設計
AI基礎設施受到的限制愈來愈不僅限於空間而已，功耗同樣是關鍵因素。隨著GPU叢集規模不斷擴大，每一瓦電力都成為至關重要的資源。
這也改變了儲存方案的評估方式。效能依舊重要，但能源效率如今已成為首要考量。許多情況下，資料中心優先選擇的儲存方案，是能在每瓦電力下提供最大容量或頻寬的方案，而非追求絕對效能的最大化。
密度是另一項關鍵考量。NAND技術與封裝技術的進步，有助於在相同空間內大幅提升容量，讓資料中心得以擴展儲存規模，而無須等比例增加功耗與散熱負擔。
然而，這些優勢也伴隨著新的規劃考量。設計者必須審慎權衡如何配置儲存資源、如何隨時間擴展規模，以及如何與既有基礎設施整合。「配置不足」仍是常見的挑戰，尤其是當成長幅度遭低估、擴充路徑又未明確規劃時，情況更為棘手。
重新思考AI資料中心的記憶體階層
運算與容量最佳化型NAND快閃記憶體的出現，反映出資料中心規劃正經歷更廣泛的轉型。
儲存不再只是單純保存資料的被動層級，而是會透過影響運算資源的使用效率，以及AI工作負載的擴展成效，進而決定整體系統效能。
這股趨勢促使業界重新評估資料中心的記憶體階層，新階層架構應著重於運算鄰近性、工作負載對齊與資料移轉，而非仍依循傳統的儲存模式。同時，思考重點也從「該部署多少儲存容量」，擴大為「該將儲存部署在何處」。
隨著AI持續演進，能夠挑戰現狀、明確擬定「近運算儲存」與「高容量儲存」兩種策略的架構師，將更有能力打造出兼具可擴充性與效率的資料中心基礎設施。
＜本文作者：Mrinal Kochar現為Sandisk工程資深副總裁＞