人工智慧（AI）資料中心的建置瓶頸，正逐漸浮現在機櫃之外。企業即使完成圖形處理器（GPU）採購，仍可能因配電、散熱及資料傳輸能力不足，導致設備無法如期上線。如何讓昂貴的硬體持續產出有效算力，已成為機房擴充與投資評估的核心考驗。
國際能源總署（IEA）2025年《Energy and AI》報告估計，全球資料中心2024年用電量約415太瓦小時（TWh），2030年在基準情境下恐將增至945 TWh。Uptime Institute的2026年全球資料中心調查則指出，常見機櫃功率密度仍緩步增加，但回報峰值達30 kW以上機櫃的業者逐漸增多。整體用電成長與個別機房需求仍有差異，企業須以實際工作負載決定建置規模。
Supermicro台灣區資深副總裁暨總經理劉慶明觀察，傳統機房的電力與熱量分散於多座機櫃，高密度AI設備卻可能集中於單櫃消耗100 kW。即使機房空調足以處理總熱量，也未必能排除局部熱源；供電支路、樓板荷重與網路吞吐能力也可能限制部署。
建負載差異牽動容量規劃
過去企業規劃機房容量，通常依伺服器數量、CPU使用率與歷史業務成長推估設備需求，然而AI工作負載卻具有明顯差異。大型模型訓練要求GPU長時間同步運算，並仰賴高速互連與穩定的資料供給；即時推論則受模型規模、同時請求數、上下文長度及輸入輸出詞元（Token）數量影響。相同的GPU配置，卻可能呈現不同的功率曲線與服務效能。
代理式人工智慧（Agentic AI）又進一步擴大系統負載。單次請求可能觸發多個AI代理執行檢索、推論與API呼叫，CPU、記憶體、網路及儲存須共同承擔工作。若只以GPU數量推算機房容量，容易忽略資料存取與跨節點通訊造成的等待時間。
Supermicro產品管理總經理林振瑋舉例，有客戶變更設備用途後，GPU使用率僅約30%；經重新檢視應用需求並調整儲存方案，使用率提升至90%以上。這是特定案例，卻說明有效算力取決於整體配置。企業應依訓練、批次推論及即時服務建立不同模型，將GPU使用率、每秒詞元產出、首個詞元回應時間、併發請求及網路儲存吞吐量納入評估，再推算尖峰用電與擴充餘裕。規劃時也應區分設備標示的最大功率、實測耗電與業務尖峰負載，保留必要的備援容量，避免將理論規格直接等同實際需求。
配電液冷檢驗機房條件
容量預測必須落實到機櫃與配電支路。林振瑋舉例，有時機房可能還有總供電餘裕，特定區域的配電盤、電纜、不斷電系統（UPS）及備援路徑卻已接近上限。工程盤點還須包括變壓器容量、樓板承重、設備搬運動線、管路空間及冷卻設施的供回水條件，避免設備抵達後才發現現場無法承接。
高密度設備正帶動晶片級直接液冷（DLC）應用，是否採用仍須評估設備熱密度與場域條件。在DLC架構中，冷板貼附於高熱通量晶片，利用循環冷卻液將熱量帶往冷卻液分配單元（CDU），再經熱交換系統排出。林振瑋指出，不同處理器與管路的流動阻力各異，設計時須控制泵浦壓力、支路流量及散熱能力，避免部分元件冷卻不足；接頭可靠性、漏液偵測與異常處置同樣不可省略。冷卻液的材料相容性、腐蝕防護及定期維護，也攸關系統長期可靠性。
既有機房若缺乏設施端供液管路，可評估液對氣（Liquid-to-Air）設備，先將機櫃冷卻液攜帶的熱量轉移到室內空氣，再由原有空調排除。劉慶明表示，這類配置有助於降低既有設施改造幅度，但仍須確認空調總散熱能力與氣流條件，避免熱量在機房內累積。
電力供應也須配合更高的機櫃功率。開放運算計畫（OCP）2026年持續推動800V直流配電（800 VDC）技術框架，討論利用既有交流配電加裝列旁轉換設備，以及中壓交流電直接轉換為800V直流的架構。較高配電電壓可降低相同功率下的電流與部分導體需求，但轉換效率仍取決於整體設計，直流故障保護、電弧風險及設備相容性也必須驗證。
能源監測支撐持續擴充
台達能源基礎設施事業群副總裁暨總經理趙華春指出，AI設備用電規模擴張且負載變動快速，供電韌性、效率與部署時程須一併考量。現地發電、儲能系統（ESS）及微電網（Microgrid）可提供額外供電與調度選項，但能否彌補電網容量缺口，仍取決於發電設備的持續供電能力、燃料供應、儲能容量及場域許可等條件。
機房完成建置後，容量模型還須利用營運數據持續校正。資料中心基礎設施管理（DCIM）可彙整機櫃配電、溫度、冷卻液流量與設備狀態，再結合IT工作負載監測，協助判斷運算資源閒置是否源於GPU、儲存、網路瓶頸，或供電及散熱限制。數位孿生（Digital Twin）則可模擬增設機櫃後的電力分配與熱流變化，輔助擴充決策。
評估績效也需要區分能源效率與運算產出。電力使用效率（PUE）能衡量資料中心總用電相對於IT設備用電的比例，卻無法反映每單位電力能產出多少有效推論或訓練成果。企業還須追蹤GPU利用率、服務延遲、每秒詞元數及每單位工作負載成本，避免單一指標掩蓋效能問題。
在部署流程上，預先完成機櫃配線、冷卻元件整合與叢集驗證，可縮短現場安裝與除錯時間。林振瑋指出，模組化設計讓工程團隊能在機房施工期間同步組裝及測試設備，但實際上線仍取決於現場電力、冷卻和網路介面是否備妥。面對AI硬體快速更新，IT與機電團隊必須共同維護容量預測、介面規格與擴充計畫，才能將採購設備持續轉化為穩定可用的算力。