生成式AI持續推升GPU叢集規模,也讓AI資料中心的瓶頸逐漸轉向如何充分使用算力。當數百、數千顆GPU並行運算,資料能否快速傳輸、熱能能否有效帶走,以及能源能否妥善管理,將共同決定有效算力與擴充能力。
大型AI模型訓練與推論仰賴GPU之間的東西向資料交換。叢集擴大後,參數同步與分散式傳輸增加,一旦網路壅塞,GPU便可能等待資料。資料中心網路由400G、800G邁向1.6T,目的在於降低傳輸瓶頸。佳世達集團明泰科技已布局採用Broadcom Tomahawk 6晶片的64埠1.6T OSFP交換平台,並強化跨介質、跨廠牌互通與可靠度驗證。真正的競爭門檻,仍是能否縮短驗證與量產週期,讓高速網路穩定進入客戶環境。
運算與網路密度提高,也同步推升功耗與熱負載。明泰在1.6T平台導入100%全水冷設計,讓設備能在高密度環境維持穩定效能。然而,液冷牽涉水路、水溫、水流、水壓及漏液監控,也涉及組裝、氣密測試與長期維運,必須在產品開發初期整合考量。網路設備、伺服器、冷卻與機房供電相互影響,局部節能未必代表整體效率最佳。企業仍須兼顧總能耗、系統可靠度及設備擴充後的長期營運成本。
隨著單櫃功率密度提高,AI基礎設施的最佳化單位也由伺服器延伸至機櫃與整座資料中心。運算、網路頻寬、電力配置、冷卻及監控維運需要共同規劃,才能兼顧資源利用率、可靠度與後續擴充。
開放乙太網路生態也正在成形。明泰以64×1.6T平台參與OCP Global Summit的Tomahawk 6生態展示,反映跨平台、跨供應商協作與驗證的重要性。對台灣供應鏈而言,產品共研、系統驗證及新平台導入能力,將成為高效率製造之外的競爭優勢。
佳世達集團將明泰高速網路納入AI基礎設施布局,整合AI伺服器、網路、電力、先進液冷與機櫃整合能力,協助客戶降低部署複雜度。1.6T是系統級最佳化的重要起點,未來競爭力取決於能否讓算力轉化為可部署、可擴充且能持續營運的基礎設施。
<本文作者:柯淑芬現為佳世達集團總經理>
