Dell PowerEdge GPU 伺服器 生成式AI AI

搭建深度神經網路運算力 Dell PowerEdge全就緒

迎接生成式 AI 浪潮 Dell 高密度 GPU 伺服器助攻

2023-06-12
基於深度學習模型的生成式AI(Generative AI)因ChatGPT應用迅速爆紅,各行業也積極探索AI應用可創造的價值,進而推升高效運算伺服器需求劇增。戴爾科技集團日前發布新一代Dell PowerEdge GPU加速型伺服器系列,便是專為AI應用設計的產品,包括高階的PowerEdge XE9680、中階的PowerEdge XE9640/XE8640,以及專攻主流應用的PowerEdge R760xa,可讓不同企業類型選用,以協助企業加速數位化轉型。

戴爾科技集團資深技術顧問黃敏俊引述市調機構IDC於2022年第四季發布的預測,全球伺服器市場2022年到2023年的成長將持平、甚至是負成長。然而,IDC另一份針對加速型伺服器(Accelerated Server)的調查報告卻大不相同,加速型伺服器到2026年預期將以20.6%的年複合成長率攀升。他進一步說明,所謂的加速型伺服器,指的是搭載GPU、FPGA或ASIC的伺服器。其中,搭載GPU的伺服器佔比就高達九成之多。

過去專用於處理圖形和影像相關運算的GPU獨立顯示卡,常用來運行圖形渲染、影片編碼解碼、深度學習、大型矩陣計算等。隨著運算處理需求與日俱增,僅憑一張GPU卡已不敷使用,可能需要兩張甚至更多的GPU卡片,應用高度平行運算(Parallel Computing),彼此間通過 NVLink進行直接溝通與協同工作,突破主機板上PCIe介面的資料傳輸頻寬限制。

Dell高階的PowerEdge XE9680機型,最大的特點是可以同時插入8個GPU,並且8個GPU之間可透過NVLink技術相互溝通,從而實現極高的運算效率。此外,該機型還採用了第4代Intel Xeon  可擴充處理器、PCIe Gen 5、DDR5、NVMe Gen 5等最新技術,並且還搭載了Dell自主研發的風冷散熱技術、高度的安全性、優化開機專用的BOSS卡,以及最新的PowerEdge RAID控制器(PERC)12系列,增加支援24 Gbps SAS傳輸速率等機制。

至於中階的PowerEdge XE9640和XE8640機型,可搭載4個GPU,兩者主要差異是散熱方法不同。XE9640特點在於採用直接水冷方式散熱,即使在標準2U的硬體尺寸也能保持出色的散熱效果。而XE8640則使用空氣冷卻技術,同樣能保證達到良好散熱效果。

黃敏俊指出,當GPU卡板擴充到4片,彼此協同合作的複雜度會相當高。以輝達的技術為例,若主機板上插滿4張GPU卡,讓每張GPU相互透過NVLink直接連接與溝通,伺服器機箱內部的空間也需要重新設計,才可發揮高效運算能力。

適用於主流應用的R760xa機型,也可擴充到4個GPU,不過透過NVLink Bridge,只能2個GPU間彼此溝通。主機板的PCIe插槽幾乎可支援所有廠牌GPU,例如Intel,可依據整合應用需求挑選最合適的方案。

值得一提的是,PowerEdge伺服器的安全機制在出廠時就已內建,並且已融入到產品生命週期的每個部份,而不是部署完成後才增添防護機制。因應企業積極推展IT環境引進零信任控管模式,PowerEdge伺服器內建矽晶片信任根與安全元件驗證(SCV),防範未經授權人士存取或竄改,完整確保產品從設計到交付過程的供應鏈安全,以及端至端開機韌性與後續維運的安全。

要落實AI應用需要龐大的運算能力,而Dell PowerEdge GPU加速型伺服器是企業的最佳選擇之一。內建絕佳效能的第4代Intel Xeon可擴充處理器和強大的GPU,能加速許多AI工作負載,例如機器學習、深度學習和自然語言處理,幫助企業實現更快、更準確的決策,並取得競爭優勢。


追蹤我們Featrue us

本站使用cookie及相關技術分析來改善使用者體驗。瞭解更多

我知道了!