戴爾 生成式人工智慧 生成式AI Generative Artificial Intelligence AMD

最廣泛的生成式AI解決方案產品組合

戴爾推生成式 AI 開放生態系統 搭載 AMD Instinct 加速器

2023-12-10
生成式AI是近十年最受矚目的創新加速器,78%的IT決策者表示期待生成式AI在企業中發揮潛力,將生成式AI視為提高生產力、簡化流程及節省成本的方式。善用此技術對於身處數位時代的企業來說非常重要,有助於在競爭激烈的環境中佔有一席之地。

如何因應激增的資料量及善用資料,為現今AI領域的核心問題。最重要的目標是確保企業能掌握運算能力,作為加速創新的引擎。Dell與AMD合作,為企業提供更多支援AI和生成式AI工作負載的選擇。

Dell PowerEdge XE9680搭載AMD Instinct MI300X讓生成式AI更普及

Dell PowerEdge XE9680為戴爾至今增長速度最快的解決方案,支援即將推出的AMD Instinct MI300X加速器,提供企業更多AI效能相關選擇。Dell PowerEdge XE9680搭載AMD Instinct MI300X,透過高效能解鎖企業數據價值,並運用客製化大語言模型(LLM)於產業中脫穎而出。

搭載8個MI300X GPU,每個GPU皆配備192GB的5.3 TB/s高頻寬記憶體(HBM3),每個伺服器都有一致的HBM3容量達1.5 TB,以及超過21 petaflops的FP16算力峰值(每秒千萬億次浮點運算),讓生成式AI被企業普及使用,協助訓練更大的模型、減少數據中心佔地面積、降低總體擁有成本,並獲得競爭優勢。

透過Dell Validated Design for Generative AI with AMD,企業更易部署可信任的生成式AI平台

戴爾亦宣布Dell生成式AI解決方案的進一步計劃,全新Dell Validated Design for Generative AI with AMD協助企業更易部署可信任的生成式AI。拓展Dell生成式AI解決方案生態系,並將加入開源大語言模型。AMD ROCm可做為AMD Instinct加速器的開源驅動程式堆疊、開發工具組及API。透過Dell Validated Designs for Generative AI將能更簡單地客製可信任的生成式AI平台,消弭整合、效能和規模等考量因素的不確定性。

Dell PowerEdge XE9680不僅效能強大,其安全與簡易性更為同級中最出色。藉由Dell Open Manage Enterprise軟體簡化和加速生成式AI基礎架構的部署,並透過CloudIQ軟體達到智慧自動化。Dell PowerEdge XE9680更整合網路復原功能和一系列Zero Trust提升安全性。

Dell PowerEdge XE9680藉由以8個AMD Instinct MI300X加速器運作的AMD Instinct Infinity平台,實現近線性的規模擴充與低延遲分散式的生成式AI訓練及推論。藉由橫跨PowerEdge伺服器叢集的全域記憶體互聯(xGMI),並透過乙太網路為基礎的AI結構連結MI300X GPU,使用經戴爾驗證的GPU結構和Dell PowerSwitch Z9664F-ON。

身為超級乙太網聯盟(UEC)的一員,戴爾致力提倡基於標準的網路。戴爾擁有獨特優勢,可以在生成式AI解決方案(運算、結構和儲存)中運用開放式方法充分發揮潛力。


追蹤我們Featrue us

本站使用cookie及相關技術分析來改善使用者體驗。瞭解更多

我知道了!