AWS 生成式人工智慧 生成式AI Generative Artificial Intelligence 中華電信

AWS 加速生成式 AI 應用與創新

2024-01-12
AWS re:Invent 2023 re:Cap雲端科技發表會台灣站邀請到AWS技術長Olivier Klein蒞臨台灣,與AWS台灣暨香港專業解決方案架構師總監楊仲豪一同剖析AWS發布的新服務,以及AWS如何以前瞻生成式AI技術重塑工作方式,幫助企業加速創新,並助力台灣企業在科技革命中穩固立足。作為AWS合作夥伴,中華電信資訊技術分公司副總經理林仲鑠也親臨現場,分享如何運用AWS的生成式AI打造創新應用,提升員工效率並激發創造力。

!此為分頁標誌前台不顯示!

自研晶片、儲存、無伺服器的持續創新

  1. Graviton4晶片:與前一代Graviton3處理器相比,Graviton4效能提升高達30%,獨立核心增加50%以上,記憶體頻寬提升75%以上,為在Amazon Elastic Compute Cloud(Amazon EC2)上運行的工作負載提供最佳效能。Amazon EC2 R8g記憶體優化執行個體將採用最新的Graviton4,提升客戶運行高效能資料庫、記憶體緩存、大數據分析等工作負載的效率。
  2. Trainium2晶片:專為以高效能訓練具有數萬億個參數的基礎模型和大型語言模型打造的Trainium2與第一代Trainium晶片相比,效能提升多達4倍,記憶體提升3倍,能源效率(每瓦效能)提升多達2倍。Amazon EC2 Trn2執行個體採用最新的Trainium2,一個單獨執行個體包含16個Trainium加速晶片。Trainium2執行個體致力於為企業在新一代EC2 UltraClusters中擴展多達100,000個Trainium2加速晶片,並與AWS Elastic Fabric Adapter(EFA)PB級網路互連,提供的產能高達65 exaflops,企業可按需獲得超級運算級別的效能。
  3. Amazon S3 Express One Zone正式可用:與Amazon S3 Standard相比,Amazon S3 Express One Zone資料存取速度提高至多10倍,資料請求成本降低50%,為機器學習訓練和推論、互動式分析以及媒體內容創作等密集型工作負載提供最高效能儲存。
  4. 三項無伺服器服務創新:AWS致力於幫助企業在任意規模分析和管理資料,並大幅簡化營運,而無需花費時間和精力去配置、管理和擴充基礎設施。Amazon Aurora Limitless資料庫可跨多個Amazon Aurora Serverless執行個體自動分配和查詢資料,並能夠擴充到每秒百萬次的寫入並管理PB級數據。Amazon ElastiCache Serverless可以幫助客戶在一分鐘內創造高可用的緩存,並即時進行垂直和水平擴充,以支援企業複雜的應用程式,且無需管理基礎架構。Amazon Redshift Serverless則使用人工智慧預測工作負載,並自動擴充和優化資源,幫助企業實現高性價比的目標。

追蹤我們Featrue us

本站使用cookie及相關技術分析來改善使用者體驗。瞭解更多

我知道了!