企業AI投資升溫 虛擬容器治理成關鍵

近年企業積極推動AI專案,如何選擇適合的運算平台,也成為IT部門必須面對的課題。既有虛擬化環境能夠承接部分AI工作負載,但當應用逐步進入正式營運,GPU資源配置、資料保護與跨平台管理等需求,也更加考驗基礎架構的支援能力。

根據Nutanix委託DIGITIMES進行的調查,74%台灣受訪企業正在規劃或推動AI專案,但有65%尚未正式導入Kubernetes。這項結果顯示,AI投資與容器平台的採用程度並不同步,企業仍須依應用特性,評估虛擬機與容器的部署分工及長期維運需求。

Nutanix台灣暨香港總經理劉國龍表示,企業面對新技術時,往往需要時間評估其成熟度、導入成本與管理風險。過去虛擬化與雲端運算普及過程中,也曾經歷類似階段。如今企業普遍接受虛擬化,雲端部署也逐漸依據工作負載需求,選擇適當的部署環境。

他指出,AI與Kubernetes同樣面臨技術採用的轉換期。企業除了評估技術效益,也必須考慮既有應用、資料保護與IT人員的管理能力。若每導入一項新技術,就建立獨立的基礎架構及管理工具,容易增加維運成本與技術負擔。因此,Nutanix強調統一平台策略,希望同時支援傳統企業應用、虛擬化、容器及AI工作負載,減少企業額外建置獨立環境的需求。

虛擬容器並存考驗管理

Nutanix台灣暨香港技術總監何與暉指出,Kubernetes具備容器調度、服務擴充及自動化部署能力,搭配相關管理元件,也能協助企業監控GPU使用情況、配置運算資源,適合需要頻繁更新、彈性擴充的AI應用。但企業未必需要將所有AI工作負載移往Kubernetes,部分推論、資料處理及依賴特定作業系統的應用,仍可沿用虛擬機器(VM)。

他認為,企業可依應用特性決定部署架構。對於變更頻率低、需要維持既有管理流程的核心系統,虛擬機仍具優勢;若應用涉及多個微服務(Microservices)、頻繁更新及API串接,Kubernetes則有助於管理服務生命週期。隨著兩種架構長期並存,IT部門必須同時掌握不同平台的維運機制。

其中一項挑戰來自跨團隊協作。何與暉舉例,AI開發團隊熟悉模型、CUDA與GPU調校,IT維運人員則擅長伺服器、儲存、網路及虛擬化管理。當AI團隊提出Kubernetes環境需求,IT部門還須評估資源配置、身分權限及機敏資料保護,雙方若缺乏共通的管理流程,容易增加部署與後續維護的複雜度。

除了跨團隊協作,企業也關切Kubernetes能否達到既有虛擬化平台的可靠性。Kubernetes具備工作負載自我修復與重新排程能力,但完整的應用備份、資料複寫及跨機房切換,仍須整合相關工具,才能滿足企業高可用性與災難復原需求。

資料保護決定營運韌性

針對虛擬機與Kubernetes長期並存的需求,Nutanix採取統一平台策略。Nutanix Cloud Infrastructure(NCI)與AHV主要承接傳統虛擬機及企業核心應用,Nutanix Kubernetes Platform(NKP)則提供Kubernetes叢集生命週期與雲原生應用管理能力,讓企業依工作負載特性選擇部署方式。

NKP可透過Cluster API與GitOps等機制,將叢集建立、版本升級及設定管理流程標準化,並支援多叢集管理、角色型存取控制(RBAC)、監控及日誌整合。對於分布於地端、邊緣及公有雲的Kubernetes環境,企業可建立一致的政策與管理流程,同時保留不同叢集的配置彈性。

何與暉指出,Kubernetes進入正式營運後,更需要重視部署後維運(Day-2 Operations)。企業完成叢集建置,後續仍須持續處理作業系統與Kubernetes版本升級、弱點修補、容量調整、監控告警及故障復原。尤其當應用分布於多個叢集,版本差異與管理工具增加,都可能提高維運成本,平台能否提供標準化流程,將直接影響管理效率。

資料保護則是另一項重要課題。例如檢索增強生成(RAG)涉及文件資料、向量資料庫及模型服務,企業必須確保資料在備份、還原或故障切換過程中維持一致性。他說明,Kubernetes原生機制可以在容器或節點故障時重新排程工作負載,但完整的應用備份、資料複寫與跨站災難復原,仍須透過其他元件支援。尤其有狀態應用除了持久性儲存(Persistent Storage),還涉及命名空間(Namespace)、應用設定及相關資源,僅備份磁碟資料,未必能完整恢復應用服務。

對此,Nutanix Data Services for Kubernetes(NDK)可提供有狀態應用的資料保護與災難復原能力。NDK 2.0支援檔案與區塊儲存的同步及非同步複寫,以及計畫性與非計畫性故障切換。企業仍須依應用特性、網路條件及複寫架構,評估復原時間目標(RTO)與復原點目標(RPO),並定期驗證還原程序。

除了資料保護,AI工作負載也提高運算與儲存資源協調的要求。何與暉認為,企業需要同時考量GPU配置、模型資料存取、儲存效能與網路傳輸,避免資源之間的效能落差影響AI服務。尤其模型、訓練資料及向量資料庫可能分布於不同環境,如何維持資料可用性與一致的存取政策,也將影響應用擴充能力。

劉國龍表示,企業未來將持續依照應用特性,在地端、雲端及不同運算平台之間選擇部署方式。透過一致的基礎架構與管理原則,企業可保留既有虛擬化投資,同時逐步導入Kubernetes及AI應用。何與暉則強調,當AI進入正式營運,平台的價值將取決於能否長期維持安全、穩定與可管理性,讓新興應用與既有核心系統共同運作。

Nutanix台灣暨香港總經理劉國龍(左)與台灣暨香港技術總監何與暉(右)指出,企業導入AI應兼顧虛擬機與容器管理,並完善資料保護、災難復原及長期維運機制。