Nutanix Agent Gateway 強化代理式 AI 治理與成本控管

Nutanix Agent Gateway作為集中化的前端入口，可協助企業管理代理式AI、大型語言模型（LLM）與企業工具之間的互動，並為AI開發人員與平台團隊提供單一控制點，以統一治理代理程式活動、設定存取政策，並掌握代理式AI部署環境中的token使用情況。

透過整合至NAI解決方案，Nutanix Agent Gateway可協助企業保護代理程式、模型與企業應用程式之間的互動，並在不同AI環境中建立一致的治理機制，讓企業無論是採用託管於公有雲的前沿模型，亦或是自行託管的私有模型，皆能以一致化的方式進行管理與控管。

隨著企業從AI試點階段邁向生產級別的代理式AI部署，自主代理正越來越頻繁地與AI模型、企業應用程式及業務資料互動，以自動化複雜的工作流程。這項轉變也使企業面臨新的挑戰，包括治理機制、存取安全，以及模型使用所衍生的成本控管。

Nutanix台灣總經理劉國龍表示，在亞太及日本地區，我們觀察到AI的導入正以前所未有的速度加快，但多數企業的治理能力仍難以跟上。隨著企業逐步從實驗階段邁向大規模部署代理式AI，企業面臨的核心挑戰也快速轉變，不再僅是模型效能與準確度，而是如何建立足夠的可視性與控管能力，清楚掌握並有效治理AI代理在實際營運環境中的使用方式與行為。Nutanix Agent Gateway正是為回應這項關鍵挑戰而推出，透過為代理式AI建立一致的控制介面，協助IT領導者取得保護、管理並擴展AI代理所需的可視性與治理能力。無論底層模型部署於何處，企業皆能以更高的信心推動代理式AI落地與擴展。

面對上述挑戰，Nutanix Agent Gateway透過集中管理不同模型供應商的token使用可視性，協助IT與平台團隊監控使用情況、分配成本，並更有效掌握AI支出。這項透明度也能協助企業辨識適合轉移至自行託管模型的工作負載，降低對外部服務的依賴，進一步優化成本。

Nutanix Agent Gateway作為連結請求方（AI使用者與代理程式）、AI模型及模型上下文協定（MCP）伺服器的控制層，可針對不同代理程式套用存取控制政策與工具層級篩選機制，協助代理程式能在受治理的環境中安全地存取企業資源。Nutanix Agent Gateway的主要功能包括：

• MCP治理功能：針對MCP伺服器設定細緻的存取控制，協助代理程式安全連結企業工具與私有資料來源。
• 整合式可觀測性：集中掌握token使用量、MCP伺服器存取情況與LLM運作狀態。
• 稽核紀錄：記錄每一筆MCP請求，提供完整稽核軌跡，協助企業落實AI治理。
• 整合式API：透過單一API存取外部供應商模型與自行託管模型，讓開發人員能依不同使用情境選擇合適的模型。
• 細緻的token使用量限制：集中管理token配額與用量限制，並即時掌握所有代理程式與團隊的token使用情況。

Nutanix Agent Gateway協助企業在代理式AI部署中套用一致治理的機制，無論採用公有雲託管模型或自行託管模型，皆能維持一致的管理與控管。IT團隊也能透過整合式方式，統一管理AI環境中的存取政策、治理控制與token使用量。