A10 Networks AI基礎架構 AI Large language models 大型語言模型 LLM

協助打造高效能且安全的AI與LLM推論環境

A10 Networks 展示 AI 基礎架構的安全性、韌性與效能實力

2025-06-10
全球企業正在加速部署新一代人工智慧AI的應用,並建置AI就緒的資料中心,以實現自動化並提升營運效率。這些創新應用都需要超高效能的AI與大型語言模型(LLM)推論環境來提供即時回應,以及新的網路安全解決方案來保護這些關鍵基礎設施。

全球各地的組織正在快速部署新的AI應用,並建立新的AI就緒資料中心,以實現組織自動化和卓越營運。這需要超高效能的AI和LLM推理環境來提供即時回應,以及新的網路安全解決方案來保護它們。

為了協助企業建構與防護AI環境,A10 Networks將於日本東京Interop Tokyo「AI走入現實」大會中,展示全新的AI防火牆與預測性效能技術。

防範、偵測與緩解AI與LLM層級的網路威脅

A10宣布推出全新AI防火牆功能,可部署於公開大型語言模型的API或URL前端,既可以作為自訂LLM,也可以基於OpenAI或Anthropic等商業解決方案開發。此防火牆基於針對邊緣運算最佳化的架構,並搭載GPU加速硬體,能以高效能方式保護LLM,且可靈活部署於各類基礎架構中,作為一項增強型的安全功能。

這些功能可協助企業預防、偵測並緩解AI層級的威脅,使用戶能針對已知漏洞測試其AI推論模型,並透過A10專利的LLM安全防護技術予以修正。該功能能針對Prompt級別的請求與回應流量進行檢測,有效辨識如提示注入(Prompt Injection)與敏感資訊外洩等威脅,並執行必要的安全政策來進行防護。

為AI與LLM推論環境提供即時體驗與效能保障

A10持續致力於為AI與LLM驅動的應用提供高效能與高可用性。透過卸載如TLS/SSL解密、快取管理、流量路由最佳化等資源密集型任務,A10解決方案可大幅提升網路可用性與效能,並提供可行的洞察以供營運決策。

最新功能更具備類似預警系統的能力,能提前偵測網路效能瓶頸與潛在擁塞,協助用戶在問題擴大前主動調整,預防非計劃性的停機,並優化整體網路規劃與效能管理。此預測性效能分析功能運行於搭載GPU的A10設備上,能高速處理海量資料,並提前分析異常情況,提供即時洞察。

新功能可以提前檢測網路效能問題,就像一個早期預警系統。這有助於識別近期的擁塞或容量不足,幫助客戶在問題變得嚴重之前採取主動行動。這些功能有助於防止非計劃性停機,並規劃最佳網路效能。預測效能將在搭載GPU的A10裝置上運行,從而實現更快的處理速度,並能夠快速分析大量數據,提前洞察異常情況。

這些AI安全與基礎架構能力相輔相成,讓管理更為簡易,威脅偵測更具智慧與準確性,進一步協助企業提供最佳的使用者體驗。

A10 Networks總裁兼執行長Dhrupad Trivedi表示,企業正以前所未有的速度在本地或雲端環境中部署並訓練AI與LLM推論模型,這也帶來延遲、安全與操作複雜度等三大挑戰。A10擁有逾20年保護與優化應用交付的專業經驗,現正擴展解決方案,提供AI與LLM基礎架構所需的高韌性、高效能與高安全性支援。


追蹤我們Featrue us

本站使用cookie及相關技術分析來改善使用者體驗。瞭解更多

我知道了!