生成式AI近年已成為企業提升效率的關鍵，同時也為企業的營收成長帶來許多意想不到的可能性。正因如此龐大的潛力，市場上湧現無數AI代理，各國政府無不加緊腳步建立法律框架，避免AI代理邁向失控。然而，在這些規範正式成為法律之前，企業需要更主動地先行規劃自己的AI策略，建立一套能涵蓋整個技術版圖的集中式治理架構。
筆者建議，要在組織中有效管理AI，企業必須建立一個集中式治理的委員會，由關鍵決策者共同參與。委員會應包含所有涉及AI的事業單位與各項企業管理功能的領導者，以制定一套明確的框架為目標，涵蓋AI安全與資安的核心原則，包含明確辨識風險、補救措施，以及進行安全評估所需的工具。尤其政府部門與高度受監管的產業，面對的合規壓力最大，更需要及早訂定可行的AI安全策略。
由於AI若被部署在各自的平台上，將難以維持長期一致的治理，因此混合多雲基礎架構便顯得格外關鍵。跨平台的資料安全監控必須整合進這套架構中，並搭配勒索軟體防禦機制，以及即時偵測異常行為的能力。這也是Nutanix長期強調的核心價值：以簡化的操作模型，協助企業在本地與公有雲之間維持一致的安全與治理，確保資料主權與合規要求。
目前最成熟、影響力也最廣的監管AI法規，莫過於《歐盟人工智慧法案》（EU AI Act），其中禁止AI行為的第5條已於2025年2月正式生效，不過這些禁令主要針對惡意行為者，例如利用潛意識技術（Subliminal techniques）侵犯使用者基本權利、未經授權蒐集人臉影像等。雖然台灣尚未有專屬AI法規，但企業必須提前以國際高標準自我要求，並確保跨境資料流動符合在地法規（如《個人資料保護法》），以維持全球供應鏈信任。
企業若要完整管理AI代理的生命週期並確保其安全，必須具備從大型語言模型、向量資料庫，到底層的AI基礎架構等的多層次能力。在新標準、新基準測試、新法規不斷出現，加上AI工程師與管理人才難以大量招募的情況下，能否快速調整與配適，將成為影響企業未來長期競爭力的一大關鍵。
＜本文作者：劉國龍現為Nutanix台灣總經理＞