生成式AI(GenAI)、代理型AI(Agentic AI)與大型語言模型(LLM)等技術快速演進,正在重塑企業營運模式與資安風險樣貌。這些創新工具固然能驅動自動化營運與智慧決策,但也同步引爆新型攻擊手法與潛在風險,包括擬真度極高的釣魚信件、深偽內容、模型汙染、Prompt Injection、甚至具自主行為的惡意AI代理程式。資安攻防的主場景,已從傳統架構轉向以AI為核心的高度互聯生態,企業若未能同步調整治理體系,恐將落入無法即時應對複合型攻擊的困境。
在這波AI帶動的浪潮中,資安業界普遍將「Security for AI」與「AI for Security」並列為核心戰略方向。Security for AI針對AI本身的防護,強調模型存取權限、資料邊界控制、輸入輸出稽核與資料污染防範;AI for Security則導入AI強化威脅偵測、異常行為分析、攻擊模擬與自動化事件處理,期望以AI驅動資安營運模式的根本革新。許多解決方案已進一步融合檢索增強生成(RAG)技術、數位孿生模擬、風險預測演算法與AIOps平台,逐步建構出以AI為主體的資安防禦節奏與治理邏輯。