九成決策者憂攻擊面擴大　導入AI先做好風險管理

人工智慧（AI）從根本上改變了現代世界。它為企業領導人提供了前所未有的機會來預測市場趨勢並做出更好的決策，讓企業能夠聰明地將單調的流程自動化，讓人力用更多時間從事更有價值的工作，企業甚至可透過創新的新產品與服務，以高度個人化的方式服務客戶。

AI也有助於網路防禦方以全新的方式搶先對抗敵人，透過提升可視性與加快回應速度，在威脅被利用前即主動化解風險並補強資安缺口。

然而，即便AI創造了更多的機會，卻也帶來更高的風險。今日，AI已經成為駭客主要的目標，也正被駭客利用於越來越多的用途，發動更大規模、更精密的攻擊。

為了進一步了解，趨勢科技委託Sapio Research訪問了全球2,250名IT和網路資安決策者，對象涵蓋各種規模及跨產業的企業。調查結果發現，儘管多數人已經在資安領域使用AI工具，且更多人計畫採用，但絕大多數人同時也擔心這項技術可能對其攻擊面帶來的影響。

AI作為業務推動力

如果資安規劃得當，網路安全就不是一個獨立的成本開銷，也不是創新和成長的阻礙，儘管企業領導者經常這樣看待它。相反地，它可能是一個強大的業務推動力。成熟的網路安全態勢可以幫助企業達成以下目標：

‧建立客戶信任並強化競爭差異化

‧提供成功數位轉型所需的基礎

‧塑造彈性的工作模式，進而提升員工生產力，同時改善許多人的工作與生活平衡。

‧協助企業拓展新市場，尤其當地法規對資安有更高要求時。

出於同樣的道理，AI驅動的資安防護有可能進一步放大上述效益。這確實也是本次受訪者所表達的看法。事實上，有81%的受訪者已將AI驅動的工具納入其資安策略中，另有16%正在評估相關選項。此外，有超過五分之二（42%）的受訪者表示，導入自動化或AI驅動的工具是他們在未來12個月內強化資安的首要任務之一。

超過半數（52%）的受訪者也表示，他們樂於在日常資安作業中使用AI，像是自動化資產盤點、風險優先排序與異常偵測等。而這些僅僅是冰山一角，AI還具備大量能夠強化資安的能力：

‧資料保護：AI可用來發掘、分類及加密敏感資訊，並即時監控資料的存取情況，一旦資料遭到外洩，就會立即發出警示。

‧端點防護：AI是端點偵測及回應（EDR）的重要元素，可分析行為資料與情境，偵測和封鎖可疑活動、惡意程式以及其他威脅。

‧雲端安全：AI演算法可以對雲端環境執行相同的操作，監控偏離基準的異常活動並向資安團隊發出警報。

‧進階威脅追蹤：透過大量分析網路資料，AI能在攻擊者造成長遠損害之前先行偵測出其行動。

‧身分識別與存取管理（IAM）：AI可讓IAM變得更聰明，透過鍵盤輸入、滑鼠移動等各種行為面向，為個別使用者建立獨特的行為輪廓。這有助於實現持續驗證，強化資安防護並支援零信任架構的運作。

對受攻擊面的影響

然而，儘管IT與資安領導者對AI在資安領域的轉型潛力抱持樂觀態度，他們同時也擔心這項技術可能帶來新的風險。近乎所有的受訪者（94%）表示，他們認為在未來3到5年內，AI將對攻擊面管理（ASM）產生負面影響。

對企業而言，網路攻擊面的規模一直是IT資安領導者關注的焦點，因為他們發現企業在數位轉型上的投資速度，遠遠超過其風險控管的能力。如今，他們擔心新一波AI工具的出現將使這項任務變得更加困難。他們的擔憂包括：

‧敏感資料外洩

‧資料處理∕儲存過程缺乏透明度

‧不信任的AI模型濫用企業專屬資料

‧法規遵循上的挑戰

‧需要監控的端點與API數量增加

‧影子AI（Shadow AI）或未經授權的AI工具使用

這並不是一份詳盡的清單，事實上，OWASP甚至針對大型語言模型（LLM）風險列出一份完整的十大風險名單。英國國家資安中心（NCSC）近期也警告，如果開發人員在未加入足夠安全機制的情況下匆忙將這些模型推向市場，將可能使其特別容易受到攻擊。目前最常被提及的威脅包括提示注入（Prompt Injection）、供應鏈攻擊以及資料下毒（Data Poisoning），這些攻擊可能導致敏感資料被竊取，或模型被操控而產生非預期的輸出結果——進一步破壞系統運作，甚至開啟更廣泛的系統存取權限。

AI正重塑威脅版圖

AI正對全球組織構成多重層面的威脅。這不僅是來自AI系統本身對攻擊面的潛在風險，還包括可能出現的AI驅動型攻擊。超過一半（53%）的受訪者認為，未來這類攻擊的複雜度與規模將大幅提升，迫使企業採取全新的資安風險管理方式。

這項威脅也已被英國國家資安中心（NCSC）提出警示，該機構預測未來兩年可能會出現：

‧偵察、漏洞研究與開發（VRED）、社交工程、基礎惡意程式生成與資料外洩等資安威脅的頻率與強度提升。

‧更多威脅行為者利用「AI即服務（AI-as-a-service）」平台

‧資安攻擊鏈中更多階段出現自動化

‧AI被用來開發零時差漏洞（Zzero-day Exploits）

確保安全的實際行動

大約44%的受訪者表示，他們在考慮使用AI驅動的資安工具之前，仍需要對這項技術有更深入的了解。這樣的顧慮可以理解，尤其在AI可能擴大攻擊面的背景下。目前有近一半（46%）的受訪者會透過定期評估並監控第三方供應商是否存在漏洞來管理攻擊面風險，也會執行全面的資安評估。未來，在導入AI技術前，他們勢必也會將這些評估機制擴大到AI資安供應商身上。

為了更有效管理AI攻擊面帶來的風險，企業還應考慮採取其他應對措施，例如：

‧制定一套完整的AI資安策略，內含進階威脅模型、威脅追蹤、AI風險評估、AI資安控管，以及詳細的資安事件回應計畫。

‧確保AI訓練資料的品質、完整性和可靠性，以確保AI模型盡可能準確且有效，並能消弭偏見的問題。

‧建置業界標準的AI資安框架與最佳實務原則，例如NIST、MITRE、OWASP、Google和ISO。

‧將AI資安防護整合進既有的資安流程與資安機制中，以實現涵蓋所有環境的無縫端對端保護。

‧定期舉辦員工教育訓練與資安意識提升課程，打造具備AI資安意識的企業文化。

‧持續監控、評估及更新AI模型來檢測並修補潛在漏洞，提升準確性、效能及可靠性。 更廣泛而言，企業應考慮調整整體資安策略，以因應AI驅動攻擊所帶來的高度威脅。AI資安工具可透過以下方式提供協助：

‧分析大量資料以即時偵測異常

‧掃描漏洞、錯誤設定及其他資安缺口

‧即時識別與緩解網路攻擊

‧自動化威脅偵測與應對工具，減輕資安團隊的工作負擔。

‧利用最新威脅情報，保持領先一步。

‧協助資安分析師，彌補技能缺口。

AI資安帶來的機會，和AI本身一樣，無法被忽視。但唯有先評估並持續管理相關風險，企業才能真正發揮AI的最大潛力。

＜本文作者：Trend Micro Research 趨勢科技威脅研究中心本文出自趨勢科技資安部落格，是由趨勢科技資安威脅研究員、研發人員及資安專家全年無休協力合作，發掘消費者及商業經營所面臨層出不窮的資安威脅，進行研究分析、分享觀點並提出建議。＞