隨著生成式AI與代理式AI的快速發展，企業透過AI驅動創新的同時，駭客也正利用AI技術讓網路犯罪從過往仰賴人工作業的模式，進一步走向低成本、低門檻且可大規模複製的新模式。TrendAI指出，當今駭客結合內容生成、身分偽造與系統濫用的複合式AI威脅，讓企業既有的防護邏輯與管理模式面臨著前所未有的考驗。
企業追求導入AI的速度，卻容易忽略風險控管能力。根據TrendAI調查，74%的台灣受訪企業決策者坦言過去曾在高層要求或市場競爭壓力下，被迫核准在企業導入可能帶來資安風險的AI方案註一，卻只有不到一半的企業認為內部團隊能辨識惡意或異常的AI行為，顯示台灣企業正面臨「盲目導入AI」的高度風險。
TrendAI統整當代隨AI演進的三大威脅，呼籲企業亟需提高關注：
AI提供駭客以極低成本及大規模製造威脅的能力，讓今日的網路攻擊者不需親手撰寫程式碼，而是透過大型語言模型、AI代理將詐騙攻擊鏈自動化。TrendAI發現，網路攻擊者能以不到10美元的成本，自動生成大量看似可信的文字、影像與敘事內容，進一步用於釣魚詐騙、變臉詐騙（BEC），甚至影響特定事件的輿論走向。
在AI的助長下，身分冒用變得防不勝防，TrendAI預測深偽技術將越趨成熟且成本下降，未來將形成更難辨識、更容易被大規模濫用的局面。如今已有北韓駭客組織利用竊取而來的LinkedIn、GitHub等公開資料，搭配大型語言模型與深偽技術，偽裝成遠距IT工作者應聘，成功受聘後再進一步進行橫向移動、竊取機敏資訊，甚至發動勒索攻擊。駭客甚至會設立「假公司」進行反向釣魚，藉由發布假職缺面試真實求職者，並誘騙其下載惡意軟體，藉此竊取個資，甚至劫持真實帳號，以作為下一波假求職真攻擊的完美掩護。
隨著大型語言模型（LLM）運算能力躍進，TrendAI觀察到駭客攻擊手法已突破傳統技術限制。近期如LameHug等惡意工具，便刻意偽裝成AI圖像生成應用，實則內嵌大型語言模型運算能力，使攻擊者無須編寫複雜程式碼，僅需透過提示指令下達意圖，模型即可自動編譯並執行惡意指令。這樣的攻擊模式突破了傳統環境的限制，使單一惡意軟體能無縫跨越Windows、Mac與Linux多重作業系統的限制而發動攻擊，讓威脅迅速擴散。
此外，企業內部的AI系統，如智能客服、自助查詢或自動化流程平台，也可能成為提示詞注入（Prompt Injection）攻擊的最佳跳板。攻擊者無須費時尋找系統漏洞，僅需寄發一封暗藏提示詞注入指令的電子郵件，當AI系統讀取信件時，因無法精準分辨常規文字與惡意指令的邊界，便極易遭惡意指令誘導而偏離任務。若遭到滲透，企業系統將直接執行資料加密任務，進而攻擊企業資料庫。
化解AI技術紅利下的風險，TrendAI呼籲企業建立治理框架並善用整合能力工具
6成以上的台灣企業決策者擔憂AI發展過於迅速，導致資安難以跟上。當假內容、身分偽造、AI工具或系統遭濫用等問題快速且規模化散布，企業面對的已不只是單點資安風險，而是品牌信任、內外部溝通與商務決策同時遭受干擾的困境，此時掌握風險可視性與風險邊界便成為重要關鍵。
TrendAI威脅研究總監Ryan Flores呼籲，儘管AI技術屢遭駭客濫用，但AI仍是驅動產業變革的時代創新。面對AI時代的威脅，建立完善的安全機制與治理框架將成為企業相當重要的議題。此外，企業應採用智慧的資安事件管理（Security Information and Event Management，SIEM）方案，得以將碎片化數據資料轉化為一致語言，並有效分析串聯跨系統資訊，加速判斷與決策效率。
TrendAI的調查指出，已有半數以上的台灣企業正著手起草AI治理框架。然而，企業內部對於資安專業能力有限與現行針對AI工具的法規不明確，是企業安全採用AI的最大障礙。TrendAI台灣暨香港區總經理洪偉淦表示，我們觀察多數台灣企業的資安架構仍停留在過去以工具與規則為核心的模式。而在AI時代的競爭關鍵，不在於誰擁有最完整的資安工具，而在於誰能最快理解風險、做出決策。TrendAI的使命正是協助企業在這波轉型浪潮中，建立以AI為核心的風險治理能力，真正掌握AI世代的安全主導權。