生成式AI(GenAI)推升企業數位應用進入新階段,焦點也從單一模型體驗與實驗性專案,轉為思考如何讓AI真正嵌入營運流程,成為自動決策與流程協調的一部分。代理式AI(Agentic AI)與多代理系統(Multi-Agent System,MAS)便是在這樣的需求之上成形,透過具備感知、決策與行動能力的AI代理人,將企業原本分散於各系統與部門的作業節點串接起來,讓人機協作不再停留於問答介面,而是延伸至實際業務執行。
科科科技(KKCompany)旗下的Going Cloud,即鎖定這股結構性變化,結合多年雲端架構設計與生成式AI導入經驗,將大型語言模型(LLM)、雲端運算與企業級資安治理整合為可擴展的MAS架構,協助金融機構在高度監管環境中部署代理式AI。對金融業而言,這不只是導入一項新技術,而是為未來數位營運模式預先建立一個可遵循的雲端與AI治理框架,讓創新應用在合規與風險可控的前提下持續擴張。
多代理協作實現主動決策
Going Cloud總經理黃柏淞指出,過去企業導入AI通常以AI助理(AI Assistant)為主,例如知識問答、流程自動化或客服輔助等,這類應用多數仰賴事前設計好的規則與資料源。然而,生成式AI能力的成熟,加上企業基礎設施與資料資產的逐步整合,使AI開始具備理解環境、執行任務、連結工具與自主優化的能力,也促使AI轉型為具備主動行動能力的AI代理人(AI Agent)。
這樣的轉變,核心在於AI代理已不僅具備對話能力,還能執行任務,透過API呼叫工具、查詢環境回饋、結合LLM進行情境推論與任務規劃。黃柏淞進一步指出,正因如此,企業開始探索不只是一個Agent,而是部署多個具備分工、協作能力的AI代理系統,也就是MAS架構。
根據Going Cloud GenAI解決方案架構師林煒恩的分析,MAS系統的價值在於「多工並進」,每個Agent具備特定領域的專業能力(Domain Specialization),能自主完成任務,同時具備協作機制,可將無法處理的任務轉交給其他Agent,達成真正的人機共融與跨部門協作。
這樣的設計,一方面強化了系統的可擴展性與任務處理效率,另一方面也能因應企業跨部門、跨平台的營運需求,達成橫向整合、縱向精進的雙重目標。在此架構中,Going Cloud採取分層設計,藉由Supervisor Agent負責任務分派與調度,Task Agent則依其功能專精執行對應工作,整體系統既具備集中管理的效率,也保有分散處理的彈性。
強化雲端治理與資安合規
金融業作為最早擁抱代理式AI的領域之一,其高度監管性質與資料敏感程度,也讓其成為驗證MAS落地實效的關鍵場域。黃柏淞觀察,金融業導入生成式AI與多代理架構時,首當其衝的挑戰集中於三大面向:資安疑慮、預算成效、以及內部IT與使用者的AI知識落差。
首先在資安層面,金融業對於資料外洩、模型誤用與敏感詞生成等風險極為敏感。對此,Going Cloud整合了護欄(Guardrail)機制,透過敏感資料加密、輸出入監控與Prompt Injection防護等手段,降低大型語言模型在生成過程中出現違規行為的可能性,並配合ISO 27001與ISO 27701等資安標準建立全域治理架構。
其次在預算與成效評估方面,黃柏淞強調企業不應一開始就追求全面部署,而應採取漸進式策略,以PoC(Proof of Concept)小規模試點方式驗證技術成效,再逐步擴展應用範圍與部門數量。此階段的關鍵,是確保每一步的導入都能對應明確的KPI或ROI指標,例如降低客服成本、提升交易辨識率、縮短平均回應時間等,才能取得管理階層的信任與持續投入。
而在企業知識培訓上,林煒恩則指出,由於GenAI與MAS概念相對新穎,許多金融業IT人員與業務單位對於其運作機制仍不熟悉,進而影響整體部署進程。為此,Going Cloud不僅提供基礎培訓與進階專班,更設有7×24維運支援與角色導向的使用者教育課程,協助企業在導入過程中能夠同步建立起內部的知識能量與操作信心。
實際案例也驗證這些策略的有效性。某台灣市值前十大銀行便與Going Cloud合作,導入以Supervisor/Task Agent為核心的MAS客服平台架構,成功降低超過50%的人工負擔,平均回應時間縮短60%以上,FAQ導向回覆成功率更達99.3%,展現多代理架構對於提升金融服務效率與穩定性的具體成效。
Going Cloud總經理黃柏淞認為,企業要真正展現AI應用的價值,必須依靠可擴展的平台化架構與顧問式服務,才能在合規與資安的前提下,加速生成式AI與多代理系統的部署並取得成效。
Going Cloud進一步以RaiX平台為核心,將LLM應用、API調用、搜尋強化、自動化流程與生成式文件等模組進行封裝,形成模組化的GenAI平台架構。此一平台化設計,解決了企業在部署AI時面臨的「工具過多」、「場景繁雜」等問題,也大幅降低導入門檻與維運成本。
黃柏淞指出,AWS平台上超過2,000種以上的服務常令企業無所適從,而RaiX的價值就在於幫企業整理好這些基礎設施,並建立統一入口,讓不同業務單位的應用都能經由Supervisor Agent有效串聯與整合,實踐「一次建置、多場景重用」的應用策略。
Going Cloud在企業AI導入過程中,不僅扮演技術提供者角色,更以顧問式協作策略,協助企業規劃導入流程、設計落地場景、制定內部治理準則,並藉由RaiX平台整合雲端資源與AI應用,打造可擴展、可維運、具合規性的智慧平台。隨著MAS應用從金融業向更多垂直領域擴展,代理式AI不再只是技術名詞,而將成為企業打造數位韌性與決策效率的核心引擎。