《AI創新百強》整合5萬員工、破解技術孤島，國泰金控打造集團「AI防護網」

作為台灣金融業龍頭，國泰金控旗下擁有銀行、產險、壽險等多家子公司，員工總數超過5萬人。當生成式AI浪潮來襲，這個龐大組織如何在高度監管的金融環境中，既要創新又要符合政府法規？答案是建立一套企業級的AI基礎建設：GAIA框架。

從混亂到統一，解決技術孤島治理難題

「2024年初生成式AI剛爆發時，內部其實非常混亂，」國泰金控副總經理暨國泰世華銀行數據長梁明喬回憶，當時各業務單位很積極，紛紛找廠商洽談AI方案，但缺乏統一的組織單位來統籌資源。各子公司各自開發，不僅造成技術無法共用、重複投資，更在高度監管的金融業埋下合規風險。

「金融業開發AI牽涉IT架構、數據分析與龐大的資源投入，如果各子公司各自為政，不僅會導致技術孤島，更會造成極大的資源浪費。」梁明喬說 。

更大挑戰在於，當時金管會正值擬定《金融業運用AI指引》與相關自律規範的過渡期，對於生成式AI的作業標準與監管界線尚未完全明朗 。梁明喬意識到，若沒有一套統一的治理框架作為「基建先行」，一旦出現資安破口或個資外洩，在高度監管的金融業，後果將不堪設想 。

因此，GAIA 框架應運而生，成為國泰金控在法規未明前，先行建立起的自我合規防護網 。為此，國泰金控在2024年成立AI CoE（AI Center of Excellence）卓越中心，由金控統籌各子公司的AI發展方向，定調3大AI策略藍圖：AI Ready（基礎建設與組織）、AI Empower（員工賦能）、AI Native（場景智能化）。GAIA框架正是「AI Ready」中最重要的技術基建。

「我們把GAIA定義為『AI智慧社區』，」國泰金控數數發中心暨國泰世華銀行副總經理劉浩翔解釋，就像一座現代化園區需要警衛室、圖書館和能源中心，開發任何生成式AI應用，也避不開這3個基礎元件。

搭建「AI智慧社區」，3大模組元件協作

首先是AI護欄，如同社區的警衛室。「AI會有幻覺，或被惡意誘導講錯話，護欄負責篩選所有的輸入與輸出，」劉浩翔說，它能防止員工被惡意攻擊誘導，或阻止AI產生不當回覆，如洩露個資或產生有害內容。

其次是知識庫，扮演圖書館的角色。一般AI只有網路知識，但企業需要它懂內部規章。知識庫存放請假政策、授信流程等文件，當員工詢問內部事務時，AI會去「搬書」找答案。目前知識庫已收錄超過700種不同類型的知識，涵蓋內部政策與外部金融法規。

第三是Model Hub，像能源路由或調度中心。「我們不限制子公司只能用哪一種模型，」劉浩翔說，從OpenAI、Google Gemini到開源的Llama，Model Hub統一管理調度，根據任務複雜度與成本考量選擇最適合的模型。簡單的摘要任務用開源模型，複雜的組織任務則選頂尖模型。

首波應用則選定HR知識助手，因為HR每天處理大量重複詢問，如產假怎麼請、育嬰留職停薪規章等。員工提問後，先過護欄過濾，接著AI到知識庫翻找HR手冊，最後由Model Hub選定的模型，將艱澀條文轉化為「人話」回覆。

但初期最大挑戰是效能。「一開始護欄檢核時間長，使用者體驗不佳。」劉浩翔說。

國泰金控分兩階段優化：第一階段在2025年第3季擴大雲端基建資源，提升護欄乘載力，使檢核時間縮短到原本的4分之1；第二階段在第4季更換檢核模型，護欄檢核時間再減少93%，並符合國泰世華銀行多雲及彈性需求。護欄團隊也持續開發圖片、影像、聲音等多模態功能，以符合各種專案場景需求。目前HR助手每月處理超過600次詢問，回答時間縮短至1分鐘內，準確度達95%，每月節省約7.3人天（註：指HR部門每月因此多出了1週以上的完整工作時數）。

「我們先對內開放給特定部門約700到1000人試用，反饋非常好，近期準備推廣至全行。」梁明喬表示，這大幅減輕HR團隊回覆重複問題的負擔，讓他們有更多時間處理複雜個案。

從AI助手到代理人，讓員工參與導入過程

但國泰金控的企圖心不僅止於此。「GAIA 1.0是被動問答型的『AI助手』，我問你答；2.0就是『代理人』，它具備自主規劃與主動執行能力，」劉浩翔舉例說明，AI不只會回答問題,還能依照員工需求自主規劃任務，自動查找資料並連動系統操作，一站式完成服務。「目前2.0框架已定義完成並在開發中，我們正選擇一、兩個大型業務場景進行驗證。」劉浩翔透露。

從集團角度，先幫各子公司架構AI框架，「國泰這麼大的集團，效率的關鍵在於不要重複造輪子。」梁明喬總結。

雖然，國泰金控自建基礎工程比直接買現成應用速度慢，但一旦架構穩固，未來的AI導入、擴張速度將是指數級成長。更重要的是，先透過小規模試行，讓員工參與導入過程、給予回饋，也能讓大家知道，AI存在的目的並非取代人，而是進入職場協助人，這才是AI賦能的真諦。

百強AI應用心法
「我們花很多時間在建基礎工程，雖然比直接買現成應用慢，但一旦架構穩固，未來的擴張速度將是呈指數級成長。」—國泰金控副總經理暨國泰世華銀行數據長梁明喬

核稿編輯：康育萍、黃巧惠