過去一年,AI Agent(智慧代理人)從實驗室走進企業核心流程,這些 24 小時不休息的數位員工,可以自動處理客服、審核文件、分析數據,甚至主動發起行動。根據業界觀察,台灣企業導入 AI 的比例已超過八成,金融、製造與政府機關的軟硬體投資金額更呈倍數成長。

但當 AI Agent 從「偶爾幫忙」變成「全年無休」,新的問題浮現了,這些數位員工到底在做什麼?誰在管它們?成本怎麼控制?
HPE 臺灣暨香港董事長王嘉昇與凌羣電腦總經理劉瑞隆,不約而同指出,企業發展 AI 已經走過初期的興奮期,現在面臨的是真正的營運挑戰。而解方,就藏在兩個關鍵字裡「主權 AI(Sovereign AI)與主控電腦。」

從 PoC 到生產環境 雲端帳單的震撼教育

王嘉昇觀察,許多企業在 PoC(概念驗證)階段習慣使用公有雲,因為不需要事前大量部署,幾天內就能跑出結果,但當專案從實驗轉為 24 小時運作的生產環境,帶來的算力成本會讓財務部門嚇一跳。

他舉了一個真實案例,曾有員工為了測試雲端 AI,短短三天內就燒掉上千元的 Token(運算代幣)費用,這還只是測試階段,如果是正式上線的 AI Agent 全年無休地跑,帳單金額將會有多驚人,可想而知。

劉瑞隆也指出,許多企業迷戀公有雲「用多少付多少」的彈性,但完全依賴公雲會帶來隱患,除了費用失控,還有一個常被忽略的心理因素,當資料全部上雲後,員工容易產生「反正有人管」的鬆懈心態,以為資安與合規都是雲端業者的責任,但實際上,雲端業者負責基礎設施,但企業資料的安全與合規仍需自行承擔。

這讓企業開始重新思考,什麼該放雲端,什麼該留在地端?

主權 AI 從國家戰略下放到企業生存

王嘉昇提出了一個觀點:「過去大家聽到主權,會覺得那是國家層級的事情,但現在,主權 AI 已經落實到企業端。」

他解釋,所謂的主權 AI,指的是企業必須在自己的地端建構一座「能夠自主營運的 AI 工廠」,這座工廠從一開始就要內建資料治理與管理機制,讓整體的營運成本、資安風險都達到「可預測」且「完全受控」的狀態。

更核心的概念是「領域主權」(Domain Sovereignty),王嘉昇舉例,台積電絕對不可能把最核心的製程配方放到網路上,銀行也不可能把客戶機密資料丟上公有雲。這些專屬於企業的產業知識、內部流程,必須留在自己的系統裡,才能真正掌握資料主權,確保關鍵資料不被外流,並維持競爭優勢與營運的自主性。

劉瑞隆呼應這個觀點,他認為新創公司在初期規模小的時候,使用公有雲很正常,但當企業成長到一定階段,或者開發出具備獨特價值的 AI Agent 時,繼續留在公雲會面臨兩個風險,算力成本暴增,以及核心資產外流,這時候就必須轉向 Hybrid Cloud(混合雲)架構,在地端把私有雲的資料主權牢牢管好,同時又能彈性調用公有雲的資源。

企業需要主控電腦 正如數位員工也需要人資部門

如果說主權 AI 解決的是「資料放哪裡」的問題,那主控電腦要解決的就是「誰來管這些 AI」的問題。

劉瑞隆做了一個大膽的預測:「未來五年內,我們將正式進入真人與電腦人混合工作的時代。」在一個 80 人的企業裡,可能會有 30 到 40 個勞動力是由 AI Agent 組成。

這代表什麼?代表企業即將擁有大量的數位員工,而這些員工跟真人一樣,需要被管理、被監督、被規範。

劉瑞隆表示,很多企業有一個嚴重的迷思,以為把 AI 放出去自動做事就不用再管了:「如果有這種想法,就完蛋了。」他強調,AI Agent 一旦「變壞」或做出錯誤決策,而企業又沒有監控機制,將會是無法收拾的災難。

所以他提出「智慧電腦人」的概念,每一個數位員工的背後,都必須有一台主控電腦在進行全面監管。這台電腦上安裝的監控軟體,能讓企業百分之百掌握這些 AI 到底在做什麼,確保它們的行為完全符合企業規範與法規要求。

就像真人團隊需要人資部門來管理,數位員工也需要自己的「數位人資」。

硬體採購思維的轉變 從比規格到看長期

這些趨勢也改變了企業的硬體採購邏輯。

王嘉昇觀察,過去各部門自己買硬體、自己跑專案,結果企業內部充斥著規格不一的設備,運算資源無法互通,造成極大浪費,IT 部門也徹底失控。現在的 CFO 和 IT 主管已經不再只看初期的資本支出或單純比拼算力規格,而是更重視長期的營運支出,以及資源池的整體調度效率。

劉瑞隆用了一個比喻:「發展 AI 就像賽車,頂級賽車手不能開著來路不明、拼湊出來的車,否則一過彎就可能解體。」

他指出,過去有些企業為了省錢,買白牌設備搭配開源軟體讓內部工程師自己搞,結果工程師往往需要耗費數月自行整合系統;一旦工程師被挖角,整套系統就變成孤兒,直接採購整合性高的大品牌平台,反而是最符合成本效益的做法。

HPE與凌羣電腦合作,從AI基礎架構到產業應用建構完整解方,協助企業打造可控、可擴展的數位勞動力體系。

HPE 與凌羣的分工 硬體基石加上產業靈魂

那麼,具體的解決方案是什麼?

王嘉昇介紹,HPE 針對企業的 AI 基礎架構需求,提出了三層式策略。第一層是顧問諮詢(Advisory),協助企業釐清哪些工作負載該上雲、哪些該留地端。第二層是與 NVIDIA 共同研發的一體化平台「HPE Private Cloud AI」,這套平台將底層軟體、模型管理、資安控管與算力調度整合為一個開箱即用的設備,讓企業跳過自行摸索的陣痛期。第三層是持續的優化與營運服務持續優化服務,確保這座 AI 工廠能長期穩定運作。

但王嘉昇也坦承,光有硬體還不夠,HPE 擁有強大的運算平台,但若缺乏對各產業的領域知識,這些硬體無法真正落地解決問題。
這就是凌羣電腦的角色,劉瑞隆指出,凌羣會在 HPE 的平台上打造具備專屬技能的「數位員工」,並安裝主控電腦與監控軟體,對每一個 AI Agent 進行 24 小時的行為監管。

他舉例,像銀行業繁瑣的徵信流程,涵蓋資料申請、放款審查、文件分類等環節,需要極度專業的合規設計,凌羣帶著深厚的產業 know-how(專業知識)將這些流程寫成 AI Agent 的應用,HPE 的平台才能真正轉化為企業的自動化生產力。

雙方的分工很清楚,HPE 負責底層算力與穩定,凌羣負責應用設計與安全監控。

企業不但要用 AI 更要用得安心

劉瑞隆在訪談尾聲說了一句話,「企業絕不能讓 AI 野蠻生長。」

這句話點出了當前 AI 發展的核心矛盾,一方面,企業渴望 AI 帶來的效率提升;另一方面,如果缺乏適當的治理機制,這些數位員工可能會成為企業最大的風險來源。

主權 AI 確保資料不出門,主控電腦確保 AI 不失控。當這兩塊拼圖到位,企業才能真正安心地迎接數位勞動力時代。

企業擁抱AI轉型,從來不是技術問題,而是經營哲學的新變革。