「(去年以前,)我們一個月的(AI)成本大概就一千多塊美元,很少超過;今年開始,尤其從一月起,就是每個月都是double(翻倍)在起跳。」軟體公司多奇數位創意技術總監黃保翕所描述的狀況,其實也是許多企業正在面臨的挑戰。
隨著企業員工對於使用AI工具越來越上手,當AI開始成為企業營運流程的一部分,隨之而來的,就是飆升的Token用量。由於每使用一個Token就要付給模型商一個對應的金額,Token支出逐漸成為企業財報上無法被忽視的成本。
要想避免AI從賺錢幫手,瞬間變成吃掉利潤的怪獸,企業首先必須掌握一個核心觀念:重點,不在Token用量最小化,而是要做到不浪費。
關鍵一》以透明化為根本
公開用量、分段驗證法檢視價值
要如何不浪費呢?第一根基礎支柱,就是建立「Token的使用透明度」。
雖然Token已經成為AI時代的新計