「你已經達到階段額度,請等到下午一點零三分之後,重新計算。」你是否也在AI對話框看過相似的句子,而且出現的次數越來越頻繁?
這句話,不只是對個人AI用量的提醒,背後更藏著一套牽動著企業競爭力、AI硬體新商機、乃至中美AI模型大戰的「Token經濟學」。
Token,是AI模型運作的最小計價單位,你對AI說的每一句話、它回覆的每一個字,都會被拆解成一個又一個的Token來計費。訂閱制的AI模型多數都設有Token使用上限。
如今,這個大小約只有○.七五個英文單字的單位,竟然成了可以撬動全球科技版圖、地緣政治的新槓桿。
先來看看過去半年,國內外企業「失控的AI帳單」。
首先是美國叫車巨頭Uber,今年不到四個月時間,它就燒光了原本編列一整年、用於編碼工具的AI預算。由於費用大幅超支,逼得它祭出限制,每位員工每個月,在每項AI工具最多只能花費一千五百美元(約合新台幣四萬七千元)。
「我們不得不開始討論Token消耗及其相關成本,與員工人數之間的對比,並在兩者之間做出權衡。」Uber總裁兼營運長麥克唐納(Andrew Macdonald)說。
AI帳單成財報不可忽視費用
Token用量增速遠超成本下跌速度
爆量的帳單,引發一票原先積極鼓勵員工用AI的科技巨頭,紛紛踩煞車。
像社群網站龍頭Meta,已發出一份內部備忘錄,警告員工AI用量正呈現「指數級增加」;電商龍頭亞馬遜(Amazon),也悄悄撤下員工比拚AI用量的排行榜。
鏡頭轉到台灣,同樣的現象也在發生。
「前五大銀行,國泰、中信這些業者,今年明顯感受到閉源模型的Token(使用量)已經爆量。」一名AI服務商高階主管指出,不只金融機構,包括國內許多傳產業者也開始憂心,公司可能會扛不住快速增加的AI成本。
而且真正的挑戰,恐怕還沒到。
一家台灣正全力開發AI代理人應用的大型金控業者估算,未來如果全流程都改由AI代理執行,屆時Token的用量,將可能較現在飆升「一百倍」。
隨Token用量飆升而來的鉅額帳單,正在重擊企業的錢包。如今的AI,已不再是企業可以忽略的實驗支出,而是財報上具有存在感的費用。
你我一般的個人,也同樣有感。近來在網路社群上,許多人因為快達到AI額度上限,而患上「AI焦慮症」。