返回首頁

AI 預算失控警報:企業從「無限暢用」轉向嚴格控管 Token 成本

編輯核心觀點

  • 企業 AI 使用成本飆升,促使管理層從鼓勵員工大量使用轉為設置 Token 用量上限。
  • AI 預算管理已成為企業內部角力場,工程師需為運算資源爭取預算,甚至出現「以 Token 換人才」的招聘策略。
  • 儘管成本壓力增加,企業 AI 支出仍持續成長,但已開始透過模型路由(Model Routing)等技術手段精細化管理資源。
AI 預算失控警報:企業從「無限暢用」轉向嚴格控管 Token 成本

從「鼓勵使用」到「設限控管」的轉變

隨著企業對生成式 AI 的依賴加深,AI 成本已成為管理層無法忽視的財務黑洞。軟體公司 Pylon 的執行長 Marty Kausas 指出,若不進行干預,公司在 Anthropic 平台上的帳單將會暴增至 140 萬美元,這迫使他不得不對非技術人員的 Token(AI 處理數據的計價單位)使用量設下上限。Kausas 直言:「無限支出的時代已經結束了。」

OpenAI 執行長 Sam Altman 也觀察到這種心態的劇烈轉變。年初時,企業對 AI 支出普遍感到滿意,但短短幾個月內,成本問題已躍升為企業營運的巨大挑戰。

企業內部的「運算資源爭奪戰」

AI 預算管理已深入企業日常運作。軟體工程師現在必須為專案所需的運算資源進行辯護,部門主管則如同參加《創業投資(Shark Tank)》節目般,需要向高層爭取團隊的 Token 配額。甚至在人才招募市場上,為了吸引頂尖 AI 工程師,招聘經理開始將「保證提供一定數量的 Token 使用額度」作為福利條件。

數據供應商 SemiAnalysis 的 Token 經濟分析師 Max Kan 曾主張增加 Token 預算以提升生產力,他認為:「若員工年薪 10 萬美元,投入 1 萬美元的 Token 預算通常能使其生產力加倍。」然而,這種「Token 最大化(Tokenmaxxing)」的風潮在近期迅速退燒。根據商業情報平台 AlphaSense 的數據,2026 年第二季的財報會議中,提及「Token」一詞的次數高達 129 次,遠高於上一季的 57 次,顯示企業對此議題的焦慮感正急劇上升。

精細化管理成為新常態

面對成本壓力,企業開始採取具體行動。Coinbase 與 Walmart 已設定使用上限,Amazon 則關閉了內部的 Token 使用排行榜。企業軟體公司 Pega 的財務長兼營運長 Ken Stillwell 對此表示認同,他認為先前市場過度鼓吹「無限制使用」的論調,其實是 AI 供應商的行銷手段。Pega 雖然未設定硬性數值上限,但會針對過度消耗資源的請求進行流量限制。

根據 Ramp 的 AI 指數,科技與媒體公司在 2026 年 5 月的平均每員工 AI 支出為 66.29 美元,高於 4 月的 58.84 美元。Ramp 首席經濟學家 Ara Kharazian 預期支出仍會成長,但企業已開始採用「模型路由(Model Routing)」等技術手段來優化成本。部分新創公司如獲得 Y Combinator 支持的 MindFort,則選擇將預算集中在 AI 工具上,以精簡人力規模來達成相同的產出效率。

資料來源

本文由 AI 綜合上述來源編譯整理,內容僅供參考;著作權歸原出處所有。

相關文章