返回首頁

AI 成本控管新顯學:Coinbase 執行長主張「模型路由」策略,讓算力不再是瓶頸

編輯核心觀點

  • Coinbase 執行長 Brian Armstrong 透過將任務導向低成本模型,在代幣使用量呈現指數級增長的情況下,成功將 AI 營運成本維持在平穩水準。
  • Armstrong 預測未來 12 至 18 個月內,約 80% 的工作負載將轉移至成本低廉 99% 的模型上,僅在科學突破或代理編排等需要「智力極大化」的場景才使用頂級模型。
  • 科技界對此策略反應兩極,部分人士認為這是 AI 應用分層的必然趨勢,但也有觀點質疑其極端程度,並強調「智慧配置」將成為企業未來的核心競爭力。
AI 成本控管新顯學:Coinbase 執行長主張「模型路由」策略,讓算力不再是瓶頸

AI 成本控管:從「追求極致」到「精準路由」

隨著 AI 應用熱潮從單純的「代幣消耗競賽(tokenmaxxing)」轉向追求營運效率,企業如何平衡 AI 效能與每月帳單成為關鍵。Coinbase 執行長 Brian Armstrong 近期於社群平台 X 分享了該公司的 AI 策略:不盲目追求最新模型,而是將提示詞(prompt)精準路由至合適的低成本模型。

Armstrong 指出,雖然如 Opus 4.8 或 GPT-5.5 等頂級模型具備強大效能,但其代幣消耗量驚人,且容易觸發速率限制。透過將任務分流,Coinbase 在代幣使用量呈現指數級增長的同時,成功將 AI 相關成本維持在相對平穩的狀態。

Armstrong 預測:「未來 12 到 18 個月內,80% 的工作負載將在成本低廉 99% 的模型上運行。」

他認為,只有在涉及科學研究突破或複雜的代理編排(agent orchestration)等需要「智力極大化(IQ maxing)」的場景時,才需要動用最頂尖的模型。Armstrong 總結道:「這讓我認為,未來的限制因素將是能源與算力,而非模型本身。」

科技圈的觀點分歧

這項策略引起了科技界領袖的廣泛討論。Hugging Face 共同創辦人 Julien Chaumond 表示,模型路由技術近期確實受到高度關注。Harvey 共同創辦人 Winston Weinberg 則強調,「智慧配置(Intelligence allocation)」將成為企業極為重要的能力。

然而,並非所有人都完全認同。Box 執行長 Aaron Levie 認為 Armstrong 的數據略顯極端,但他認同 AI 使用場景將出現分層:高階任務由頂級模型處理,而高頻次、大流量的任務則交由低成本模型完成。

這股追求效率的風潮,與過去矽谷創業圈崇尚的「盡情消耗代幣」文化形成鮮明對比。過去,科技領袖常以高額的 AI 帳單為傲,甚至有創業加速器建議創業者不必限制代幣使用。然而,隨著市場回歸理性,Glean 共同創辦人 Tony Gentilcore 評論稱,Armstrong 的觀點非常精準,並指出目前僅有金融市場仍試圖將頂級模型的價格無限放大推算。

資料來源

本文由 AI 綜合上述來源編譯整理,內容僅供參考;著作權歸原出處所有。

相關文章