Gartner預警：四成企業AI代理人恐失敗！三大數位巨頭揭成功部署關鍵

人工智慧（AI）代理人的潛力固然令人振奮，但其投資報酬率的實際效益卻仍有待驗證。科技分析機構Gartner近期發出警訊，預測到了2027年，將有高達四成企業因治理缺口，在AI代理人投入生產後才發現問題，最終選擇降級或直接淘汰這些自主型AI代理人。

這項預測凸顯了企業在擁抱AI代理人浪潮時所面臨的嚴峻挑戰。然而，在舊金山舉行的Snowflake高峰會上，三位數位領域的領導者分享了他們如何成功將AI代理人導入實際營運的經驗。他們歸納出三大關鍵策略，為其他渴望善用AI的專業人士提供了寶貴的借鑒：建立完善的框架、善用領域專家、以及將數據變現。

一、聚焦框架：確保AI部署的可重複性與規模化

穿戴式科技公司Whoop的分析副總裁Matt Luizzi指出，該公司全天候蒐集生物識別數據，以提供健康與健身洞察。在這一過程中，AI代理人扮演著日益重要的角色，特別是Snowflake的開發者與數據工程師專用程式碼代理人CoCo。

「我們使用CoCo已有數月，最初僅限於分析團隊，這些人能迅速判斷查詢結果的正確性，並試圖找出擴展此流程的方法。」Luizzi表示，「現在我們已建立更正式的評估框架，並開始大規模推動AI代理人的應用。」

Luizzi進一步說明，Whoop的軟體工程師利用CoCo進行A/B測試，分析結果、提出新功能、測試並迭代。這種方法不僅透過自動化實驗框架，加速了業務價值的交付，也顯著提升了客戶價值。他強調，Whoop的數據集中於Snowflake平台，為AI代理人的探索奠定了良好基礎。他們透過Cortex AI服務測試代理人，並從中學習。

「我們很快意識到『情境（context）』是關鍵。」Luizzi說，「這意味著必須深入語義層，確保情境資訊以結構化的方式儲存。」

Luizzi認為，框架對於AI代理人的成功探索至關重要。他指出，就像過去十年建立數據架構一樣，Whoop正努力以更可重複的方式進行所有工作。「建立可重複的框架，使我們能夠擴展這些AI工作負載，是我們持續推進的重點。」

二、善用專家分析師：提升AI代理人的準確性與應用廣度

體育專業公司Fanatics的數據副總裁Madeleine Want負責管理其博弈與遊戲部門的數據工程、數據科學和機器學習業務，同樣仰賴Snowflake平台支援。

「當我們開始實驗時，不確定哪些會成功，哪些會失敗。但我們發現，底層數據的狀況越好，治理越完善，大型語言模型（LLM）就越容易從中提取意義並有效回答問題。」Want分享道。

Want坦言，儘管強調數據與治理的重要性現在聽來理所當然，但在18個月前卻非如此。她解釋，Fanatics在建構客製化機器學習模型方面經驗豐富，因此很難相信直接導入第三方模型並應用於數據就能奏效。然而，現在這種方法已「深植於我們所有工作的模式中」。

她進一步說明，Fanatics在「情境界定清晰」且擁有「從頭到尾理解業務領域的專家分析師」的領域，早期就取得了成功，這些專家能夠指導AI代理人。隨著時間推移，他們在情境層的投入逐漸減少，AI代理人在自主回答問題前所需的監督程度也降低。

「我們衡量答案準確性的能力正在提升，因為我們引入了規模化的評估框架，這有助於我們在無需人工監控的情況下，對AI代理人的回答建立信心，這正是其核心價值所在。」

Want表示，這些成功意味著AI代理人的應用範圍正在擴大。除了分析之外，其他專業人士也看到了其積極效益，並希望探索代理人的潛力。Fanatics不僅繼續使用Snowflake的介面和代理人，也將API和回應嵌入其他第三方工具，讓更多人能利用數據驅動的洞察。「用戶希望進一步探索更多營運應用案例。」她說，「人們要求能夠透過各種不同的管道和消費媒介獲取這些洞察，因為他們需要在工作場景中直接使用數據。」

三、數據變現：AI驅動決策與成本效益突破

軟體公司Synopsys的資訊長Sriram Sitaraman表示，該公司是Snowflake的長期客戶，利用其數據平台和CoCo等代理人服務來驅動決策。大約18個月前，Sitaraman意識到AI代理人有潛力執行初級員工的任務，例如快速查詢、製作圖表和提取洞察。

「我們利用了這項能力，並說：『如果我們創建一個知識代理人，就可以將其部署到多個面向。』」

具體案例包括為財務部門提供報告的「營收代理人」，以及與數據中心票務系統相關的「除錯代理人」。Sitaraman的團隊從三個維度評估了AI的潛力：結果品質、結果產出時間和結果成本。他們發現AI在這三方面都產生了積極影響，他認為這是一個重大突破：「過去，你必須犧牲其中之一。」現在，無需每次調整AI模型的情境就重新編程系統，而是可以專注於洞察，而不必擔心底層問題。

「從數據開始——利用AI將你的數據變現。」Sitaraman回顧其代理人旅程時說，「無論你投入多少數據量，AI都只是一個真正的線性規模。AI擁有的數據越多，它做出的決策就越好。」

然而，Sitaraman也發出了警告：「我們意識到的一件事是，目前自動化和自主性之間沒有太大區別，所以你必須小心。」他提醒企業應仔細思考：「你是想自動化一個流程，還是真的想創建一個代理人？這涉及到不同的成本結構、使用模式和治理。」Sitaraman鼓勵專業人士識別正確的應用案例，建立正確的框架，並且永遠不要低估AI代理人的潛力。「你可以推出一個代理人，說『這是一個銷售營運代理人』。但通常，沒有什麼能阻止它同時成為銷售分析師代理人或其他類型的代理人。」他強調，「所以，重要的是要問：『這是我們希望它做的事情嗎？』框架非常重要。」

Gartner的預警與這些成功案例的分享，共同描繪了企業AI代理人部署的真實圖景。它不僅提醒了潛在的風險，更指明了透過嚴謹的框架、專業的引導與數據的策略性運用，企業仍能駕馭這股AI浪潮，將其轉化為實質的競爭優勢。