擴大人工智慧規模：迫切需要新的經濟策略

關於企業人工智慧的主流觀點正迅速從試點階段的熱情轉向生產階段的嚴峻現實。隨著各組織競相將生成式人工智慧整合到工作流程中，他們遇到的障礙並非技術本身的能力，而是如何部署這些模型。

企業逐漸發現，問題不在於人工智慧本身，而是人們普遍認為每項任務都需要最強大的模型。這導致了「tokenmaxxing」（標記最大化）現象的普遍存在——即預設使用更大、更昂貴的模型，即使更小、更便宜的模型也能完成任務。

許多組織沒有將合適的模型與合適的任務相匹配，而是認為每個工作流程都需要領先模型層級的推理能力。

這種對自動化的過度設計會對獲利能力造成結構性負擔。當企業把每個問題當作需要突破性模型來解決時，基礎建設成本必然會超過產出的價值。

市場正在目睹這種做法的後果，有報告指出，隨著成本上升，各大機構在幾個月內就耗盡了人工智慧預算，並取消了內部授權。

隨著各組織努力應對人工智慧帶來的成本衝擊，越來越明顯的是，人工智慧的支出往往超過了其帶來的實際價值。正如先前一篇關於人工智慧支出下降的文章中所討論的，這項挑戰需要新的策略。

克服試點計畫的陷阱

根本問題在於，孤立、可控的試點計畫的成功往往被視為當前企業人工智慧計畫的標準。在試點項目中，變數有限，每次操作的成本似乎可控。但一旦向企業級應用程式開放，生產環境中的混亂現實、邊緣狀態、多次重試以及規模的大幅波動便會顯露出來。

由於機率性人工智慧每次操作都會產生不同的成本，因此會產生財務部門無法預測的意外支出。傳統軟體的固定預算對應於每項任務的預估成本。而人工智慧則缺乏這種穩定性。如果同一項作業今天成本為一美元，明天卻高達一百美元，那麼就不能將其安全地納入營運預算。

因此，80% 的組織承認對人工智慧成本的估算存在超過 25% 的誤差，超過 95% 的生成式人工智慧試點計畫最終未能投入生產。目前，各組織並未致力於改善其成本效益比；相反，他們往往是在遭受經濟損失後才意識到這一點，而且往往是在付出慘痛代價之後。對許多領導者而言，唯一剩下的辦法就是「減少使用」——限制使用或阻止訪問。

但這種應對方式有缺陷。真正的衝擊不在於帳單金額本身，而在於人們意識到唯一剩下的管理手段竟然是限制使用。透過限制使用，該組織實際上承認了其人工智慧部署成本過高，難以規模化，從而將潛在的競爭優勢轉化為防禦弱點。

重新思考自動化經濟學

如今大多數組織都專注於改進模型選擇——即確定哪個模型應該處理特定任務——但最大的改進機會在於提升工作本身。由於每次在大型模型中從頭開始建立請求時，成本都會重新調整，因此假設每個任務都需要在最高語言模型層級使用大型語言模型（LLM）很快就會成為一個代價高昂的錯誤。

標準的路由工具在請求層運行：它們會查看傳入的任務，並將其路由到看起來最合適的模型，但該模型仍然將整個任務作為單一的、不透明的生成過程來執行。唯一被優化的是提供答案的模型；結果本身並不會降低下一次運行的成本。真正的可擴展性需要更進一步。

這種轉變需要一種能夠掌控業務流程而非僅依賴底層模型的架構。這種架構方法並非簡單地將工作導向最終目標，而是管理流程本身。它超越了單一模型，將工作流程分解為離散的、程式碼驅動的步驟，從而在每個階段產生稽核追蹤。

這種架構選擇將結構最佳化與表面的成本管理區分開來，實現了傳統指導工具無法企及的效率提升。這種轉變帶來了更有效率的成本結構。計算不再依賴單一模型來完成所有任務，而是分佈在專門的、程式碼驅動的步驟中，從而提高了資源利用率並革新了工作流程的執行方式。

例如，在處理大額貸款的工作流程中，這種方法透過減少不必要的、成本高昂的模型推理，提高了整體經濟效益。轉向這種標準化的、流程導向的架構，為管理大額業務成本提供了一條可持續的途徑。

由於該流程與任何特定供應商解耦，組織機構可以保持完全的靈活性。他們可以根據自身效能和成本需求的變化，自由地實施最佳化策略，在領先的LLM模型、開源權重和規模更小、更專業的模型之間切換，而無需重建底層基礎設施。要了解更多關於管理AI成本的信息，您可以閱讀我們關於AI支出下降的文章。

由於每個執行過程都會產生一個具體且可驗證的思路步驟、工具呼叫和結果路徑，因此這些記錄成為寶貴的資料資產，改進了已經知道如何處理預期任務而無需訴諸一般呼叫的專門替代方案。

透過精準性增強人類能力

這種新方法的目標是將人工智慧從一項有限的實驗轉變為標準化的工作方法。當自動化數位勞動接管重複性的認知任務，例如資料驗證或資訊揭露確認時，人類的角色將發生徹底轉變。分析師不再需要花費大量時間手動開啟文件和輸入資料；他們的工作重心將轉移到需要高水準判斷、複雜策略和創造性問題解決能力的例外情況。

這就是永續人工智慧應用的願景。透過將不可預見的支出轉化為可控的成本基礎，並專注於工作流程的重構而非簡單的模式切換，企業最終能夠釋放其全部潛力。隨著人工智慧應用範圍的擴大，這將為企業提供一條通往可持續且可衡量的投資回報之路，使其員工能夠專注於技術無法取代的高價值、評估性工作。

企業人工智慧的未來不僅取決於模型本身的能力，更取決於能否部署整合式人工智慧系統，從而使這項技術在規模化應用中實現經濟效益。現在是時候摒棄不可持續的實驗，轉而採用嚴謹的架構方法來應用人工智慧了。對於那些準備超越實驗階段的組織而言，挑戰不再是證明人工智慧有效，而是如何使其在規模化應用中實現經濟效益。