企業使用人工智慧的成本：我們問錯了問題。

企業人工智慧正經歷一個重要的經濟轉折點。

過去兩年，各機構主要從代幣定價和模型能力的角度評估人工智慧。

隨著人工智慧從實驗階段走向關鍵業務運營，這種方法變得越來越不完善。

現在的問題不再只是每個代幣的成本，而是企業層面提供價格合理、可持續且商業上可預測的人工智慧能力的總體成本。

歸根結底，每一次人工智慧互動都依賴資訊科技的實體基礎設施，消耗處理能力、記憶體、網路、電力和冷卻資源，無論這些成本如何向客戶展示。

了解這種基礎設施的經濟效益與了解模型本身的功能同樣重要。

只關注代幣價格的組織可能會忽略那些最終決定企業人工智慧長期成本、韌性和可持續性的因素。

為什麼發票上的費用不能反映全部情況？

企業自然會關注帳單，因為它代表了人工智慧最直觀的成本。依使用量計費看似簡單明了、透明易懂，也方便比較。然而，每一段程式碼所承載的遠不止是對語言模型的簡單存取。每一次人工智慧互動背後都離不開實體基礎設施，而這些基礎設施會消耗處理資源、記憶體、網路、電力和冷卻資源。

儘管這些基礎設施成本對企業人工智慧的經濟效益有直接影響，但客戶往往難以察覺。隨著人工智慧從孤立的試點計畫走向生產工作負載，基礎設施決策會在數百萬次的推理請求中不斷迭代，使其對業務的長期影響日益重要。

因此，要瞭解企業人工智慧，企業需要超越計費流程的限制。承載人工智慧功能的基礎設施的效率、靈活性和營運特性，日益決定人工智慧在其整個營運生命週期中的整體成本。這凸顯了展現人工智慧商業價值的重要性，而不僅僅是進行實驗。

基礎建設效率成為競爭優勢

人工智慧平台的架構會對其長期的經濟效益產生顯著影響。與主要針對人工智慧訓練工作負載優化的基礎設施相比，客製化設計的推理基礎設施可以顯著提高能源效率，而且通常無需複雜的液冷系統。例如，阿里巴巴提供人工智慧超級節點租賃服務，凸顯了專用基礎設施的重要性。

這些效率提升具有顯著的商業意義。更低的能源需求減少了冷卻需求，簡化了設施設計，並在基礎設施的整個生命週期中降低了營運成本。在企業層面，即使是相對較小的效率提升，當其在數百萬次推理請求中得到複製時，也會產生巨大的商業價值。

對於工作負載多變或具有探索性的組織而言，基於代幣的消費驅動型人工智慧仍然是一種合適的部署模型。然而，隨著人工智慧日益融入日常業務流程，許多組織發現，不斷增長的代幣消耗導致營運成本模型變得越來越難以預測和控制。

代幣規模衡量的是人工智慧活動的水平，但無法衡量該活動產生的商業價值。因此，企業領導者越來越關注的不僅是人工智慧的使用成本，還有以商業上可持續的方式交付人工智慧能力的長期經濟效益，這凸顯了製定超越單純政策的人工智慧治理規則和框架的必要性。

專用推理基礎設施代表了一種不同的經濟模式。企業不再為每次互動付費，而是投資於人工智慧能力，以獲得可預測的營運成本、對效能、資料位置和營運靈活性的更強控制力。因此，討論的焦點從購買代幣轉向建立可持續的人工智慧能力。

當這種基礎設施與現場再生能源發電和長期儲能相結合時，企業可以進一步提高成本可預測性，同時增強營運靈活性並支持長期永續發展目標。

關於企業人工智慧經濟學的更廣泛討論

企業人工智慧的應用正步入一個更成熟的階段。討論的焦點不再只是集中在模型的功能或單一程式碼的成本。企業越來越關注人工智慧如何在創造可衡量的商業價值的同時，保持長期的商業永續性。

這正在改變董事會討論的性質。衡量成功的標準不再只是人工智慧的使用量，而是它帶來的成果。代幣的使用或許可以顯示人工智慧的活躍程度，但它並不能衡量人工智慧為組織創造的價值。因此，重點正在轉向部署能夠帶來可預測的業務回報、營運敏捷性和策略優勢的人工智慧能力。

隨著企業對人工智慧的依賴日益加深，它們也必須認識到，底層模型並非一成不變。這些模型會透過漸進式的更新和改進不斷演進，其中許多更新和改進可能難以被使用者察覺，但它們仍然會影響企業的行為和產出。因此，企業人工智慧的治理需要超越簡單的監控使用情況。

企業需要確信，他們不僅了解運行人工智慧的成本，還要了解人工智慧能力本身如何隨時間演變，以及這些變化對業務績效、合規性和風險的影響。駕馭人工智慧的經濟影響及其發展演變的能力本身已成為一項戰略能力。

基礎設施仍然是實現這些成果的基礎，但它不再是討論的重點。真正的目標是打造一種能夠帶來可衡量的商業價值、維持商業永續性，並且能夠在技術不斷發展的過程中得到有效管理的AI能力。

了解基礎設施、營運經濟、治理和業務價值之間關係的組織，將更有利於實現企業人工智慧的長期效益。

我們已經對最佳生產力工具進行了評測、評估和排名。