對韌性的威脅：對人工智慧供應商的依賴日益加深

了解過度依賴人工智慧供應商的風險，以及這對您企業的靈活性和永續性有何影響。

人工智慧正在創造一種新型的供應商依賴關係，這種關係超越了網路安全的範疇，地緣政治和監管決策以及供應商的變化可能會擾亂對重要工具的訪問，從而威脅資料主權和模型。
董事會必須認識到，目前的治理框架和供應商合約不足以確保人工智慧的韌性，他們必須了解依賴關係並制定應急計劃以確保業務連續性。
企業領導者必須將治理和韌性策略納入其營運計劃，並了解人工智慧對關鍵供應鏈的影響，以確保即使在訪問突然發生變化的情況下也能保持業務連續性，同時人類的專業知識對於驗證結果仍然至關重要。

如今人工智慧已迅速成為全球商業營運不可或缺的一部分，它有可能影響從數據分析到決策制定，甚至是安全等各個方面。

但大多數討論都集中在人工智慧的能力、力量、生產力和準確性上，而忽略了一個關鍵問題。

當所有人都在關注人工智慧應用時會發生什麼，卻很少有人思考當人工智慧能力突然消失時會發生什麼。

一個值得注意的例子是 Anthropic 公司重新獲得其人工智慧模型 Fable 和 Mythos 的存取權限所引發的爭議，該爭議主要集中在合規時間表和出口管制機制上。

然而，很少有人質疑為何如此多的組織發現，一項超出其控制範圍的外部決策，竟在一夜之間摧毀了一項至關重要的業務能力。簡而言之，人工智慧存取中斷只是營運韌性方面一個更大問題的徵兆，也暴露出在依賴性治理方面存在一個被忽視的漏洞。

隨著各組織將人工智慧更深入地融入業務運營中，他們需要將焦點從探索人工智慧目前是否足夠安全，轉移到開始質疑如果或當這些人工智慧服務不可用時，他們的組織是否還能繼續運作。

安全性並不等於靈活性

這些很少被討論的議題引出了一個重要的觀點：安全性和韌性並不是同義詞。

安全措施旨在預防和保護系統免受入侵。這可以阻止攻擊者的訪問，減少漏洞數量，並抵禦惡意行為者——所有這些都是安全運營的關鍵要素。另一方面，韌性是指無論出於何種原因，在系統、服務或資料無法使用時，仍能持續進行業務運作的能力。

我們往往將韌性與網路攻擊或IT基礎設施故障等情況連結起來。人工智慧（AI）已經徹底改變了組織面臨的威脅情勢、組織如何運用AI以及如何保護自己免受AI威脅。如今，組織必須越來越重視因地緣政治決策、監管變化或技術提供者自身實施的變更而導致的關鍵AI工具和核心功能存取中斷的情況。

服務不應受到如此嚴重的損害，以至於無法使用。世界另一端的政治決定也可能對營運造成同樣的影響。我們在Anthropic的案例中就清楚地看到了這一點。

考慮到這一點，必須將韌性融入組織的運作方式中，並納入任何新的人工智慧基礎設施，以確保即使在政治幹預的情況下也能保證業務連續性。

傳統軟體依賴關係通常只涉及單一或少數幾個供應商，而企業人工智慧往往依賴一個組織並不擁有或控制的互聯生態系統。人工智慧生態系統中的每一層都代表著一種依賴關係，因此也意味著一個潛在的故障點。

這便產生了駕駛員應注意的四個風險因素：

資料主權：企業資料可能在企業無法控制的法律管轄區內進行處理，對於誰可以存取這些資料或這些資料是否用於訓練未來的模型，其可見性有限。

模型霸權：組織通常對模型的可用性、功能和變更或存取決策幾乎沒有控制權，如果提供者突然決定限制存取或撤銷功能，則組織將處於脆弱狀態。

基礎設施依賴：當今企業人工智慧生態系統的很大一部分依賴少數在特定國家管轄範圍內運作的雲端服務供應商。

人工智慧供應鏈風險：基礎模型、雲端運算平台和軟體供應商相互關聯的系統表明，任何一層的中斷都可能迅速蔓延到更廣泛的技術堆疊中。

這些因素越來越取決於地緣政治，而不是技術本身。

事實上，僅靠供應商合約無法保證組織能夠不間斷地存取其已投資的工具和平台。然而，現有的治理架構尚未真正發展到足以解決這個問題。只有像NIS2和DORA這樣新興的框架才意識到，韌性不能只限於緩解網路安全威脅。

對於企業而言，處理供應商合約及其治理框架的最佳實踐是了解企業在哪些方面依賴供應商，並制定應急計劃，使供應商能夠在中斷期間順利運作。

無論企業依賴的是人工智慧平台、IT服務管理解決方案、客戶關係管理系統，還是其他任何業務關鍵型技術，都必須評估如果存取權限一夜之間發生變化，企業將如何繼續運作。人工智慧應與其他任何關鍵第三方資源一樣，接受嚴格的審查。

此外，董事會應謹慎對待人工智慧能力方面的說法，不要輕易相信。企業應要求供應商提供證據，證明其說法能帶來可衡量的結果。

雖然人工智慧可以快速識別大量潛在漏洞，但僅僅檢測漏洞並不能提高系統的韌性。人類專家仍然至關重要，他們需要驗證檢測結果，根據漏洞對業務的直接影響來確定修復優先級，並確保資源集中在真正存在風險的地方。

近期人工智慧領域的動盪為我們帶來的最大教訓是，許多組織低估了自身對那些無法有效控制的技術的依賴程度。鑑於美國立法者再次討論為人工智慧設置“終止開關”，這應該成為當務之急。

企業領導者必須認識到，人工智慧帶來的每一個機會都伴隨著對供應商依賴的風險。如果您是如今大型企業的首席技術官，您會確保所有技術和安全部門的團隊都了解關鍵人工智慧能力的來源、供應鏈中的依賴關係，以及在存取權限一夜之間發生變化的情況下，如何保持營運的敏捷性。

最終，人工智慧在企業中成功應用的未來將取決於將治理和韌性策略融入商業計劃，從而在商業、政治和營運中斷期間，業務能夠安全地照常進行。

我們選出的最佳雲端備份平台排名。