克服阻礙人工智慧活化的主要障礙

試圖將非確定性實體整合到這些模型中，會耗費工程師原本就不多的時間，並引入任何組織都無法掌控的風險。真正的危險就在於這種脫節。

伊芙·康特塞沃伊

Teleport公司的執行長。

許多專案因缺乏強大的安全基礎而陷入停滯，這並非沒有道理。我們已經看到，某個代理程式在短短九秒內就刪除了公司整個生產力資料庫及其備份。安全團隊被要求使用專為只有雙方參與的世界設計的工具來阻止此類事件的發生。漏洞開始顯現。必須做出改變，否則創新將在自身的限制下停滯不前。隨著對人工智慧的依賴日益加深，網路安全風險也不斷增加。

人工智慧代理需要一種新的身份模型

生產和工程團隊面臨加速交付的壓力，這種壓力真實存在且普遍存在。因此，他們常常會沿用舊的做法，例如賦予代理廣泛的權限，並像對待其他微服務一樣對待它們。

但人工智慧代理與機器截然不同；它們和人類一樣，會犯錯，也會有不確定性。然而，它們卻能以機器的速度全天候運作。一個代理可以在九秒鐘內刪除整個生產力資料庫。你認識幾個能做到這一點的人？

這就引出了問題的核心。身份系統最初是為只有兩種參與者——人和機器——的世界而設計的，但現在卻有三種。試圖將代理AI整合到傳統系統中，會使每個代理都成為潛在的入侵來源，能夠在幾秒鐘內對整個基礎設施執行數千個操作。

然而，這正是工程師必須要做的：使用那些開始崩潰的過時身分和存取管理 (IAM) 工具來防止災難性後果的發生。裂痕已經開始顯現。

舊模式為何會崩潰？

從歷史上看，處理 Kubernetes 叢集、雲端平台、容器編排、CI/CD 管道、資料庫等的工程師一直飽受身分碎片化的困擾。

就人力而言，這是可以控制的。人員可以被追蹤；他們上下班打卡。他們的速度很慢，所以視線盲區很少會立即導致事故。

隨著代理AI的出現，速度大幅提升。然而，團隊突然被成千上萬條活動日誌淹沒，卻無力在代理進行未經授權的更改之前有效地控制它。

如果要強制執行強身份驗證和短期權限，就意味著需要為技術堆疊中的每個工具建立單獨的整合。當每個工具使用不同的整合協定時，這使得人工智慧的擴展變得困難。

工程師們本應專注於使用代理 AI 進行創新，卻被迫手動連接身份和訪問管理 (IAM)、基礎設施和密鑰，既沒有一致的身份，也無法了解代理操作，而且每個團隊都要從頭開始構建自己的容器或虛擬機工作流程。

但為處理第三種身分類型而開發新工具，對整個產業來說卻是最糟糕的應對方案。這將使工程師的工作量翻倍，他們需要從頭開始重建身分策略，並實現更高的匿名性。新的身份孤島對其他隔離系統而言是匿名的，這使得抓捕攻擊者變得更加困難。

這就引出了一個問題：組織如何控制代理行為？解決方案並非簡單地在技術堆疊中加入「Plus」功能或部署「Plus」工具；而是要改變我們的身分模型，徹底消除匿名性。

控制人工智慧意味著完全匿名。

為了消除基礎設施中的匿名性，組織必須為每個參與者——無論是人、機器、工作負載還是人工智慧代理——賦予一流的身份，並透過實體信任根進行加密保護。對基礎設施策略進行根本性的重新思考已勢在必行。

徹底消除持久性憑證。移除 API 金鑰和密碼可以杜絕憑證傳播，從而避免資料洩露，並消除金鑰被竊取或落入不法分子手中的風險。由於身分資訊基於真實世界因素，攻擊者無法冒充可信任機器，也無法誘騙代理程式擷取資料庫。

但僅靠強身份驗證是不夠的。人工智慧代理與其他所有參與者一樣，必須遵守零信任原則。只有當孤立的系統被基礎設施層取代時，才能實現這一點。在這個基礎設施層中，代理的身份與其操作的機器以及授權它們的人員的身份完全相同。

代理必須擁有與人類使用者授權的特定操作直接相關的短期權限。權限與操作本身而非操作者綁定。例如，產生程式碼的代理程式必須繼承具有相應權限的人類擁有者的授權，並將權限限制在執行該任務所需的特定電子表格上。

非確定性執行者在接觸生產基礎設施之前，也需要一個安全可靠的執行環境。

如果沒有預設權限，危害範圍將極為有限。但這只有在單一系統為所有身分設定單一策略時才能實現。

身份策略也可以作為代理與其推理端點之間的強制執行層引入，以便在執行指令之前控制行為。

透過統一架構，身分成為人工智慧的控制層。

人工智慧代理在企業環境中蘊藏著巨大的機遇，尤其是部署於即時基礎架構時，它們能發揮最大的價值。從管理日常變更到即時部署改進，其應用前景無限廣闊。在如此關鍵的業務流程中成功運用人工智慧，需要對其行為進行嚴格的控制。