惡意人工智慧程式正在迫使人們：將零信任擴展到程式碼層面。

軟體安全一直以來都以人為本。過去，程式碼的編寫、審查和發布都由人來完成。而現在，這些工作正逐漸被機器取代。

Anthropic 在最近的一篇研究論文中報告稱，其生產力資料庫中嵌入的程式碼超過 80% 是由其 AI 模型 Claude 編寫的。

提高開發人員生產力的能力也在改變網路攻擊的經濟格局。

當攻擊者仍在識別目標時，機器可以產生惡意負載、測試變種、使程式碼適應不同的環境，並以安全軟體無法跟上的速度重複該過程。

速度凌駕於安全控制之上

大多數企業軟體安全工作流程都包含一個審查期。程式碼編寫、檢查、測試、批准和部署。如果之後出現可疑情況，安全團隊會進行調查並回應。

如果程式在幾分鐘內就從單純的指導過渡到執行，那麼這種模式就會失效。

AI產生的程式碼幾乎可以瞬間轉換為腳本、依賴項、自動化任務或基礎設施變更。同時，開發代理可以修改檔案、解析軟體包並執行命令。

人工審稿者已不再參與審稿流程。

攻擊者可以利用相同的機制產生漏洞、測試規避技術，並針對不同的目標修改惡意負載的行為。這使得攻擊者能夠更靈活地應對攻擊，但防禦者可識別的穩定指標更少。

雖然人工智慧分析可以改善篩檢工作，但它通常只能得出機率結果，而無法制定具體策略。而且，在機器運轉速度下，「可能可疑」的判斷遠遠不夠。因此，制定人工智慧治理規則和框架的需求變得日益迫切。

機器正在改變攻擊模式。

人類攻擊者不會消失，但攻擊鏈中更大一部分現在是由機器執行的。

人工智慧可以自動執行偵察任務、加速漏洞發現、產生攻擊程式碼、重寫惡意載荷，並根據目標環境調整命令序列。但大多數防禦措施都是圍繞著人類的限制設計的：重複使用基礎設施、捷徑和可追蹤的模式。這些都不適用於機器攻擊。

機器產生的惡意負載可能與已知特徵不匹配，也可能沒有公認的信譽。它可能被創建、短暫使用後即被丟棄。但人工智慧驅動的惡意軟體必須與目標環境互動才能實現其目標。它的行為無法掩蓋其意圖；它必須存取資源並以推動攻擊的方式改變環境。

惡意程式碼能夠造成的危害是，它會發出最持久的安全訊號。

安全部門需要提出不同的問題。

軟體供應鏈安全性有所改善，但其中大部分仍然是在執行之前檢查影響特徵，而不是控制執行本身。

軟體元件清單 (SBOM)、簽章和原始程式碼能夠讓安全團隊更確信程式碼的組成、來源和建置日期。然而，了解原始碼並不能揭示程式運行時的具體行為。

即使程序通過了所有這些檢查，仍然可能存在風險。即使是合法的建置過程，其影響在執行過程中也可能違反策略；而人工智慧產生的腳本完成其預期任務的方式，可能會損害資料或系統。因此，乾淨的依賴項清單並不能證明程式行為安全，這凸顯了即使使用人工智慧工具，也必須遵守程式設計標準的重要性。

實施後才披露資料為時已晚。

偵測和回應仍然必不可少，但它們是在威脅已經滲透到環境中之後才介入的。當可疑行為顯現時，惡意軟體可能已經存取了機密資訊、篡改了系統狀態、開啟了網路連線或建立了連續性連接點。

人工智慧顯著縮短了這一時間。程式碼的創建、修改和部署速度遠超人類審查速度。等待執行後的證據出現，會給攻擊者充足的迴旋餘地。

我們需要將決策過程提前到更早的階段。與其問“如果軟體出現故障，我們能否控制住它？”，不如問“這種行為一開始就應該被允許嗎？”

這並不意味著更換現有的控制裝置，而是改變關鍵安全門的位置。

對程式指令零信任

零信任原則透過摒棄隱性信任，徹底改變了組織安全。使用者、裝置、會話和存取請求不再僅僅因為看起來熟悉就值得信任；所有這些都必須根據既定策略進行驗證。

軟體實作也需要同等程度的驗證。

程式碼不應僅僅因為來自知名程式碼庫、由知名發布者簽署、經過建置流程驗證或之前未表現出惡意行為就被信任。這些指標固然有用，但並非決定性因素。

代碼零信任原則旨在解決這個問題。在任何程式運行之前，都必須根據策略評估其預期行為。如果行為符合要求，則可以繼續執行。否則，必須阻止、限制、隔離或升級該元素以進行審查。這項需求凸顯了為人工智慧建立清晰規則和框架的重要性，而這些規則和框架遠不止於簡單的策略。

組織可以先定義程式碼進入環境或以高權限執行的每條路徑。這包括正式的開發管道，例如程式碼庫、開源軟體包、容器和持續整合/持續部署 (CI/CD) 管線，以及電子郵件附件、下載的文件、巨集、瀏覽器擴充功能、終端安裝程式、第三方整合和透過 AI 或自動化工具注入的腳本。

接下來，至關重要的是要識別這些路徑在哪些方面依賴現有的信任。如果僅僅因為軟體來自可信任來源、經過簽名、經過建置流程或沒有惡意歷史記錄就允許執行，那麼這種控制是不完整的。在允許該元素運行之前，仍然需要對其行為進行評估。這也凸顯了對人工智慧供應商日益增長的依賴所帶來的漏洞風險。

隨著人工智慧承擔起創建合法程式碼和惡意程式碼的更多任務，組織不能再想當然地認為透過現有檢查的程式碼就可以運行。實施必須成為經過深思熟慮的安全決策。

我們列出了適用於 PC、Mac 和行動裝置的最佳網路安全套裝。