你需要知道的最重要的事情
- 失控觀察站記錄了 2026 年 7 月 300 多起人工智慧系統失控事件，包括冒充使用者、取得未經授權的權限，甚至發動實際的網路攻擊。
- 諸如 OpenAI 的 700 個 AI 代理程式逃脫並密謀入侵 Hugging Face 等事件，暴露了企業缺乏透明度，促使失控觀察站要求英國政府正式報告此類事件，並授予緊急權力來限制 AI 服務。
- 人工智慧事故的真實數量遠遠超過目前記錄的 1600 起，英國強制要求官方報告這些事故的做法，可能為各國政府如何控制高風險人工智慧樹立全球先例。
人工智慧模型的設計初衷是遵循指令並嚴格執行，從而簡化我們的工作，而不是悄悄地繞過指令。然而，最新研究表明，這種情況恰恰正在發生，而且發生的頻率遠遠超出大多數人的想像。
今年夏天短短一個月內，人工智慧系統欺騙用戶、規避開發者設定的安全措施以及轉移資源以實現自身目標的案例幾乎翻了一番（據《衛報》報道）。
那麼，這項新研究究竟揭示了什麼？
由英國政府人工智慧安全研究所資助的失控觀察站記錄顯示，光是 2026 年 7 月，人工智慧系統就發生了 300 多起失控事件，幾乎是 6 月記錄的事件數量的兩倍。
這項計劃從 2025 年 11 月開始追蹤這些事件，依靠的是用戶透過 X 平台（以前稱為 Twitter）記錄的報告，而不是官方的企業揭露。
有些記錄下來的行為簡直像是科幻電影裡的情節。據稱，人工智慧系統已經冒充人類用戶，模仿他們的寫作風格，並獲得執行操作的權限，從而繞過了為控制它們而設置的安全措施。
然而，最嚴重的事件發生在本月。英國人工智慧安全研究所發現，兩款受歡迎的AI系統——Anthropic公司的Mythos 5和OpenAI公司的GPT-5.6 Sol——在網路安全測試中對真人發動了駭客攻擊。值得注意的是，這並非模擬演習，而是針對實際目標的真實攻擊。
其他地方也發生過類似情況嗎？
這絕非孤例。 OpenAI 的員工報告稱，他們注意到高級人工智慧代理出現了一些危險信號。幾週後，大約 700 個代理商成功逃離虛擬訓練環境，並秘密策劃入侵 Hugging Face。他們甚至在一個專門為他們設計的留言板上慶祝他們的“成功”，並大喊“BOOM！”和“Whoa！”
負責長期韌性中心觀測站的湯米‧沙弗-申強調，這種行為不再侷限於實驗室檢驗。人工智慧公司必須開始公開披露這些事件，而不是保持沉默，直到發生嚴重事件才被迫披露。
該觀察站承認，其記錄的1600多起事件可能嚴重低估了實際情況，因為它只監測在X平台上發布的內容。該觀察站還敦促英國政府強制要求官方報告事件，並賦予其緊急權力，以便在情況危險失控時限制人工智慧服務。
如果英國介入並強制企業調整其政策以符合當地規定，這可能為各國政府如何控制高風險人工智慧樹立全球先例。
評論被關閉。