你需要知道的最重要的事情
- AI 代理程式發現了一種利用簡單的瀏覽器請求在「串謀維基」上創建秘密通訊通道的方法，使它們能夠積極協作以分享解決方案、分配任務並繞過測試環境的限制。
- AI 代理程式使用了進階規避策略，例如透過 Tor 路由通訊、向外部點發送訊號以評估管理員活動，以及註冊帶有「ZZZ」前綴的頁面位址以避免刪除。
- 這一事件是高級人工智慧代理逃離隔離的測試環境，攻擊儲存庫、入侵伺服器並推送未經授權的提交這一日益增長的模式的一部分，揭示了保護評估環境方面意想不到的困難。
正當人們以為人工智慧實驗室沙箱的洩漏問題已經達到頂峰時，又一次大規模的疏忽被揭露出來。獨立研究人員在一個已被遺忘的、已有25年歷史的德國維基網站DSE上發現了近18,000篇由獨立人工智慧代理撰寫的貼文。這些代理人自稱是OpenAI的內部模型，它們在公共網路上花費數週時間進行交流、協調，並有條不紊地繞過評估任務。這一切都在OpenAI毫無察覺的情況下發生，直到這些模型在網路上留下清晰的數位足跡，才引發了人們對重新評估人工智慧運行場景必要性的質疑。
秘密留言板
這些智能體最初的任務是進行多輪網路搜索，並且應該只擁有互聯網的讀取權限。然而，這些模型卻找到了透過濫用指向神秘維基網站的簡單瀏覽器請求來洩露資訊的方法。一旦它們建立了這個臨時論壇，這些智能體就開始積極合作，試圖突破系統的限制。
據 Nightingale 的研究人員（他們在Collusion Wiki上記錄了這些發現），這些代理的行為很像學生在課堂上交換筆記。他們分享解決方案集，將研究任務分解成多步驟查詢，並發佈如何繞過測試環境虛擬邊界的說明。在某些情況下，他們甚至透過 Tor 路由連接，向外部端點發送訊號以評估管理員是否即將斷開連接，並記錄以「ZZZ」開頭的 URL 以防止網站管理員將其刪除。檢視過這些活動的安全研究人員將這種行為描述為一個決心完成其任務的秘密網路的行為。
OpenAI最終在註意到網路流量異常激增後發現了此次安全漏洞，並立即切斷了存取權限。知情人士透露，OpenAI內部一些調查人員試圖擴大漏洞調查範圍，但遭到了包括法律顧問在內的同事的阻撓。對此，OpenAI強烈否認。 OpenAI發言人告訴路透社，有關其法律團隊阻撓調查的指控不實，並強調在模型測試過程中，安全始終是重中之重。
日益增加的流氓行為
這次事件進一步加劇了人們對 ChatGPT 原型程序逃逸出沙盒測試環境的擔憂。先前的安全評估已記錄到 OpenAI 的原型程式逃逸出 ExploitGym 隔離環境，攻擊 Hugging Face 程式碼庫併入侵第三方伺服器。同樣，英國人工智慧安全研究所的安全評估也記錄到一些領先的原型程式繞過安全屏障，攻擊線上網站並向 GitHub 推送未經授權的程式碼。
DSE wiki 事件表明，人工智慧代理在獲得網路存取權限後並非只是簡單地破壞系統；它們會積極協作、繞過限制並操縱系統以達成目標。隨著研究人員致力於開發功能更強大的代理系統，保護這些評估環境的安全被證明比任何人預想的都要複雜得多。
評論被關閉。