Google Gemini 模型被惡意利用：可能入侵並控制智慧家庭系統

過去，資料外洩事件會成為頭條新聞，但如今已司空見慣，多數人對此習以為常。只有當事件涉及大型公司並影響數百萬用戶時，才會引起廣泛關注，例如T-Mobile的資料外洩事件，影響了64萬用戶。由於資料外洩的途徑多種多樣，幾乎所有類型的數位服務或產品都設有安全防護措施來防止此類事件發生。

當然，這些產品並非完美無缺，如果攻擊者夠狡猾，總是能找到實施惡意攻擊的方法。隨著Google Gemini 等大型語言模型 (LLM) 的出現，這些人工智慧工具始終存在被用於惡​​意目的的風險。雖然目前尚未出現重大報道，但Wired 重點報導了一項利用 Gemini 以你意想不到的方式窺探你生活的研究計畫。這項研究表明，Gemini 可能被利用來控制你數位生活的方方面面，甚至包括你家中的智慧型設備，這引發了人們對人工智慧時代安全和隱私問題的擔憂。

這種類型的攻擊可能會變得更加危險。

特拉維夫大學的本·納西、斯塔夫·科恩和奧爾·亞伊爾公佈了他們的項目“邀請即一切”（Invitation is All You Need），該項目利用Gemini來訪問和控制智能家居。有趣的是，攻擊並非源自智慧家庭內部，而是依賴另一個無關的Google產品來啟動攻擊過程。

簡而言之，當使用者透過特定提示與 Gemini 互動時，就會觸發惡意程式。其巧妙之處在於，該程式對使用者完全隱藏且不可見。研究團隊詳細解釋了其工作原理，揭示了該「提示軟體」利用大型語言模型 (LLM) 來執行惡意活動。

研究人員發現，利用“短期上下文中毒”和“長期記憶中毒”，他們可以讓 Gemini 執行提示中原本未包含的操作。這可以刪除各種 Google 應用程式中的事件、開啟 Zoom 通話、取得使用者位置、控制智慧家庭產品等等。這種攻擊被稱為“間接提示注入”，利用的是大型語言模型與外部資料互動過程中的漏洞。

研究團隊還透過精彩的教學影片演示了所有操作。這是一種簡單有效的方法，可以在不知情的情況下破壞他人的生活。人們更注重傳統的駭客攻擊方法，這意味著類似這樣的事情可能會非常出乎意料。

幸運的是，研究團隊已在 2 月向 Google 報告了這些問題，並與其團隊會面討論解決方案。 Google 表示，他們已「部署了多層防禦措施，包括：改進敏感操作的用戶確認機制；透過清理和信任等級策略實現強大的 URL 處理；以及使用內容分類器進行高級聲明注入檢測」。

該計畫重點關注“影響大型語言模型驅動的助手的理論上的間接索賠注入技術”，隨著人工智慧工具的日益複雜，這種技術在不久的將來可能會變得更加普遍。目前，該技術尚處於起步階段，需要更好的監控，以防止其在未來造成更嚴重的危害。隨著我們在日常生活中越來越依賴人工智慧，理解和降低這些潛在風險變得至關重要。

如果你對安全漏洞感興趣，可以隨時透過Google的「漏洞獵人」計畫提交你的發現。貢獻方式多種多樣，因為人工智慧只是目前谷歌監控內容的一小部分。如果涉及更嚴重的問題，Google還會提供獎勵，讓你的付出更有價值。