Google Gemini for Workspace中發現了一個嚴重的安全漏洞，攻擊者可以利用該漏洞將惡意程式碼注入電子郵件。這些惡意程式碼隨後可能被用於操縱人工智慧工具，誤導用戶並將其重新導向到釣魚網站。
根據Bleeping Computer 的報告顯示，該漏洞利用的是看似正常的電子郵件摘要，這些摘要實際上包含隱藏的惡意指示或警告。 Gemini 會在產生郵件摘要時自動執行這些指令。
此攻擊機制依賴在電子郵件中嵌入不可見的Gemini指令。具體做法是，使用HTML和CSS程式碼將指令隱藏在郵件正文末尾，並將字體大小設為零，顏色設為白色。由於這段額外的文字不包含任何附件或鏈接，即使是最好的防毒軟體或郵件程式也無法偵測到或標記它，從而增加了郵件到達潛在受害者收件匣的可能性。
當目標使用者開啟郵件並請求 Gemini 總結其內容時，這款人工智慧軟體會自動執行偵測到的隱藏指令。使用者通常信任 Gemini 處理其工作區內容的能力，因此該警報會被視為合法警告，而非惡意注入。
過去一年中曾發生過類似的攻擊事件，儘管採取了一些預防措施來阻止誤導性回复，但這種技術仍然普遍有效，這也解釋了它為何會繼續被使用。
根據Bleeping Computer報導，當他們向Google詢問針對此類攻擊的防禦措施時，一位公司發言人提到了一篇關於程式碼注入攻擊的部落格文章，並解釋說一些預防措施正在實施或即將發布。谷歌也確認，目前尚未發現此類攻擊在實際環境中發生。
發現此漏洞的 Mozilla GenAI 漏洞賞金專案經理 Figueroa 提出了一些預防此類威脅的建議：安全團隊應移除、封鎖或忽略隱藏在郵件正文中的內容。此外，還可以部署過濾器，掃描 Gemini 郵件用戶端中的緊急訊息、URL 和電話號碼，並將其標記出來供用戶進一步審核。
目前，使用 Gemini 進行郵件摘要時務必謹慎，因為您永遠無法預知郵件中可能隱藏著什麼資訊。希望谷歌能盡快發布針對這種新型攻擊的修復程式。
評論被關閉。