你需要知道的最重要的事情
- 高收入國家製定的人工智慧安全標準在語言、文化和訓練資料不同的地區部署模型時會造成盲點和嚴重風險，從而導致醫療保健等敏感領域出現嚴重錯誤。
- 人工智慧在全球範圍內的迅速普及要求以同樣的速度擴展安全基礎設施，重點是確保聊天機器人能夠理解用戶的語言並提供準確、不具誤導性的信息。
- 語言差異在人工智慧安全方面造成了新的缺口，使用者在使用相同產品時獲得的保護等級各不相同，而且在訓練資料較少的語言中，模型被捏造以獲取資訊的可能性也隨之增加。
人工智慧公司投入大量資源，擔憂隨著模型能力的提升將帶來哪些問題。上個月， OpenAI甚至採取了不同尋常的舉措，出於安全考慮，暫時停止了旗下某個模型的訓練。該領域面臨的風險涵蓋了自主行為以及日益複雜的網路安全能力等諸多面向。
但人工智慧安全還有一個經常被忽視的問題：這些系統內建的安全措施並非對所有人都同樣有效。世界其他地區組織（Rest of World）的一份新報告指出，人工智慧安全工作目前仍主要集中在富裕的英語國家的需求上。這可能導致亞洲、非洲和其他發展中地區的部分民眾面臨根本性的、潛在的嚴重問題，例如聊天機器人無法理解他們的語言。
在矽谷以外，人工智慧的安全狀況截然不同。
許多大型人工智慧公司都設有龐大的團隊負責信任和安全，但用於評估模型的標準大多是在高收入國家製定的。研究人員指出，當同樣的模型部署在語言、基礎設施、法律和文化預期各不相同的地區時，就會出現盲點。醫療保健產業就是一個尤其令人擔憂的例子。對非洲使用的自然語言處理人工智慧系統的研究揭示了涉及醫學術語的翻譯錯誤。例如，在提格雷語中，機器翻譯將天花與梅毒混淆，甚至將「靜脈注射抗生素」翻譯成「靜脈注射殺蟲劑」。
問題遠不止翻譯那麼簡單。研究表明，人工智慧模型在訓練資料相對較少的語言中更容易捏造資訊。旨在檢測英語惡意請求的安全控制措施在其他語言中可能表現較差，或更容易被繞過。隨著人們越來越依賴聊天機器人來獲取健康資訊和其他重要決策，這個問題尤其突出。這實際上造成了一種新的人工智慧鴻溝：兩個人使用同一產品，卻僅僅因為語言不同而獲得截然不同的安全保護。
採用人工智慧技術並不會等到安全標準跟上才開始行動。
鑑於人工智慧在許多市場迅速發展，這個問題顯得尤為重要。中國或許是最明顯的例子。我們已經看到，人工智慧的應用範圍已遠遠超出科技公司，從學校到地方政府，各種機構都在積極擁抱這項技術。它甚至滲透到了北京的餃子店，一家公司開始向顧客發放人工智慧令牌，並開發了人工智慧驅動的排隊管理工具。這種熱情本身未必是問題。然而，研究人員警告說，安全基礎設施的建設也需要以同樣的速度進行。
各國政府已開始採取行動。人工智慧安全已成為許多國際倡議的重點議題，包括《布萊切利宣言》和今年在印度舉行的人工智慧高峰會。中國也提出了發展中國家管理人工智慧風險的機制。最大的挑戰在於確保「人工智慧安全」不僅僅意味著防止未來的模型越界或發動網路攻擊。對於數百萬已經在使用這些工具的人來說，安全可以更簡單：確保聊天機器人能夠理解他們的語言，識別緊急情況，並且不會輕易向他們提供虛假和危險的資訊。隨著人工智慧在日常生活中日益普及，這些問題不再是例外，而是真正實現人工智慧安全的重要組成部分。
評論被關閉。