在充斥著假訊息、錯誤訊息和有害訊息的時代，如何建立信任：挑戰與解決方案

許多組織正面臨員工已被蒙蔽的現實。這種情況很可能也會蔓延到他們的客戶、投資者和董事會成員。

多年來，警告的重點一直是深度偽造技術的影響，例如視訊通話中的虛假 CEO、授權付款的克隆聲音以及欺詐性電子郵件。

這些策略本身並不新鮮，但在過去的幾年裡，人工智慧使得這些策略的製作成本更低、更難檢測，並且在正常的業務流程中更具說服力。

這一趨勢意味著零信任原則對於資訊處理的重要性，與資訊存取的重要性一樣大。

在網路安全領域，零信任原則源自於一個簡單的假設：預設情況下，任何使用者、裝置、應用程式或請求都不應該被信任。

在人工智慧產生假訊息的時代，企業需要將同樣的思維方式應用於在其組織內部流動的資訊。

新的信心危機

員工、客戶、投資者和合作夥伴會根據他們所見、所讀、所聞做出決策。如果這些資訊是虛假的、被竄改的或斷章取義的，後果可能迅速從混亂升級為業務損失。因此，必須將錯誤訊息、虛假資訊和惡意資訊視為商業風險。

錯誤訊息——即無意中傳播的虛假內容——一直都是個問題。而專門用於欺騙的假訊息，如今比以往任何時候都更容易大規模傳播。惡意訊息——即真實訊息，但往往被故意剝離其背景並用作攻擊手段——或許是這三種訊息中最陰險的。競爭對手、犯罪集團或活躍的行動組織不再需要滲透網路就能造成重大損害。他們只需左右與某個組織有關聯或關注該組織的人的所見所聞和所信所想，就能對其產生影響。

對企業而言，這尤其困難，因為它反映了個人已經面臨的困境。在人工智慧生成內容充斥的環境中，人們為了保護自身而必須養成的習慣——互動前停下來思考、質疑資訊來源、行動前核實——也正是企業必須在營運中培養的習慣。

從本質上講，信任的本能已經成為一種弱點。解決這個問題需要採取結構性的應對措施，而不僅僅是開展提高公眾意識的宣傳活動。

已驗證信任的重要性

這就是零信任原則成為策略的關鍵。傳統上，企業將零信任視為減少權限的手段，確保只有合適的使用者才能存取合適的應用程式。但在人工智慧驅動的資訊環境中，這項原則需要與時俱進。隨著惡意人工智慧程式等威脅的出現，企業不能再僅僅關注誰在請求存取權限。他們還必須調查所使用的資訊類型、正在採取的操作，以及該操作背後的意圖是否可信。

下一步需要超越驗證和認證，提出諸如「這條資訊可信嗎？」、「這張圖片是真實的還是人工智慧生成的？」以及「這段內容是否被篡改過？」之類的問題。零信任原則為企業提供了一個框架來回答這些問題。它要求組織在採取行動之前進行驗證，盡可能限制資訊洩露，並降低虛假、篡改或斷章取義的資訊在企業內部不受控制地傳播的風險。

像C2PA（內容來源與信任聯盟）這樣的標準組織指出了未來的發展方向：內容的來源和完整性將嵌入到數位內容本身，就像瀏覽器中的掛鎖圖示表示安全連線一樣。本質上，企業無需驗證信任；信任將內在於資訊本身並隨資訊一起傳輸，而內容的來源資訊則作為驗證過程的一部分。因此，每一條內容都成為持續信任決策中的一個訊號。

在智慧代理時代建立信任

隨著人工智慧代理在工作場所的引入，信任意圖的需求變得愈發迫切。這些代理將越來越多地扮演與我們並肩工作的角色，模仿我們的行為，例如閱讀文件、解讀數據、做出決策和採取行動。然而，不同之處在於，這些非人類身分以機器的速度運行，這是人類驗證流程根本無法企及的速度。

這意味著人工智慧代理必須從一開始就遵循零信任模型。僅僅因為代理商位於組織內部、獲得使用者批准或連接到公司係統，就不應信任它。必須持續驗證其身分、權限、行為和輸出。同樣重要的是，代理必須遵循最小權限、最小資訊和最小功能原則，僅授予其完成特定任務所需的最低限度存取權、資料和能力。

然而，這些代理程式帶來的信任挑戰僅靠身分管理無法解決。企業需要了解他們面對的是人還是機器，代理程式是否負責任地行事，以及他們的行為是否反映了組織的價值觀和界限。實際上，企業需要製定一套營運準則，以此為依據持續衡量代理程序的行為。

在人工智慧時代，組織必須持續即時審查資訊、內容、意圖、行為和行動，而身份驗證通常僅在入口處進行。然而，鑑於任務的規模，人工智慧對於審計、識別違規行為、必要的治理以及維護信任鏈的完整性都至關重要。

商業中的信任工程

那些能夠成功的組織，會將信任視為需要精心建構和設計的要素，而不是想當然地認為信任是與生俱來的。錯誤訊息、假訊息和惡意訊息給安全、韌性和領導力帶來了挑戰，而人工智慧的出現使得忽視這些問題變得更加困難。

隨著科技不斷改變資訊的創建、分享和處理方式，企業需要像以往重視無障礙存取一樣，在內容真實性方面也建立起同樣的嚴謹作風。這意味著要核實內容、質疑意圖，並將人工智慧系統的功能限制在真正必要的範圍內。

信任不再是預設值。在當今的工作環境中，信任必須是一個有意識的、持續的過程，需要像機器一樣快速地在資訊、意圖、行為和行動等各個層面建立起來。好消息是，零信任模型已經提供了這樣的框架。然而，需要改變的是組織如何實施這個模型，以及如何擴展其範圍，使其涵蓋資訊、意圖、行為和行動。

我們已經對最佳網路安全套裝進行了評測、評估和排名。