加速人工智慧應用指南：在避免不必要風險的前提下保障安全。

在過去18個月裡，我們的團隊已經從單純地討論是否使用人工智慧，轉變為質疑如何盡快部署它。更棘手的問題在於，如何讓團隊能夠以足夠快的速度行動，從而最大限度地發揮人工智慧的優勢，同時又不讓公司的風險擴張速度超過其管理和控制能力。

傑森泰勒

Entrata 的技術長 (CTO) 和資訊安全長 (CISO)。

對於科技和網路安全領域的領導者來說，這種兩難並不陌生，因為人工智慧提出了兩種看似矛盾的需求。一方面，組織的IT部門追求實驗性、可近性、速度以及釋放實際生產力潛力的可能性。另一方面，安全部門需要控制權、問責制、資料邊界，以及確保新的工作流程不會導致可避免的風險。

這兩種方法都有效，因此，如果企業將人工智慧僅僅視為創新專案或安全問題，就會遇到困難。這是一種範式轉變，而能夠有效應對這種轉變的組織，會建立充足的基礎設施和強大的工具，並賦能團隊自信前行，而不是強迫他們在速度和控制之間做出選擇。

先從工作本身入手，而不是從工具著手。

許多公司一開始將人工智慧的應用視為推出一款標準軟體程式。他們選定供應商，分發許可證，發布一些指導方針，然後就想當然地認為人工智慧的使用會自然而然地帶來變革。這種方法或許能帶來一些活動，但很少能帶來持久的營運變革。

真正的應用始於領導者理解如何實際有效地完成工作。財務團隊、產品團隊、行銷團隊、支援團隊和工程團隊不會以相同的方式使用人工智慧工具，因為每個團隊的知識需求、資料來源、風險承受能力和專業技能各不相同。每個團隊都需要開發專門的人工智慧技能和工具。

領導者應該先詢問每個職位要實現什麼目標，需要哪些知識才能做出更好的決策，需要哪些技能才能負責任地使用人工智慧，以及需要哪些工具或資料來源才能產生可靠的結果。

當人工智慧與這些能力結合時，它就成為組織運作方式不可或缺的一部分；當它被強加於不相關的流程時，它往往會產生額外的產出，但不一定能帶來更好的結果。

將資料存取視為風險設計問題

數據存取是人工智慧正在改變營運模式的最重要領域之一。為了真正發揮人工智慧的優勢，團隊通常需要存取他們以前從未直接使用過的資訊。

行銷團隊可能需要產品文件和客戶洞察，財務團隊可能需要結構化的營運數據，而支援團隊可能需要內部知識和歷史背景，以及理解不同系統間模式的能力。

開放資料存取權限的趨勢可以理解；人工智慧的價值會隨著資料背景的擴大而提升。反之，限制資料存取權限的趨勢也同樣可以理解，因為更廣泛的存取權限可能會引發對隱私、合規性和安全性的擔憂。解決之道不在於偏袒任何一方，而是建構一個更有系統的模型，以確定哪些資料可以使用、由誰使用以及用於什麼目的。

例如，在某個企業部署專案中，切實可行的解決方案並非賦予每個團隊所有權限，或將人工智慧侷限於純粹的技術功能。相反，該方案是將不太關鍵的營運數據與更敏感的資訊分開，然後賦予團隊足夠的權限以採用不同的工作方式，同時最大限度地減少工作流程出現意外情況時可能造成的損失。

思考這個問題的一個有效方法是藉助「數據影響」的概念。並非所有資料集都具有相同的風險級別，也並非所有人工智慧應用案例都需要同等程度的限制。有些資訊可以更易於訪問，因為即使出現問題，潛在危害也有限；而另一些信息，特別是個人身份信息或敏感客戶數據，則需要更嚴格的管控。

這種方法允許團隊在風險較低的領域進行試驗，同時在業務真正需要的地方保持更嚴格的管控。其目標並非削弱安全性，而是使其更加精準，使公司能夠在不失去對最關鍵環境、資料和工作流程控制的前提下更快地發展。

將驗證整合到工作流程中

驗證是決定人工智慧策略能否規模化或走向失敗的關鍵環節。人工智慧系統生成的作品看似精美，但可能存在不完整、不準確、缺乏品牌識別或不符合標準等問題。雖然人工審核在初期階段可以消除部分風險，但一旦人工智慧融入日常運營，人工審核就難以有效應對。

我在技術團隊中對此深有體會：只有當有可靠的方法來評估產品的品質、安全性和準確性時，人工智慧才能真正加速軟體開發。如果沒有這一層驗證，團隊短期內或許會感覺速度很快，但卻在悄悄增加後期階段的審查負擔、重工和風險。

企業需要設計能夠融入工作流程本身的驗證模型。這可以包括自動化檢查、資料品質控制、審批流程、日誌記錄、可觀測性以及明確的升級規則，用於處理未經進一步審核而不應信任的輸出結果。

領導者不應將這些機制視為額外的、遲來的例行程序。相反，正是這些機制使得人工智慧能夠從單純的個人生產力工具轉變為全面的企業級能力，因為只有當團隊擁有持續評估工作成果是否準確、恰當且安全的方法時，才能擴大人工智慧的應用規模。

採用人工智慧已成為領導者的責任。

人工智慧的採用不能僅僅委託給一個創新團隊或人工智慧經理，而讓其他高階主管在遠處觀望。每個職能部門的領導者都需要了解人工智慧將如何改變團隊的工作性質，員工將如何與智慧體和模型合作，以及可能出現哪些風險。

這並不意味著每位主管都需要成為機器學習專家，但確實意味著領導者需要具備足夠的專業知識來指導決策、設定預期，並以身作則，樹立團隊行為榜樣。如果領導者將人工智慧視為所有人都必須接受的技能，員工就不太可能改變他們的工作方式。

文化框架也至關重要，因為如果員工聽到「人工智慧應用」被解讀為「裁員」的委婉說法，他們就會固守現有崗位，而不願探索未來的發展方向。領導者應該坦誠地告訴員工，職位將會改變，一些工作流程將會消失，新的職責將會出現，同時強調眼下的目標是幫助員工提升工作效率，從而實現投資回報。

在許多情況下，工作方式正從手動執行每項任務轉變為協調系統來完成工作。這需要人們具備應對不確定性的能力，而隨著人工智慧能力的提升，這種能力變得越發重要。

成功應用人工智慧的公司並非那些將創新置於安全之上的公司，也不是那些事前才消除所有潛在風險的公司。相反，它們是那些在資料處理方面建立起堅實的治理、驗證和規範基礎的公司，從而使團隊有信心向前邁進。在企業級人工智慧環境中，控制是實現永續速度的基石，這凸顯了謹慎行事的重要性，尤其是在處理敏感的企業級人工智慧元件時。