彌合問責差距：賦予企業人工智慧代理能力的先決條件

當企業和政府將營運任務委託給人工智慧代理商時，討論通常從其能力開始。人工智慧能否執行人類所做的任務，例如結算帳目、與供應商談判、簽署文件或發表公開聲明？它能否以足夠快的速度和低成本完成這些任務，使其部署物有所值？

這些問題固然重要，但績效只是問題的一部分。一旦代理人獨立行動，其他問題就會隨之而來：誰授權了他們？他們代表誰的利益？他們的權力界線在哪裡？或許最重要的是，當事情出錯時，誰該負責？

這就是代理人工智慧的問責機制缺陷，再複雜的模型也無法彌補這個缺陷。代理程式或許功能強大，但其行為仍可能令人反感，甚至違法。

彌合這一差距的唯一方法是透過一個對權限有明確控制、並有審計追蹤的系統，將代理人採取的每一個行動與授權人聯繫起來，並且能夠區分人和機器。

一個規模異常大的普通錯誤

當人們想到人工智慧的危險時，往往會想到一台擺脫了人類控制、追求自身目標的機器。但一個更直接、也不那麼引人注目的風險是，系統可能會在執行日常任務時反覆出錯，而且沒有明確的責任劃分或問責機制。

一個人或許會把發票發錯客戶，但一個連接到完整客戶資料庫的代理商可能會把同一張發票發給成千上萬的客戶。他們可能錯誤地修改了某個字段，然後在整個市場中重複同樣的修改，這並非出於惡意，而是因為他們誤解了某些指令，並且擁有相應的權限。

代理人迅速展現價值可以為公司節省數百小時，但也可能將一個小小的、可糾正的錯誤變成嚴重的營運問題。

當代理人起草電子郵件供他人審查時，這種歧義可能並不重要，因為這個人仍然是專案與外部世界之間的聯繫紐帶。

但當他們可以發送訊息、提交帳單或轉帳時，情況就截然不同了。試想一下，你請助理幫你預訂一張機票，但你沒有給他一張消費額度合理的公司信用卡，而是把自己的護照、銀行卡和辦公室鑰匙都給了他。你或許完全信任這位助理，但授予他的權限顯然與這項任務並不相符。

劃定邊界並解決問題

人工智慧代理本身不具備國籍或法人資格，但可以透過合法的方式與自然人關聯。例如，可信任識別碼可以追蹤代理的活動，追溯到發布該活動的個人。結合清晰的權限和授權，使其權限範圍公開透明且可審計，這將使人工智慧代理能夠以更可控、更透明的方式執行一系列操作和交易。

這些控制措施可以非常具體。例如，代理人可能被允許查看財務資訊但不得篡改，無需審批即可準備付款，或在不超過固定金額的前提下向特定供應商訂購商品。他們的權限可能僅持續單筆交易、一個工作日或特定合約的期限，之後會自動失效，無需任何人提醒即可註銷。

撤銷此存取權限也應同樣簡單。如果公司終止與代理商的合作關係、更換供應商或發現錯誤，則應能夠立即撤銷其存取權限，而無需更改負責人員的憑證。

代理人在這些控制各個領域的合法授權比任何單一 AI 模型的生命週期都長，後者會隨著時間的推移而升級、替換和合併，而客戶通常只會看到一個新的版本號。

將這個想法付諸實踐

愛沙尼亞已決定著手解決這些問題。今年6月，政府開始開發一套由國家支持的人工智慧代理註冊系統，該系統將開放給愛沙尼亞公民和全球創業家。此舉旨在探索愛沙尼亞——一個所有公共服務均可在線獲取的全面數位化國家——如何向新興的人工智慧驅動型企業敞開大門。

根據目前的提案，個人將獲得一個註冊的數字標識符，該標識符可以關聯到一個或多個代表其行事的代理。人工智慧代理執行的操作將被視為機器操作，而作為身分錨點的自然人將承擔責任，例如因過度依賴人工智慧而導致的錯誤。人工智慧代理只能在其被授予的權限範圍內運作。

為了實現透明度，私人服務提供者還需要了解流程是由真人執行還是由機器代表其執行。這使他們能夠有效地實施適當的控制、限制和風險模型。

專為授權而設計

這種方法借鑒了愛沙尼亞二十多年來在數位政府領域的經驗。在愛沙尼亞，個人識別號碼和數位身分系統已經允許個人在明確的權限範圍內代表他人行事。

會計師可以為客戶申報納稅，成年人可以透過健康入口網站管理年長父母的健康狀況，多人可以使用公司銀行帳戶，但各自擁有不同的權限和限制。原則上，同樣的框架也可以支援人工智慧代理的功能。

這將使用戶更加確信，已有保障措施能夠保護責任方免受人工智慧代理人可能犯下的錯誤的影響。隨著這些代理活動日益增多，這也有助於彌合問責機制的缺失。

在賦予人工智慧代理執行權力之前，需要一個具有技術和法律約束力的框架來記錄它們代表誰、它們可以做什麼以及誰對它們的行為負責。