彌合問責差距：賦予企業人工智慧代理能力的先決條件

عندما تفوض الشركات والحكومات المهام التشغيلية لوكلاء 人工智能، غالبًا ما يبدأ النقاش بالحديث عن القدرات. هل يمكن للذكاء الاصطناعي أن يؤدي ما يقوم به الإنسان، مثل تسوية الحسابات، التفاوض مع الموردين، توقيع وثيقة، أ或者 تقديم إيداع عام؟ وهل يمكنه القيام بذلك بسرعة وبتكلفة منخفضة بما يكفي لتبرير توظيفه؟

هذه الأسئلة مهمة، لكن الأداء ليس سوى جزء من الصورة الكاملة. بمجرد أن يتصرف الوكيل بشكل مستقل، تظهر أسئلة أخرى؛ من فوضه، ومن يمثل مصالحه، وأين تنتهي صلاحياته، وربما الأهم من ذلك، من المسؤول عندما تسوء الأمور؟

هذه هي فجوة المساءلة في 智能體人工智慧، ولن يسدها نموذج أكثر تطوراً. قد يكون الوكيل ذا قدرات فائقة، ومع ذلك قد يتصرف بنتائج غير مرغوبة أ或者 حتى غير قانونية.

السبيل الوحيد لسد هذه الفجوة هو من خلال نظام مزود بضوابط واضحة للصلاحيات ومسار تدقيق يربط كل إجراء يقوم به الوكيل بالشخص الذي فوضه، ويستطيع في المقام الأول التمييز بين الإنسان والآلة.

خطأ عادي بحجم استثنائي

عندما يفكر الناس في مخاطر الذكاء الاصطناعي، غالبًا ما يتخيلون آلة تتحرر من السيطرة البشرية وتسعى لتحقيق أهدافها الخاصة. لكن الخطر الأكثر إلحاحًا أقل دراماتيكية؛ وهو أن يخطئ نظام ما في مهمة عادية، مرارًا وتكرارًا، دون وجود خط واضح للمسؤولية والمساءلة.

قد يرسل شخص فاتورة إلى عميل خاطئ. لكن وكيلاً متصلاً بقاعدة بيانات العملاء الكاملة customer database يمكن أن يرسل الفاتورة نفسها إلى الآلاف. قد يغير حقلاً خاطئًا ثم يكرر هذا التغيير عبر سوق بأكمله، ليس لأنه أصبح خبيثًا، بل لأنه أساء فهم تعليمات معينة وكان لديه صلاحية التصرف بناءً عليها.

السرعة التي تجعل الوكيل ذا قيمة يمكن أن توفر على الشركات مئات الساعات، ولكنها يمكن أيضًا أن تحول خطأً صغيراً قابلاً للإصلاح إلى مشكلة تشغيلية خطيرة.

عندما يقوم وكيل بصياغة بريد إلكتروني لمراجعته من قبل شخص ما، قد لا يكون هذا الغموض ذا أهمية كبيرة لأن الشخص يظل حلقة الوصل بين البرنامج والعالم الخارجي.

ولكن عندما يمكنه إرسال الرسالة، أ或者 تقديم إقرار، أ或者 تحويل الأموال، فإن الأمر يختلف كثيراً. تخيل أن تطلب من مساعد حجز رحلة طيران واحدة، وبدلاً من منحه بطاقة شركة بحد إنفاق مناسب، تسلمه جواز سفرك وبطاقتك المصرفية ومفاتيح مكتبك. قد تثق بالمساعد تماماً، لكن الصلاحيات الممنوحة لا تتناسب بشكل معقول مع المهمة.

رسم الحدود وحل المشكلة

لا يمكن لوكلاء الذكاء الاصطناعي أن يتمتعوا بالجنسية أ或者 الشخصية القانونية، لكن يمكن ربطهم بأشخاص طبيعيين بطرق سليمة قانونيًا. على سبيل المثال، يمكن لمعرّف موثوق به تتبع نشاط الوكيل إلى الشخص المسؤول عن نشره. وبالاقتران مع صلاحيات وتفويضات واضحة تجعل شروط سلطته مرئية وقابلة للتدقيق، سيسمح هذا لوكلاء الذكاء الاصطناعي بتنفيذ مجموعة من العمليات والمعاملات بطريقة أكثر تحكمًا وشفافية.

يمكن أن تكون هذه الضوابط دقيقة للغاية. فقد يُسمح للوكيل بالاطلاع على المعلومات المالية دون تغييرها، أ或者 إعداد دفعة دون الموافقة عليها، أ或者 الطلب من موردين محددين دون تجاوز مبلغ ثابت. وقد تستمر صلاحياته لمعاملة واحدة، أ或者 ليوم عمل واحد، أ或者 طوال مدة عقد معين، وبعد ذلك تنتهي تلقائيًا دون الحاجة إلى تذكير شخص بإيقاف تشغيلها.

يجب أن يكون سحب هذه الصلاحية بنفس السهولة. فإذا أنهت شركة علاقتها بوكيل، أ或者 غيرت موردًا، أ或者 اكتشفت وجود خطأ ما، فيجب أن تكون قادرة على إلغاء وصوله على الفور دون الحاجة لتغيير بيانات اعتماد الشخص المسؤول عنه.

إن التفويض القانوني للوكيل في مختلف مجالات هذه الضوابط يتمتع بعمر افتراضي أطول من أي نموذج ذكاء اصطناعي فردي، والذي سيتم ترقيته واستبداله ودمجه بمرور الوقت، غالبًا دون أن يرى العميل أكثر من رقم إصدار جديد.

تطبيق الفكرة على أرض الواقع

قررت إستونيا معالجة هذه المسائل الآن. ففي يونيو، بدأت الحكومة في تطوير نظام تسجيل مدعوم من الدولة لوكلاء الذكاء الاصطناعي، سيكون متاحًا لكل من المواطنين الإستونيين ومجتمع رواد الأعمال العالمي في البلاد. ويهدف هذا إلى استكشاف كيفية فتح الدولة الإستونية الرقمية بالكامل، التي تتوفر فيها جميع الخدمات العامة عبر الإنترنت، أمام الموجة الناشئة من الأعمال التجارية المدعومة 借助人工智慧.

بموجب الاقتراح الحالي، سيحصل الشخص على معرّف رقمي مسجل يمكن ربطه بواحد أ或者 أكثر من الوكلاء الذين يعملون نيابة عنه. وتُعامل العمليات التي يقوم بها وكيل الذكاء الاصطناعي كعمليات تقوم بها آلة، ويكون الشخص الطبيعي، الذي يمثل مرساة الهوية، مسؤولاً عنها، وهو ما يتضح في حالات مثل الأخطاء الناجمة عن الاعتماد المفرط على الذكاء الاصطناعي. ولا يمكن لوكيل الذكاء الاصطناعي أن يعمل إلا ضمن حدود الصلاحيات الممنوحة له.

ولتحقيق الشفافية، يحتاج مقدمو الخدمات الخاصون أيضًا إلى معرفة ما إذا كانت العملية قد تمت بواسطة شخص أ或者 بواسطة آلة تعمل نيابة عنه. وهذا يتيح لهم تطبيق الضوابط والقيود ونماذج المخاطر المناسبة بفعالية.

مصمم للتفويض

يعتمد هذا النهج على أكثر من عقدين من الخبرة في الحكومة الرقمية. ففي إستونيا، يسمح نظام المعرفات الشخصية والهويات الرقمية بالفعل للأفراد بالتصرف نيابة عن آخرين، مع تحديد صلاحيات واضحة.

يمكن للمحاسب تقديم إقرارات ضريبية لعميله، ويمكن للبالغ إدارة شؤون والديه المسنين عبر البوابة الصحية، كما يمكن لعدة أشخاص استخدام حساب بنكي للشركة بصلاحيات وقيود فردية. من حيث المبدأ، يمكن لهذا الإطار نفسه أن يدعم صلاحيات وكلاء الذكاء الاصطناعي.

وهذا من شأنه أن يمنح المستخدمين ثقة أكبر بوجود ضمانات لحماية الشخص المسؤول من الأخطاء المتوقعة التي قد يرتكبها وكيل الذكاء الاصطناعي. كما سيساعد ذلك في سد فجوة المساءلة مع تزايد الأنشطة التي يقوم بها الوكلاء.

قبل منح وكلاء الذكاء الاصطناعي صلاحيات تنفيذية، يحتاجون إلى إطار عمل ملزم فنيًا وقانونيًا يسجل من يمثلون، وما يمكنهم فعله، ومن يبقى مسؤولاً عن أفعالهم.