人工智慧正在將普通、無辜的兒童照片變成駭人的性剝削材料：一個令人震驚的事實

صورة لأطفالي على الشاطئ، أ或者 ابني وهو يلعب كرة القدم، أ或者 حتى عائلتي بأكملها وهي تبتسم أمام منزلنا، كلها أمثلة لصور نشرتها على وسائل التواصل الاجتماعي. أعلم أنني لست وحدي في هذا، بالنظر إلى مدى تكرار رؤيتي لصور مماثلة تسلط الضوء على تفاصيل حياتنا العصرية.

但 人工智能 خلق خطرًا جديدًا ومقلقًا، يسمح بتحويل صور الأطفال الحقيقيين العادية، مثل تلك التي ذكرتها للتو، إلى صور استغلال جنسي دون علم الطفل أ或者 والديه.

ولنكن واضحين، هذا ليس تهديدًا نظريًا.

332 إعلانًا لصور استغلال جنسي للأطفال مولدة بالذكاء الاصطناعي تم تمريرها

كشف تحقيق جديد أجرته منظمة Tech Transparency Project (TTP) عن مئات الإعلانات التي تحتوي على مواد استغلال جنسي للأطفال (CSAM) مولدة 借助人工智慧، والتي انتشرت عبر منصتي Facebook 和 Instagram. وحدد الباحثون أربعة أطفال حقيقيين تم التلاعب بصورهم العادية، وفقًا لما ذكرته WIRED، من بينهم اثنان من المؤثرين المراهقين، وطفل في مرحلة ما قبل المراهقة ظهرت صورته على موقع للصور المخزنة، وعضو صغير في عائلة ملكية أوروبية.

إجمالًا، عثرت TTP على 332 إعلانًا تحتوي على مواد استغلال جنسي للأطفال مولدة بالذكاء الاصطناعي، أ或者 ما يُعرف اختصارًا بـ CSAM. وكان معظمها يصور طفلًا تم التلاعب بصورته باستخدام الذكاء الاصطناعي ليظهر وكأنه يقوم بفعل جنسي.

تُعد هذه النتائج تذكيرًا مقلقًا بمدى تغيير الذكاء الاصطناعي التوليدي للمخاطر المحيطة بمشاركة صور الأطفال عبر الإنترنت. لم يعد إنشاء صور مزيفة مقنعة يتطلب وجود صورة صريحة في المقام الأول. فالصورة العادية يمكن أن توفر المادة الخام لذلك.

كيف تُحوّل الصور العادية إلى مواد مسيئة مُولّدة بالذكاء الاصطناعي

يمكن لأدوات الذكاء الاصطناعي التوليدي للصور أن تأخذ صورة موجودة وتعدل أجزاء منها مع الحفاظ على ملامح الشخص الأصلية القابلة للتعرف.

هذا ما يقول الباحثون إنه حدث لعدد من الأطفال الذين تم تحديدهم في إعلانات Meta.

وفقًا لـ WIRED، تمكن الباحثون من تتبع صور أربعة قُصّر إلى مصادرها الأصلية. اثنان منهم كانا مؤثرين مراهقين لديهم حسابات عامة على وسائل التواصل الاجتماعي. وآخر كان طفلًا في مرحلة ما قبل المراهقة، صورته متاحة عبر موقع لصور الأسهم (stock-photo). والرابع كان عضوًا شابًا في عائلة ملكية أوروبية.

لم تكن أي من تلك الصور الأصلية بحاجة إلى أن تحتوي على مواد جنسية ليتم إساءة استخدامها.

صرحت إيما هاردي، مديرة الاتصالات في مؤسسة مراقبة الإنترنت (Internet Watch Foundation)، لـ WIRED: “تطبيقات AI تجعل من السهل جدًا إنشاء صور إجرامية واقعية للاعتداء الجنسي على الأطفال، مما يخلق خطرًا جديدًا يتمثل في أخذ صور الأطفال اليومية وتحويلها إلى محتوى جنسي”.

بمجرد أن تصبح صورة عادية متاحة للجمهور، يمكن لأي شخص تنزيلها وإدخالها في أداة AI مصممة لتعديل الصور.

ذكاء Meta الاصطناعي لم يكتشف مئات الإعلانات

يُظهر حجم التحقيق الأخير أيضًا مدى صعوبة إيقاف المحتوى الناتج.

في أغسطس، كشف باحثو TTP في البداية عن 53 إعلانًا يحتوي على مواد اعتداء جنسي على الأطفال عبر منصات Meta. صرحت Meta لاحقًا أن العديد من تلك الإعلانات ظهرت قبل أن تقدم الشركة تقنية AI جديدة تهدف إلى تحسين قدرتها على اكتشاف الإعلانات المخالفة عند تحميلها.

ومع ذلك، استمر الباحثون في العثور عليها. في الواقع، تقول TTP إنها حددت في النهاية 332 إعلانًا تحتوي على مواد اعتداء جنسي على الأطفال (CSAM) مُولّدة بالذكاء الاصطناعي، مع ظهور المئات منها بعد أن أعلنت Meta عن تقنيتها المحسنة للكشف، مما يثير تساؤلات حول مدى فعالية الرقابة على أدوات الذكاء الاصطناعي.

هذا أمر مهم بشكل خاص لأن هذه لم تكن مجرد منشورات على Facebook أ或者 Instagram أفلتت من المراجعة. بل كانت إعلانات مدفوعة.

تقول Meta إن الإعلانات تُراجع قبل السماح بعرضها وأن الأنظمة الآلية تلعب دورًا رئيسيًا في هذه العملية.

صرحت تريسي كلايتون، المتحدثة باسم Meta، لـ WIRED أن الشركة لا تتسامح مع تطبيقات “nudify” أ或者 استغلال الأطفال، سواء كانت الصور تتضمن أطفالًا حقيقيين أ或者 مُولّدة بالذكاء الاصطناعي. وقالت Meta إن الجهات الفاعلة السيئة تحاول عمدًا التهرب من أنظمة الكشف الخاصة بها وأن بعض مقاطع الفيديو كانت أصعب في الكشف عنها لأن صور الأطفال ظهرت لفترة وجيزة فقط أ或者 كانت ضبابية.

صرحت الشركة بأن العديد من الإعلانات التي حددها الباحثون قد أُزيلت بالفعل، وأن معظمها لم يتجاوز 200 مشاهدة (impression)، وأنها تلقت أقل من 5000 دولار كمدفوعات من هذه الإعلانات. ومع ذلك، وثّق الباحثون حالات زاد فيها انتشار الإعلان بعد الإبلاغ عنه.

ذكرت منظمة TTP أن إعلانًا واحدًا يخص مراهقًا حقيقيًا كان قد وصل إلى أربعة حسابات أوروبية عند الإبلاغ عنه لشركة Meta. وبعد عدة أيام، عندما أزالته Meta، كان الإعلان قد وصل إلى أكثر من 330 حسابًا.

التحقيق يكشف عن انتشار واسع لهذه الأدوات

اكتشف الباحثون إعلانات توجه المستخدمين نحو ما يقرب من 50 تطبيقًا متاحًا عبر متجر تطبيقات Apple (App Store) ومتجر Google Play. ووفقًا لمجلة WIRED، فإن حوالي 300 من أصل 350 إعلانًا تم فحصها في التحقيق الأوسع كانت تروج لمولدات الصور أ或者 الفيديو بالذكاء الاصطناعي.

أفادت Apple لمجلة WIRED أن بعض المطورين قدموا في البداية إصدارات متوافقة من تطبيقاتهم قبل أن يضيفوا لاحقًا قدرات تعرية محظورة. وقالت Apple إنها أزالت 17 تطبيقًا من أصل 20 تطبيقًا حددها الباحثون، واتخذت إجراءات ضد الثلاثة المتبقية، بالإضافة إلى سبعة تطبيقات إضافية كشفت عنها WIRED.

من جانبها، صرحت Google بأنها أزالت جميع التطبيقات المذكورة في التقرير وعلقت مئات التطبيقات الأخرى لانتهاكها سياساتها.

ومع ذلك، تكشف هذه النتائج عن مشكلة تتجاوز أي منصة واحدة، لأن الذكاء الاصطناعي يمكن استخدامه لإنشاء هذه الصور المسيئة. فغالبية أدوات الذكاء الاصطناعي بلا رقابة، مما يضع الشركات في مرمى الخطر. ويمكن لمتجر تطبيقات أن يوزع الأداة المستخدمة لصنعها، ثم يمكن لمنصة إعلانية أن توزع إعلانات تروج لها.

قد يكون لكل طبقة من هذه المنظومة أنظمة أمان خاصة بها، لكن المواد المسيئة لا تحتاج إلا إلى المرور عبر هذه الأنظمة مرة واحدة فقط لتصل إلى المستخدمين.

ماذا تفعل إذا عثرت على صورة لطفلك مولدة بالذكاء الاصطناعي؟

إذا اكتشفت صورًا جنسية مولدة بالذكاء الاصطناعي تخص طفلك، فلا تعيد نشر الصورة أ或者 تشاركها على نطاق واسع في محاولة لتحذير الآخرين.

بدلاً من ذلك، احتفظ بالمعلومات التي يمكن أن تساعد في تحديد مكان ظهور هذه المواد، مثل اسم الحساب وعنوان الصفحة والتفاصيل المحيطة الأخرى، وبلغ عن المحتوى مباشرة إلى المنصة.

في الولايات المتحدة، يمكن أيضًا الإبلاغ عن حالات الاشتباه في الاستغلال الجنسي للأطفال إلى خط الإبلاغ الإلكتروني (CyberTipline) التابع للمركز الوطني للأطفال المفقودين والمستغلين (National Center for Missing & Exploited Children).

يمكن للآباء أيضًا استخدام خدمة Take It Down التابعة لـ NCMEC، المصممة للمساعدة في وقف المشاركة عبر الإنترنت للصور أ或者 مقاطع الفيديو العارية أ或者 شبه العارية أ或者 الصريحة جنسيًا التي تخص شخصًا كان عمره أقل من 18 عامًا. يقوم النظام بإنشاء بصمة رقمية (digital fingerprint)، أ或者 تجزئة (hash)، من الصورة دون الحاجة إلى تحميل الصورة نفسها.

نظرًا لأن الصور المولدة بالذكاء الاصطناعي تخلق سيناريوهات جديدة وأكثر تعقيدًا، يجب على الآباء الذين ليسوا متأكدين مما إذا كانت الصورة المُعالجة تستوفي معايير الإبلاغ، أن يبلغوا عما عثروا عليه بدلاً من محاولة تحديد ذلك بأنفسهم.

結論

لطالما تم تحذير الآباء لسنوات من مخاطر “المشاركة الوالدية” (sharenting) والبصمات الرقمية لأطفالهم. والمشاركة الوالدية هي مصطلح يجمع بين كلمتي “مشاركة” (sharing) و”تربية” (parenting)، ويشير إلى ممارسة الآباء لمشاركة الصور ومقاطع الفيديو والتفاصيل الشخصية المتعلقة بأطفالهم على وسائل التواصل الاجتماعي.

على الرغم من أن الآباء لا يستطيعون القضاء تمامًا على خطر إساءة 人工智慧的使用 للصور أ或者 مقاطع الفيديو التي ينشرونها، إلا أن تقليل عدد الصور المتاحة للعامة لأطفالهم، وأن يكونوا أكثر انتقائية بشأن ما يشاركونه، يمكن أن يقلل من كمية المواد المتاحة للأشخاص الذين قد يسيئون استخدامها.

---

---