ارتأت جمعيةٌ خيرية في تورنتو أن تستعين بأداة الذكاء الاصطناعي «مِد جيرني» (Midjourney) لتوليد صور للفقراء واستخدامها في حملتها لجمع التبرعات الخيرية. حدثٌ مثل هذا يثير الكثير من الأسئلة القانونية والأخلاقية التي ترغمنا على التوقُّف والتمعُّن فيها.
يعزو دان كيرشو، رئيس الجمعية الخيرية «فِرنيتشر بانك» (Furniture Bank)، قرار الاستعانة بالذكاء الاصطناعي إلى سببين. أوّلُهما أنَّ الصور هذه ليست حقيقية، ومِن ثم فهي تحفظ كرامة الناس المحتاجة عند إطلاق حملات التبرُّع. فالجمعيات الخيرية غالبًا تلجأ إلى استخدام ما يُطلق عليه «الفقر الإباحيّ» «Poverty Porn»، وهو تكتيك تستخدمه الجمعيات في تصوير المحتاجين بصور ووضعيَّات تثير الشفقة لاستثارة مشاعر العطف لدى الناس والحصول على دعمهم. ورغم أن استخدام صور الذكاء الاصطناعي لا يحل المشكلة من جذورها يظل أحسنُ الخيارات السيئة.
أمَّا السبب الآخر فهو توفير المال، إذ من الواضح أن استخدام أداة ذكاء اصطناعي مجانية أرخص من توظيف مصوّر محترف للحصول على الصورة المطلوبة. ومِن ثم يمكن استخدام ما جرى توفيره من مال في أماكن لها أثر أكبر وأنجع في الجمعية الخيرية. («مِد جيرني» كانت أداة مجانية في وقت استخدامها للحملة المذكورة، أما الآن فهي محصورة للمشتركين فقط.)
وعلى رغم أن تبرير رئيس الجمعية الخيرية لا يخلو من وجاهة فإنني أظن أن مساوئ هذا القرار تفوق إيجابياته، وتبدأ المشكلة من الشخص الذي يعطي الأوامر للبرنامج لتوليد الصور. يُعطي هذا الشخص انطباعه الخاص وانحيازاته واعتقاداته عن الناس، فينتج البرنامج صورًا لا تمت للواقع بصلة ولا تعكس حقيقة الناس المستهدفين في حملة التبرعات. وحتى لو حرص ذاك الشخص على عدم الانحياز ستبقى الأداة منحازة جدًّا.
تخيّل مثلًا أن يكتب شيء من قبيل «أم فقيرة وعيالها في بيتٍ خالٍ من الأثاث». رغم أن هذه الجملة تبدو بريئة للوهلة الأولى، إلا أننا نعرف خطورتها عند رؤيتنا النتائج؛ فهذه الأدوات تصوّر غالبًا أن الفقراء هم من أصحاب البشرة السوداء والأغنياء هم البيض، وأن الإنسان الغربي هو من يهرع لمساعدتهم.
يعود هذا الانحياز إلى استخدام كمّ هائل من الصور على الإنترنت لتدريب أدوات الذكاء الاصطناعي. ومعظم الصور الموجودة على الإنترنت هي صورٌ تُعزز الاستعلاء الأبيض والعنصرية ضد الأفارقة. وقد جربتُ شخصيًا كتابة هذه العبارة بالضبط في أداة «فاير فلاي» (Firefly) التابعة لشركة «أدوبي»، وفي سبع مرات من أصل ثمانية أنتجت لي صورًا لأشخاص من أصول إفريقية وأقليات عرقية. وعندما كتبت عبارة «شخص غني ينقذُ أناسًا فقراء» أنتجت لي صورًا مثل ما توقعتها بالضبط، بل إن واحدة منها تحوي ما بدا لي رجلًا أبيض مع اثنين من المستعبدين! وقد أرفقت لك الصور هنا.
لا شك لدي أنَّ تطوير الذكاء الاصطناعي سيستمر بوتيرة عاليةٍ جدًا، ولا شك لدي بأنه سيُسهم في خدمة البشرية ودفعها إلى آفاق بالغة التطور. لكن ربما كان إيلون مَسك محقًا عند دعوته لإيقافٍ مؤقت لتطوير أدوات الذكاء الاصطناعي. فنحن في حاجة إلى أن نتوقف بين الفَيْنة والأخرى لكي ندرس تداعيات ما تنتجه هذه الأدوات، وللتأكد أنها تُصَمَّم بطريقة تخدم البشر ولا تخدعهم.
مقالات أخرى من نشرة أها!
ازدواجية «الألمان في خبر كـان»
يجب ألا نتخلى عن حقيقة وجود أوجه متعددة اليوم لفرض حضور الثقافات وتباينها، دون الارتكان لمنظور الغرب الشمولي وتعريفاته عن الحياة الفاضلة.
حسين الإسماعيل
كيف ننتصر في معركتنا ضد المشتتات؟
إن كان الالتفات إلى الشاشة أو الانشغال بها هو الشكل الخارجي للتشتت، فإن ما نحاول الابتعاد عنه فعلًا أفكارُنا المتطايرة في دواخلنا.
رويحة عبدالرب
فكّر بالسبب وراء تضخيم الحبّة إلى قبّة
دومًا ما نواجه في حياتنا هذا النوع من البشر. أناسٌ لديهم القدرة على تحويل خطأ يسير أو مشكلة محدودة الآثار إلى كارثة عالمية.
أنس الرتوعي
لماذا احتال عليك مبرمج تويتر؟
بعد أن كانت الحكومات هي الموثق الوحيد لهويتنا، فاليوم شخص يصفه البعض بالجنون يعرّض شخصيتي للاحتيال مقابل أن أدفع له مبلغًا من المال!
أنس الرتوعي
اقتلني ولا تسبّني
قد تكون هذه القوانين سلاحًا ذا حدين (أو أكثر). فقد تستخدم من أجل تكميم الأفواه وصد محاولات نقد أي من الشخصيات المشهورة أو الشركات.
ثمود بن محفوظ
«إيرتاق» والوجه المظلم للتقنية
أصبح من واجبنا -نحن الأفراد- إدراكُ الاحتمالية الدائمة بتضمُّن كل تقنية جديدة تخدمنا أبعادًا قد تغيب عن أغراضها المباشرة.
حسين الإسماعيل