هل يحفظ الذكاء الاصطناعي كرامة الفقراء أم يبيحها؟

نحن في حاجة إلى أن نتوقف بين الفَيْنة والأخرى لكي ندرس تداعيات ما تنتجه هذه الأدوات، وللتأكد أنها تُصَمَّم بطريقة تخدم البشر ولا تخدعهم.

ارتأت جمعيةٌ خيرية في تورنتو أن تستعين بأداة الذكاء الاصطناعي «مِد جيرني» (Midjourney) لتوليد صور للفقراء واستخدامها في حملتها لجمع التبرعات الخيرية. حدثٌ مثل هذا يثير الكثير من الأسئلة القانونية والأخلاقية التي ترغمنا على التوقُّف والتمعُّن فيها.

يعزو دان كيرشو، رئيس الجمعية الخيرية «فِرنيتشر بانك» (Furniture Bank)، قرار الاستعانة بالذكاء الاصطناعي إلى سببين. أوّلُهما أنَّ الصور هذه ليست حقيقية، ومِن ثم فهي تحفظ كرامة الناس المحتاجة عند إطلاق حملات التبرُّع. فالجمعيات الخيرية غالبًا تلجأ إلى استخدام ما يُطلق عليه «الفقر الإباحيّ» «Poverty Porn»، وهو تكتيك تستخدمه الجمعيات في تصوير المحتاجين بصور ووضعيَّات تثير الشفقة لاستثارة مشاعر العطف لدى الناس والحصول على دعمهم. ورغم أن استخدام صور الذكاء الاصطناعي لا يحل المشكلة من جذورها يظل أحسنُ الخيارات السيئة. 

أمَّا السبب الآخر فهو توفير المال، إذ من الواضح أن استخدام أداة ذكاء اصطناعي مجانية أرخص من توظيف مصوّر محترف للحصول على الصورة المطلوبة. ومِن ثم يمكن استخدام ما جرى توفيره من مال في أماكن لها أثر أكبر وأنجع في الجمعية الخيرية. («مِد جيرني» كانت أداة مجانية في وقت استخدامها للحملة المذكورة، أما الآن فهي محصورة للمشتركين فقط.)

وعلى رغم أن تبرير رئيس الجمعية الخيرية لا يخلو من وجاهة فإنني أظن أن مساوئ هذا القرار تفوق إيجابياته، وتبدأ المشكلة من الشخص الذي يعطي الأوامر للبرنامج لتوليد الصور. يُعطي هذا الشخص انطباعه الخاص وانحيازاته واعتقاداته عن الناس، فينتج البرنامج صورًا لا تمت للواقع بصلة ولا تعكس حقيقة الناس المستهدفين في حملة التبرعات. وحتى لو حرص ذاك الشخص على عدم الانحياز ستبقى الأداة منحازة جدًّا. 

تخيّل مثلًا أن يكتب شيء من قبيل «أم فقيرة وعيالها في بيتٍ خالٍ من الأثاث». رغم أن هذه الجملة تبدو بريئة للوهلة الأولى، إلا أننا نعرف خطورتها عند رؤيتنا النتائج؛ فهذه الأدوات تصوّر غالبًا أن الفقراء هم من أصحاب البشرة السوداء والأغنياء هم البيض، وأن الإنسان الغربي هو من يهرع لمساعدتهم.

يعود هذا الانحياز إلى استخدام كمّ هائل من الصور على الإنترنت لتدريب أدوات الذكاء الاصطناعي. ومعظم الصور الموجودة على الإنترنت هي صورٌ تُعزز الاستعلاء الأبيض والعنصرية ضد الأفارقة. وقد جربتُ شخصيًا كتابة هذه العبارة بالضبط في أداة «فاير فلاي» (Firefly) التابعة لشركة «أدوبي»، وفي سبع مرات من أصل ثمانية أنتجت لي صورًا لأشخاص من أصول إفريقية وأقليات عرقية. وعندما كتبت عبارة «شخص غني ينقذُ أناسًا فقراء» أنتجت لي صورًا مثل ما توقعتها بالضبط، بل إن واحدة منها تحوي ما بدا لي رجلًا أبيض مع اثنين من المستعبدين! وقد أرفقت لك الصور هنا.

لا شك لدي أنَّ تطوير الذكاء الاصطناعي سيستمر بوتيرة عاليةٍ جدًا، ولا شك لدي بأنه سيُسهم في خدمة البشرية ودفعها إلى آفاق بالغة التطور. لكن ربما كان إيلون مَسك محقًا عند دعوته لإيقافٍ مؤقت لتطوير أدوات الذكاء الاصطناعي. فنحن في حاجة إلى أن نتوقف بين الفَيْنة والأخرى لكي ندرس تداعيات ما تنتجه هذه الأدوات، وللتأكد أنها تُصَمَّم بطريقة تخدم البشر ولا تخدعهم.

الانحيازالذكاء الاصطناعيالعنصريةالفقرالرأي
نشرة أها!
نشرة أها!
منثمانيةثمانية

نشرة يومية تصاحب كوب قهوتك الصباحي. تغنيك عن التصفّح العشوائي لشبكات التواصل، وتختار لك من عوالم الإنترنت؛ لتبقيك قريبًا من المستجدات، بعيدًا عن جوالك بقية اليوم.

+630 مشترك في آخر 7 أيام