كيف نجعل الآلة أكثر عدالة؟ – ثمانية

كيف نجعل الآلة أكثر عدالة؟

يسهّل الذكاء الاصطناعي حياة الإنسان ويوفّر جهده، إلا أن الاعتماد المتزايد على الخوارزميات تسبّب بحالات انحياز وعنصريّة تجاه بعض الفئات.

جاري التحميل

6 أكتوبر، 2021

بودكاست «بُكرة»، أحدث إنتاجات إذاعة ثمانية.

لكل الشباب الواعد، نطرح أسئلتنا الكبيرة والصغيرة والمتغيرة والعالقة مع مختصّين وباحثين وعُلماء، ونفهم معهم كيف نعيش ونستعد ونعمل من أجل مستقبل أفضل. 

نتحاور في هذه الحلقة من بودكاست «بكرة» مع ضيفنا عبدالله حمدي، باحث الدكتوراة في جامعة الملك عبدالله للعلوم والتقنية ومؤسس منصة «فهم» التعليمية والتثقيفية في عالم الذكاء الاصطناعي.

نشأ مصطلح الذكاء الاصطناعي منذ سبعين سنة تقريبًا، ومذاك لاقى رواجًا. ويهدف الذكاء الاصطناعي لتصميم آلة قادرة على تحقيق هدف معين بطريقة مشابهة للبشر. ورغم قدرة الذكاء الاصطناعي على حلّ المشكلات وتوفير وقت الإنسان وجهده، يرى حمدي أن هذه التقنية صارت تبدي انحيازًا لصالح فئات عن غيرها.

فالبيانات الضخمة والقوة الحاسوبية تغذي الذكاء الاصطناعي. أي من يمتلك المعلومة قادرٌ على مدّ الآلة بالبيانات اللازمة لاتخاذ القرارات المبنيّة على المدخلات.

ويعزو عبدالله حمدي قصور الذكاء الاصطناعي إلى اعتماده على هذه البيانات المجموعة من الإنترنت، والتي قد تكون مصادرها مثلاً منصات التواصل الاجتماعي الفائضة بالشائعات والأخبار الكاذبة وخطاب الكراهية والانحياز، إلى جانب ضعف التنوع والتمثيل العادل لكل الفئات.

يرى ضيفنا أن إمكانات الذكاء الاصطناعي عديدة ومهمّة، وهنا تكمن أهمية تعديل المدخلات لضمان مخرجات عادلة. فمثلاً، جاء ابتكار نظام «البرمجة اللغوية العصبية» (NLP) كثورة في الذكاء الاصطناعي حلّت معضلة قديمة. فوفقًا لها يستطيع النظام اتخاذ قرارات بناء على البيانات المتاحة من مصادر عديدة، منها الإنترنت. ويشمل مجموعة أساليب تعتمد على مبادئ حسية ولغوية وإدراكية، تهدف لمحاكاة السلوك الإنساني وتطويره.

لكن كشف هذا النظام عن تّحيّز ديني وجندري وعنصري وعرقي مرّات عدّة. فمثلاً، في عام 2015 ميَّز فحص السيرة الذاتية الآلي في أمازون ضد النساء. إذ تعلَّم تطبيق نظام البرمجة اللغوية العصبية آلية تسجيل المرشحين وتحديد مستوى نجاحهم في الوظيفة عبر مسح الأنماط في عينات السير الذاتية السابقة. وبسبب ضعف تمثيل النساء في الشركة، قلّل النّظام من فرصهن في المنافسة على الوظائف. 

وفي حين تستمر الاستخدامات التجارية للذكاء الاصطناعي ويتسارع انتشارها في أغلب مناحي الحياة، لا يزال المعنيون ينادون بشكل من أشكال التنظيمات والقوانين المؤطرة للاستخدام. 

الحلقة 3 من بودكاست «بُكرة» مع عبدالله حمدي. بوسعك الاستماع للحلقة من خلال منصات البودكاست على الهاتف المحمول. نرشّح الاستماع للبودكاست عبر تطبيق Apple Podcasts على الآيفون، وتطبيق Google Podcasts على الأندرويد.

كيف نصنع مستقبلًا أفضل؟ يمكنك اقتراح ضيفٍ أو موضوع على بريد البرنامج:

 bokrah@thmanyah.com 

ويهمنا معرفة رأيك عن الحلقات، وتقييمك للبودكاست على Apple Podcast.

روابط

اخر الحلقات

بودكاست بُكرة

كيف تخدعك شركات التقنية كمستهلك

مقابل الجهد الذي تبذله شركات التّواصل الاجتماعي لدفعنا لقضاء ساعات أطول على منصّاتها، كم من الوقت والجهد تمنحه لحماية المستخدمين؟
سارة أبو الرّب
بودكاست بُكرة . المستقبل

كيف نجعل الآلة أكثر عدالة؟

يسهّل الذكاء الاصطناعي حياة الإنسان ويوفّر جهده، إلا أن الاعتماد المتزايد على الخوارزميات تسبّب بحالات انحياز وعنصريّة تجاه بعض الفئات.
سارة أبو الرّب
بودكاست بُكرة

صراع الأغنياء على سياحة الفضاء، كيف يفيدك؟

لكل الشباب الواعد، نطرح أسئلتنا الكبيرة والصغيرة والمتغيرة والعالقة مع مختصّين وباحثين وعُلماء، ونفهم معهم كيف نعيش ونستعد ونعمل من أجل مُستقبل أفضل.  يبحث الإنسان
سارة أبو الرّب
بودكاست بُكرة . المستقبل

كيف يحمينا التنوع البيولوجي من الجائحة القادمة؟

لكل الشباب الواعد، نطرح أسئلتنا الكبيرة والصغيرة والمتغيرة والعالقة، مع مختصّين وباحثين وعُلماء، ونفهم معهم كيف نعيش ونستعد ونعمل من أجل مُستقبل أفضل. 
سارة أبو الرّب