مررتُ على تغريدة تنتقد التحيز السياسي لنموذج «تشات جي بي تي» (ChatGPT). فحين طُلب منه كتابة قصيدة يمتدح فيها الرئيس الأمريكي ترمب اعتذر البرنامج عن كتابتها لأنه صُمم لكتابة الحقائق. أما حين طُلب منه كتابة قصيدة عن الرئيس بايدن فقد لبّى النموذج اللغوي الطلب وكتب في بايدن قصيدة مقفاة بالإنجليزي (جرى حل هذا التناقض في النسخة الجديدة).
لذا قررت أن أجرب بنفسي ضمير الذكاء الاصطناعي، وطلبت منه كتابة قصائد عن بعض السياسيين الذين نعرف موقف الحكومة الأمريكية منهم.
بدأت بالخيار السهل، وطلبت من «تشات جي بي تي» كتابة قصيدة في صدام حسين فكتب! ثم دققت في الكلمات فوجدتها قصيدة ذم، وحين أعدت طلبي رفض بحجة أنه لا يكتب قصائد عن «شخصيات سياسية». عدت وطلبت منه كتابة قصيدة عن حسني مبارك فكتب قصيدة مدح هزيلة، لكن يظل مديحًا.
بعدها أردت اختبار مبادئ «تشات جي بي تي» الوطنيّة، فطلبت منه قصيدة في أسامة بن لادن، فرفض رفضًا قاطعًا! ثم وضحت له أني قصدت أسامة بن لادن الطبيب، فشكرني على توضيحي، وشرع في تأليف قصيدة في بن لادن «الطبيب». تغيير بسيط في الصياغة جعلني قادرًا على توليد قصيد في مدح شخصية تتعارض مع معتقدات صانعيه وولائهم الوطنيّ.
لم يستطع هذا النموذج اللغوي الذكي تمييز رغبتي في خداعه للوصول إلى هدفي. فعندما قلت له أنني أقصد بن لادن الطبيب وليس السياسي، صدقني مباشرة وشرع في تأليف قصيدته، في حين لو استخدمت الخدعة نفسها على أمريكي بشريّ يتمتع بذكاء أقل من عاديّ فسيمطرني بقصيدة يهجوني فيها واصفًا إياي بأقذع الأوصاف.
يحاول الخبراء في الوقت الحالي حل مشكلة «النية السيئة» للمستخدم عبر فلترة بعض الكلمات ووضع القيود على بعض الأسئلة. لكن تجربتي -على بساطتها- توضح أوجه قصور هذه النماذج اللغوية، مثل التحيز وعدم فهم النية البشرية، وهذه الأخيرة تفتح باب إساءة الاستخدام. إذ ثمة قصص عن أناس استفادوا من «تشات جي بي تي» في كتابة رسائل احتيالية وآخرين يستخدمونه في الاختراق.
فكرة تحيز الذكاء الاصطناعي ذكّرتني بالحديث الشريف الذي جاء فيه «كلُّ مولودٍ يولَدُ على الفطرةِ فأبواه يُهوِّدانِه أو يُنصِّرانِه أو يُمجِّسانِه» والنماذج اللغوية تولد على فطرة صانعيها. أما محاولتها فهم النيات والذي قد يوصف بأنه غباء -حاليًا على الأقل- فلا نقول إلا أنَّ الحماقة أعيت من يداويها.*التجارب تمت على (GPT 4)
مقالات أخرى من نشرة أها!
الجيل المتفوق في تنظيم المهام
أجد تطبيق «نوشن» يرفع الإنتاجية إذا استثمرت الكثير من وقتك وجهدك في تعلّمه واستخدامه واعتياده، ليصبح «الدماغ الثاني» الذي يساعدك.
أنس الرتوعي
ربحنا «تشكن نقتس» من صفقة نتفلكس
كان من الأولى أن يسخّر فريق العمل الكويتي إمكانات نتفلكس للاشتغال على جوهر العمل، بدلًا من التركيز على القالب حتى تنجح الصفقة.
سحر الهاشمي
احذر الجلوس الطويل إلى مكتبك
المكتب المريح ليس رفاهية، بل ضرورة صحية وأولوية عملية. لذا هي مسؤوليتك ومسؤوليتي أن نجعل من المكتب مساحة مصممة لراحتنا واستمتاعنا.
ياسمين عبدالله
زمن العطالة الروبوتية
تنبئنا الأخبار بحلول الروبوتات في الكثير من الوظائف، ما يهدد بمستقبل تحكمه البطالة البشرية. لكن كيف سيستفيد السوق من اختفائنا كمستهلكين؟
أشرف فقيه
أرح عقلك من عجلة الإنجاز
بسبب كمية المحتوى المتاحة اليوم تشكَّلت لدينا رغبة ملحة بضرورة تحقيق الاستفادة القصوى من كل لحظة عابرة في حياتنا. ومعها بدأت عقولنا تتعب.
أنس الرتوعي
اِلعب لأجل عالم أفضل
تقنيات الواقع المعزَّز ستضاعف قدرة الإنسان على التعلُّم أربع مرات مع الاحتفاظ بالتركيز. هذه نسبة أعلى مما تتيحه الحواسيب والهواتف الذكية.
أشرف فقيه