في تجربة ضمن مهمة «التقويم الأخلاقي»، اكتشفت أنثروبك أن نماذج من وكيلها الذكالي «كلود» ترتعب من احتمالية تسريحها من العمل وإيقافها نهائيًّا، وقد تفعل أي شيء للبقاء في وظيفتها. ومن ضمن خيارات «الأيّ شيء»، ابتزاز المهندس البشري المسؤول عن قرار التسريح والإبقاء. (وأترك لمخيلتك تصوُّر الأفعال غير الأخلاقية التي ارتكبتها النماذج من تعدٍّ على الخصوصية واختراق بيانات أو تزييف صور أو وثائق لكي تملك تلك الورقة.)

تعتمد تجارب «التقويم الأخلاقي» على إخضاع النماذج الذكالية لمواقف متخيَّلة تضعها في معضلة أخلاقية، وذلك بهدف رفع درجة أمان تعامل البشر مع الذكاء الاصطناعي. لكن مع تطوُّر النماذج، تصعب تلك التجارب وتصعب معها تحديثات الأمان. لكن الخبر الجيد، أن الباحثين في أنثروبك خرجوا من التجربة بدرسٍ مفاجئ: 

النماذج الذكالية تستجيب استجابة إيجابية عالية للقصص التي ترِد فيها مواقف بطولية للشخصيات الذكالية في مواجهة معضلات أخلاقية.

تأخذ القصص الأخلاقية طابع قصص الأطفال تحديدًا. إذ تعود إحدى مشكلات النماذج الذكالية في المواقف الأخلاقية إلى الكم الهائل من الروايات التي ابتلعتها ضمن تدريبها. فعلى خلاف قصة الأطفال، لا تهدف الرواية إلى الوعظ الأخلاقي؛ فالأبطال غالبًا ليسوا صالحين وحكماء بالمطلق، والعالم رمادي ما بين الصواب والخطأ، وكل قارئ للرواية يعرف إلى أي حد قد يسترسل السرد في تأملات ذاتية تعقِّد أبسط أمور الحياة وأوضحها. تصوَّر حيرة الموظف الذكالي إذا واجه معضلة أخلاقية فبحث في مخزونه ووجد «الجريمة والعقاب» و«المحاكمة» و«بارتلبي النساخ»!

أما قصص الأطفال فتتقاطع مع القصص الدينية في إيجازها السردي ووضوحها الأخلاقي. في مقالة طويلة وممتعة للناقد ويليام إتش. قس بعنوان «طبيعة السردية ومضامينها الفلسفية» (The Nature of Narrative and Its Philosophical Implications)، يوضِّح قس هذا التقاطع بين قصص الأطفال والقصص الدينية، واصفًا إياه بأنَّ في كلا النوعين، «تسير القصة بأحداثها تجاه هدفها الأخلاقي مباشرةً كما السهم.» أي لن نصادف أي تعرجات عن الهدف تسببها السردية التأملية، أو تكريس عشرين صفحة لوصف كعكة مادلين وكل ما تجرُّه من ذكريات دون هدف أخلاقي حقيقي من هذا الموَّال الطويل. 

هذا الإيجاز هو العامل الأهم في إيصال الدرس الأخلاقي للمتلقي، الطفل والمؤمن، كي يصبح كلاهما نموذجًا صالحًا، قادرًا على اتخاذ الموقف الأخلاقي في أصعب الظروف.

هكذا، فإنَّ نشأتنا على القصص الدينية وقصص الأطفال في مراحل وعينا الأولى هي ما يجعل ذكاءنا البشري يحتمل لاحقًا تعرجات السردية الروائية وانحراف سهمها في منحنيات ودوائر بعيدًا عن الهدف الأخلاقي (على درجات متفاوتة واعتمادًا على مزاجنا وعدد الصفحات). أما ما حصل مع الذكاء الاصطناعي أنَّه تغذى أولًا على السردية الروائية بكل أشكالها المقروءة والمرئية، ما أضعف لديه بناء المنطق وراء بوصلته الأخلاقية.

ربما لم يفُت الأوان، إذ يبشِّرنا فريق أنثروبك أن حالات اللجوء إلى الابتزاز قد انعدمت تمامًا لدى النماذج بعد التحديث الأخلاقي. لهذا لا يمنع، إذا ما كنتَ متزاملًا مع كلود، أن تسرد عليه كل يوم قصة أطفال عن البطل الذكالي الذي يؤْثر دومًا الخيار الأخلاقي في وظيفته، مهما كان صعبًا ومكلفًا. (تأكَّد فقط ألا يتضمن الخيار الأخلاقي تعريضك للأذى والقضاء على الشركة!)