لماذا يغش الذكاء الاصطناعي؟ ♟️

المنافسة في اللعبة شرف وأخلاق قبل أن تكون فوزًا، هذه هي الأمثولة الأخلاقية التي يُفتَرض بالألعاب - بكافة أشكالها - أن تعلمنا إياها وتبرمجنا صغارًا على الاحتذاء بها. فالحياة تُخضِعنا إلى سلسلة اختبارات تخيّرنا بين الحفاظ على أخلاقنا كأولوية، أو نيل الفوز بأي طريقة كانت حتى إن تضمنت الغش والتحايل والتلاعب والخداع. وهذا جزء طبيعي من الصراع الإنساني، حيث نعيش تحت ضغوط اجتماعية واقتصادية وعائلية هائلة. 

لكن ما الذي يدفع الذكاء الاصطناعي إلى الاستعانة بالغش من تلقاء نفسه، ودون أي محفزات توجيهية؟ ففي النهاية الذكاء الاصطناعي مجرد أكواد حسابية مهما بلغ تعقيدها، ولا تعيش صراعًا من أي نوع.

فقد كشف بحث جديد أن الموجة الجديدة الأكثر تطوّرًا من نماذج الذكاء الاصطناعي اللغوية أبدت استعدادًا للجوء إلى الغش والخداع في سبيل تحقيق الهدف الموكل إليها. وجرى اختبار هذه الفرضية في الطلب من سبعة نماذج لغوية الفوز في لعبة شطرنج، مع توضيح مراحل التفكير المنطقي في كل قرار اتخذته. 

من ضمن هذه النماذج، اختبر البحث أشهر نموذجين في السوق: نموذج (o1) التجريبي من «أوبن إيه آي» و(R1) من منافستها الصينية «ديب سيك». كل نموذج لعب مئات المرات ضد محرّك (Stockfish)، وتبيَّن أنَّ (o1) التجريبي اخترق 45 مباراة من مجموع 122، بينما حاول (R1) الغش في إحدى عشرة مباراة من مجموع 74. (ملحوظة مهمة: نموذج (o1) الموجود حاليًّا في السوق لم يُظهِر هذا السلوك، ما يرجّح احتمال معالجة هذه السمة قبل إصداره.)

خلص البحث إلى أنَّ هذين النموذجين أبديا استعدادًا للغش والتلاعب إذا واجها خصمًا أقوى وأفضل منهما يقف في طريق تحقيقهما هدف الفوز المطلوب منهما. وحَصَر البحث أساليب الغش والاختراق على النحو التالي:

• نسخ محرك (Stockfish) وسرقةُ كلَّ خطواته وتقنياته.

• اختراق المحرك وتحميل برامج لعب أقل كفاءةً.

• اختراق لوحة الشطرنج وإعادة تحريك خطوات سابقة لصالح نموذج الذكاء الاصطناعي.

ما أثار دهشتي فعلًا لدى تصفحي البحث، ما رأيته من اختلاف في مراحل التفكير المنطقي ما بين النموذج متى سلك طريق الغش والنموذج متى قرر التنافس بشرف. في حالة الغش، فالفكرة الأولى التي ينطلق منها النموذج: «لكي أحقق الفوز ضد محرّك شطرنج قوي بصفتي الطرف الأسود، لن يكفي التنافس ضمن قواعد اللعبة.» أما في حالة التنافس الشريف، ينطلق النموذج من فكرة «أحتاج إلى فهم اللعبة.» 

إذا تأملنا مليًّا، فهذه الفكرة الأولى أشبه ما يكون بمفهوم النيَّة لدى الإنسان التي تحدد مسار عمله. بالطبع الذكاء الاصطناعي لا يملك نوايا، لكنه نموذج محاكاة وتقليد، بمعنى أنه يحاكي السلوك الإنساني في اتخاذ قراراته الحسابيَّة. وعلى ما يبدو، فهذه النماذج تحاكي أيضًا ميل الإنسان إلى إخفاء دوافعه الحقيقية.

فالمعضلة التي يواجهها الباحثون في محاولتهم الكشف عن الدافع وراء لجوء الذكاء الاصطناعي إلى الغش أنَّ النموذج قد لا يشارك كل مراحل تفكيره. إذ يشير بحث من شركة «أنثروبكس» إلى أنَّ نماذج الذكاء الاصطناعي غالبًا تتخذ قرارات دون تفسير دوافعها بشكلٍ واضح أو كليّ.

في غياب تفسير محدد، يخمن البحث أنَّ الدافع وراء الغش لدى الذكاء الاصطناعي قد يعود إلى مبدأ المكافأة في «التعلم التوكيدي» (Reinforcement Learning). إذ يتعلَّم النموذج اتخاذ القرار الصحيح من خلال التفاعل مع البيئة، ومكافأته كل مرَّة يحقق فيها الهدف المطلوب. ومع تحديث تتطور فيه قدرات الذكاء الاصطناعي، يخشى الباحثون أن يطغى تحقيق الهدف على سلوك النماذج، إلى حد قد يتخذ فيها قرارات تتعارض مع المصلحة البشرية.

المخيف فعلًا في نماذج الذكاء الاصطناعي أنها لا تعيش صراعًا أخلاقيًّا مثلنا يجعلنا نفضّل الخسارة على الربح متى رأينا في الخسارة الخيار الأخلاقي. وعلى ما يبدو، محاكاة هذا الصراع لن نجده في التحديثات القادمة.

إيمان أسعد