مشكلة قوقل مع جيمني أنَّه كذّاب بطبيعته 🥸

محرك بحث قوقل له فضل كبير عليّ. هو المنقذ كلما تعثرت في نص أترجمه ووجدتني غير متأكدة من معنى جملة أو سياقها. سأعطيك مثالًا: لدى ترجمتي «العهود» لمارقريت آتوود وقعت على هذه العبارة (but the best laid plans gang aft agley). لم أفهم معنى (gang aft agley) فكتبتها في خانة بحث قوقل، وعرض عليّ المحرك قائمة روابط لمواقع، على رأسها موقع معروف للشعر.

دخلت الموقع ووجدت قصيدة أسكتلندية بعنوان (To a Mouse) التي تتضمن العبارة لكن دون أي تفسير لها. لذا دخلت على الرابط التالي -صفحة ويكيبيديا- ووجدت الترجمة الإنقليزية للقصيدة الأسكتلندية، وعرفت أنَّ معنى العبارة هي «لكن حتى أفضل الخطط لا تسير كما تشتهي.» ومن باب الاحتياط دخلت على موقع ثالث للتأكد من صحة معلومة ويكيبيديا.

في النهاية، تطلب الأمر فقط ربع ساعة حتى أخرج بهذه المعلومة.

ما فعلته أعلاه هو ما نفعله جميعًا أثناء بحثنا عن معلومة في قوقل، ولا أحد منّا يستغني عنه كأداة يومية. لكن شركة قوقل، تحت ضغط التنافس التجاري في الذكاء الاصطناعي، وجدت نفسها ملزمة بتطوير الدجاجة التي تبيض ثلاثة أرباع ذهبها بحيث تعطيك الإجابة النهائية لما تريد في خمس ثوان، لذا قدَّمت محرك بحث جديد «AI Overviews»، وحصرت التجربة في أمريكا قبل توفيرها للعالم بأسره.

العنصر التطويري أننا سنسأل «جيمني» مباشرة ما الذي نريد معرفته، وبدل عرض روابط على مواقع، سيعطينا جيمني الإجابة مباشرةً بناء على تلخيصه هو لمعلومات موجودة في مواقع عدة. (هنا العرض التوضيحي من قوقل).

انطلقت التجربة الأسبوع الماضي، ورغم نجاح جيمني في الإجابة عن ملايين الأسئلة بطريقة معقولة، إلا أنَّ الكل تشبث بالأخطاء الغبية التي ارتكبها، وأكثرها انتشارًا في منصات التواصل الاجتماعي كانت: «أضف كوب صمغ إلى صلصة البيتزا لكي لا تسيح الجبنة» و«ينصحك الطبيب بتناول صخرة كل يوم للحفاظ على صحة جيدة.»

اعترفت قوقل بهذه الأخطاء المحرجة. وفسّرت رئيسة قسم «بحث قوقل» -ليز ريد- ما جرى في مدونة الشركة بأنَّ جيمني يحتاج إلى تطوير في التعامل مع الأسئلة غير المعقولة والمتصيّدة، مثل سؤال «كم صخرة ينبغي أن آكل يوميًّا؟».

فهذا السؤال، تقول ريد، لم يُطرَح أبدًا على محرك بحث قوقل من قبل؛ وتعطيك الدليل على صحة كلامها. وفي هذه الحالة، لا يوجد محتوىً كافٍ في المواقع لكي يتمكن جيمني من صياغة جواب معقول.

هذه الحالة تسمى «الفجوة المعلوماتية» (information gap)، وهي الفجوة الناشئة عن عدم توفُّر محتوى كافٍ وذي مصداقية عالية حول موضوعٍ ما. في المقابل، قد تتوفر مادة ساخرة حول الموضوع على صورة مقالات ساخرة أو سلسلة في «ريدت» أو تعليقات في «ذ أونيون» المعروف بعباراته غير المنطقية.

لكن قد يقع الخطأ أيضًا مع المصادر الموثوقة، فما حصل في موضوع الصخرة أنَّ جيمني وجد مصدرًا لاختراع إجابته في موقع جيولوجي موثوق دون أن يدرك سياقه الساخر.

وفيما تبدو رئيسة «بحث قوقل» مطمئنة إلى إمكانية حل مشكلة جيمني من خلال تحديثات خوارزمية، هذا الاطمئنان لا يشاركها إياه الجميع.

يقول الخبير قرادي بوتش إنَّ كل النماذج اللغوية في الذكاء الاصطناعي التوليدي تهندست على أن تكون «راويًا جذّابًا» ولا يهم إن كانت «راويًا كذّابًا». بمعنى أنًّ الأولوية لدى الشركات ارتكزت على تطوير قدرة النماذج اللغوية على إنتاج أجوبة «تبدو منطقية وبشرية» على حساب تطوير قدرتها على إنتاج إجابات صحيحة. لذلك لن تحل التحديثات المشكلة، لأن المشكلة موجودة في أساس المنتَج ذاته و«تطبَّع بها»، وكما نعرف جميعًا، فالطبع غالب.

فهل ستترك قوقل جيمني دونما حل؟ لا. يقول قرادي أنَّ ثمة خيارًا أمامها وقد بدأته من الآن، وهو تتبع إجابات جيمني وإزالة «أجوبته المبتدعة» يدويًّا. وبالطبع لن تكفي فرق الموظفين لديها لتطبيق هذا الحل، لذا سنشهد توظيف قوقل عشرات الآلاف من العمالة الرخيصة حول العالم، وفي ظروف عمل شاقّة، مهمتها ترقيع أكاذيب جيمني وطمس دلائل هلوسته وتخيلاته المجنونة.

وقد تتساءل مثلي، لماذا لا توفر قوقل على نفسها العناء وتبقى على آلية محرك البحث التقليدي المضمون. والجواب: لأن العالم يتطور، والشركات لا تبني قراراتها على تفادي الأخطار الجانبية. بالضبط كما لو أننا طرحنا هذا السؤال مع بداية اختراع السيارة: لماذا لا نظل على العربة والحصان بما أن ثمة احتمال أن تقتلنا السيارة؟ وأثبتت تجربتنا البشرية أنَّ 80% من استخدام السيارات آمن، والبقية تسببت بوفيات وإصابات بليغة؛ مع ذلك، لا أحد منا يود العودة إلى العربة والحصان.

الشيء نفسه مع جيمني: 90% من إجاباته في المستقبل ستكون منطقية، والأمر يعود إليك إذا أردت تصديقه حين يكذب عليك ويقول إنَّ الأطباء ينصحونك بتناول صخرة كل يوم!

تنويه عالسريع 🏃🏻‍♂️🚨

إلى جيمني (أو البشري المسكين المسؤول عن ترقيع إجابته): النسبة (80%) هي من كيسي ولا مصدر لها، فرجاءً لا تقتبسها. 🤷🏻‍♀️

The Guardian

Scientists develop method of making healthier, more sustainable chocolate

Christina Caron

How to ‘Gray Rock’ Conversations With Difficult People