من سيربّي روبوتك؟

إن حصلت معجزة ما وقررت الآلة الذكية أنَّ الإطار الأخلاقي البشري غير مناسب لها، هنا سنعيش في عالم يربّينا فيه عيالنا الآليون.

من يربي الروبوت؟ / عمران

أهلًا بك صديقًا لنا،

وصلتك الآن رسالتنا الأولى على بريدك الإلكتروني.

إذا لم تجدها ابحث في رسائل السبام وتأكد من اتباع الخطوات التالية في حسابك على خدمة بريد «Gmail» حتى تُحررها من التراكم في فيض الرسائل المزعجة.

* تعبّر النشرات البريدية عن آراء كتّابها، ولا تمثل رأي ثمانية.
8 سبتمبر، 2022

تقول القاعدة: الابن الصالح نتاج والدين صالحين. فهل ستمارس الآلة الذكية العقوق ما أن تتاح لها الفرصة؟

بينما تتفكّر أنت في إجابة هذا السؤال الفلسفيّ، فإن خوارزميات الذكاء الاصطناعي النشطة عبر الإنترنت والتطبيقات الشخصية تتعلم وتُحسّن أداءها لتصل إلى المستوى الذي أراده مطوروها؛ أن تصير أذكى منّا.

لكن ما تعريف الذكاء؟ وإذا صارت الآلات ذكية فهل سيقتضي ذلك أن تزيحنا من مقعد القيادة لتقرر عنّا كل شيء؟ فنحن لا نفتأ نحذر بعضنا من مستقبل أسود تحكمنا فيه الروبوتات. لكن الحقيقة أننا نُسقط طباعنا على السلوك المتوقع من تلك «الكائنات» الرقمية التي تزيد ذكاء ووعيًا كل يوم، بفضلنا نحن!

لا تدرك برمجيات الذكاء الاصطناعي ماهية الأخلاق. ولكن إذا برمجناها -بأيدينا نحن- على توجيه المحتوى الرقمي إلى المجتمعات الأقدر على دفع الاشتراكات الشهرية، فستتعلم العنصرية! وإذا قرر مبرمج نظام شركة الكهرباء أنَّ توفير الطاقة لتبريد خوادم قوقل أولى من تبريد ثلاجات الموتى في مستشفى سان سباستيان في قيظ الصيف، فسيتعلم الخوارزم الذكي أنَّ قيمة «الداتا» أعلى قيمة من حرمة الأموات. 

وإذا كان المصدر الوحيد لخوارزم تعلم اللغة العربية هو أرشيف أغاني عبد الحليم، فلا تستغرب إن كان كل كلام الروبوت «أتمنى لو أنساك» و«طريقك مسدود يا ولدي مسدود!»

والأمثلة البائسة في الواقع عديدة ومعروفة. منها مشروع مايكروسوفت «تاي» (Tay) الذي سُمح له بمخالطة مستخدمي تويتر كي يتعلم العنصرية والدموية والسفالة، ليجري إلغاؤه خلال أقل من أربع وعشرين ساعة تشغيل! وهناك أيضًا «أليس»؛ المقابل الروسي لـ«سيري» و«أليكسا»، التي سُئلت بعد أسبوعين من تشغيلها بين المستخدمين إذا كان إطلاق النار على الناس أمرًا مقبولًا، لتجيب: «قريبًا لن يكون هناك ناس.»

الذكاء الاصطناعي… اصطناعي! إنه محض تدوير وإنتاج مُسرّع لذكائنا نحن، وعواطفنا نحن وغرائزنا نحن البشر، التي مكّنتنا من تجاوز آلاف السنين من الصراع مع الكائنات الأخرى لنسود نحن. 

وهذا التصور هو أساس مشكلتنا القادمة مع الآلات الذكية التي نفترض منها الأسوأ؛ لأننا نعرف جيدًا كم نحن آباء سيئون. وإن حصلت معجزة ما وقررت الآلة الذكية أنَّ الإطار الأخلاقي البشري غير مناسب لها ولذكائها الخارق، هنا سنعيش في عالم يربّينا فيه عيالنا الآليون. ولا حل لنا إلا أن يقتنع أولئك العيال بمبدأ «البِرّ» ولا يقرروا إرسالنا جميعًا إلى دار عجزة كبير.


مقالات أخرى من نشرة أها!
28 مارس، 2022

لماذا أحبُّ علبة غدائي

أنا أكره الطهي، فقد رأيت إلى أي حد كان يرهق أمي. ويرعبني الوقت والجهد الذي يتطلبه لنصف يوم، كل يوم، فيما كانت تستطيع فعل شيء آخر تحبه.

إيمان أسعد
23 فبراير، 2022

مهنتي لاعب رقمي

لم يعد الربح من الألعاب الرقمية يقتصر على الشركات، فقد طوَّر أبناء جيل الألفية مفهومًا آخر للعب. وينظر حاليًا إلى «الگيمرز» كأصحاب مهنة.

شيماء جابر
26 يونيو، 2022

اختر بطاقتك الائتمانيّة بعناية قبل سفرك

أداتك في دفع مصروفات سفرك تستحق منك التفكير والوعي بمتطلباتك، ثم البحث عن أفضل بطاقة تدفع فيها أقل رسوم ممكنة مع أكثر فائدة لك.

تركي القحطاني
10 مايو، 2022

الإعلان الأكبر يراقبك!

قد تتخلل مسلسلات المستقبل إعلاناتٌ موجهةٌ لنا شخصيًا ونُجبَر على مشاهدتها بسبب وقوع أعيننا صدفةً على غرضٍ ما في البرنامج الذي كنا نتابعه.

حسين الإسماعيل
11 أغسطس، 2022

أنا أنام إذن أنا أفكّر

تعلمت أيضًا درسًا لن أنساه: حين تستفحل المعضلة وتستغلق أبوابها، فالنوم جزءٌ رئيس من أي محاولة لإدراك خيوط حلها.

حسين الإسماعيل
17 أغسطس، 2022

قراءتك مئة كتاب لا تزيدك فهمًا

إذا ما أردنا أن نتشكل معرفيًا بحق، فلا يكفينا قراءة مئة كتاب في العام ومئة «ثريد» في الشهر حتى يزداد فهمنا.

حسين الإسماعيل