العالم يودع عام 2021 بمشاكله الظاهرة، كوباء كوفيد ومتحورات الفيروس المسبب له، وأزمة الطاقة وارتفاع أسعارها بشكل غير مسبوق، والتوتر بين الغرب وروسيا، بينما تنشغل البرامج الإذاعية للنخبة بتحذيرات من تطور الذكاء الصناعي للآلات، بسرعة تهدد الإنسانية، كما صورت روايات الخيال العلمي، ومدى واقعية وضع قوانين للحماية من الأخطار.
الزوبعة أثارتها المحاضرات الأربع التي ترعاها «بي بي سي» في نهاية كل عام وتعرف بمحاضرات ريث، باسم البارون جون ريث (1889 - 1971) وزير المعلومات البريطاني في 1940، وأول مدير لـ«بي بي سي».
بدأ التقليد في 1948 بمحاضرات الفيلسوف وعالم الرياضيات البريطاني برتراند راسل (1872 - 1970)، الفائز بجائزة نوبل في الأدب عام 1950، وانشغل هو الآخر بالذكاء الصناعي. موضوع محاضرات ريث 2021 كان «التعايش مع الذكاء الصناعي» لستيوارت راسل، بروفسور الذكاء الصناعي التطبيقي في جامعة بيركلي بكاليفورنيا.
الذكاء الصناعي ضروري اليوم، لتشغيل بنوك ومعاملات مالية، والطيران والمواصلات المدنية، والأجهزة المنزلية، والتليفون الذكي، والميكنة (automation) في مواقع خطرة على العمال الآدميين كالمفاعلات النووية والمصانع الملوثة، وتشغيل آلات تحكم من بعيد، أو مستقلة بالبرمجة المسبقة، وتعرف بالإنسان الآلي (الروبوت). بعضها بسيط كمساعدة العجزة والمقعدين في خدمات يومية، وآخر معقد المهام كتقديم الوجبات، وقيادة المركبات، وتمريض المنعزلين المصابين بعدوى مميتة. كلمة روبوت من ابتكار الروائي والمسرحي التشيكي كارل تشابيك (1890 - 1938) في روايته 1920 «روبوتات روسوم العالمية». روايات وأفلام الخيال العلمي معظمها تطوير سوداوي لتصورات تشابيك، يحذر من سيطرة الآلات على العالم وتهديد البشر. الروايات، مثالاً لا حصراً، «أنا، روبوت» عام 2004 للمخرج الأسترالي ألكسندر بورياس عن قصة 1950 «هاردوايرد» للأكاديمي والروائي الأميركي إيزاك أسيموف (1920 - 1992). أسيموف أحد أهم ثلاثة كتاب الخيال العلمي في القرن العشرين، مع الأميركي روبرت هاينلاين (1907 - 1988)، والإنجليزي ارثر كلارك (1917 - 2008) صاحب «أوديسيا الفضاء 2001». أكثر الروايات تشاؤماً، مجموعة أفلام الروبوت المهلك «ترميناتور» 1984 - 2019 (الفعل «ترمنة» terminate إفناء كائن حي).
جمع المخرج السينمائي الكندي جيمس كاميرون بين الروبوت، وآلة الزمن (ظهرت 1895 لروائي الخيال العلمي الإنجليزي هيربرت جورج ويلز 1866 - 1946) وبرمجة الذكاء الصناعي، عندما يخسر الإنسان أول معركة بين الآلات والبشر، عندما سلمت وزارة الدفاع الأميركية في 1997 البرنامج العسكري لشبكة الكومبيوتر «سكاي نت». في الفيلم الأول ترسل «سكاي نت» روبوت «تريمناتور» من المستقبل ليسافر عوداً إلى 1973 «لترمنة» (قتل) سارة كونور، التي ستحمل مستقبلاً لتلد قائد المقاومة الإنسانية ضد الآلات، وبدوره، يرسل القائد مقاتلة من المستقبل، بآلة الزمن إلى 1973 لحمايتها.
ولأنه لا توجد قوانين واتفاقيات دولية تحدد نوعية البرامج التي يطورها الباحثون في الذكاء الصناعي، يحذر البروفسور راسل من تطور لوغاريتمات توجه آلات بلا عقل لن تتوقف حتى تحقق الهدف متجاهلة القوانين والأخلاق.
مثلاً روبوت مستقل في المطبخ المطعم، وهدفه المبرمج إعداد الطعام بأسرع وقت، ولم يجد ما يعده، وتصادف أن دخل قط الجيران، فلن تميز اللوغاريتمات بين حيوان أليف ككائن حي، وبينه كوجبة تحقق الغرض من البرمجة. أو مثلاً إذا كان الروبوت مبرمجاً على خدمة مجموعة فيتخلص من آخرين لضمان تحقيق الهدف، كما استنتج المخرج كاميرون، عندما يقتل روبوت ترميناتور جميع الفتيات باسم «سارة» في المدينة.
وهدف نبيل «كإنهاء التمييز العنصري» قد يؤدي بكومبيوتر طبي مستقل البرمجة الذاتية إلى «ترمنة» (إعدام) الأجنة من كل عرقية إنسانية خالصة، والإبقاء فقط على أجنة زواج العرقيات المختلطة. وحذر البروفسور راسل من تناقضات تداخل الغاية والوسيلة في برامج الذكاء الصناعي التي تمنح كومبيوتر الآلة (الربوت) استقلالية التشغيل (تعطيل دائرة فصل الطاقة بيد الإنسان)، فبرمجة الروبوتات الطبية والتنفس الصناعي تتجاهل أزرار الإطفاء الخارجي أو انقطاع التيار، أثناء التشغيل وتستمر ببطارية داخلية، وقد تتسرب الشرائح الإلكترونية بطريقة غير مشروعة إلى آلات لأغراض عسكرية.
في فيلم ترميناتور، يتدارك المسؤولون الخطأ فيحاولون إطفاء الأجهزة، فتوجه «سكاي نت» الأسلحة لإعدام القادة العسكريين، وتطلق الصواريخ النووية على الأهداف السوفياتية، فينتقم السوفيات بتدمير الأهداف الأميركية، وتتحد آلات العالم لحماية نفسها ضد البشرية، وكل هذا في دقائق.
كثيرون يشتكون اليوم مثلاً من برامج الذكاء الصناعي في خرائط توجيه قيادة السير لسائقي السيارات، لأنها مبرمجة للوصول إلى الغاية في أسرع وقت، والكومبيوتر لن يقدر أن الطريق السريعة تمر بمنطقة سكنية سكانها نائمون في الليل، أو لا يقدر أن حجم ووزن الشاحنة غير ملائمين إذا كانت الطريق ضيقة. إلى جانب الشكوى مثلاً من منع لوغاريتمات الذكاء الصناعي حسابات على «فيسبوك» أو ما ينشر على وسائل التواصل الاجتماعي لأنها تعجز عن التمييز بين الفروق التعبيرية اللغوية، فما بالك لو أن هذه البرامج قررت الاستقلال بذاتها في مسائل تتفاوت بين قطع الكهرباء عن مدن بأكملها لتحقيق الهدف (كتوفير الطاقة لما فسره الكومبيوتر «أولوية» يجب تحقيقها)، والقضاء على كائنات حية تراها الآلة مجرد أرقام في إحصائية؟
كيف نتجنب برمجة ذكاء صناعي تؤدي إلى كوارث بالصدفة؟ يتساءل البروفسور راسل. فاللائحة التي يعدها الاتحاد الأوروبي هي مجرد تطوير قوانين مجودة لكنها تتعلق بالتأكد من الجودة والصحة العامة لبيع منتجات يمكن تصنيفها على أنها روبوتات (كالمكنسة الكهربية وأدوات تنظيف الأرض التلقائية والسيارات بلا سائق، والروبوتات الطبية في العناية المركزة وغرفة الجراحة)، لكن المجال العسكري مثلاً مستقل (طائرات «الدرونز» بلا طيار).
ورغم تفاؤل البروفسور راسل في آخر محاضراته (الأربعاء) بإمكانية تقنين استعمالات الذكاء الصناعي، فإنه عجز عن توفير إجابة مقنعة بشأن نقطتين: الأولى كيفية التطبيق العملي للقوانين الصادرة، وكيفية وضع حد لما يمكن أن يصل إليه الباحثون ومبرمجو الذكاء الصناعي من لوغاريتمات تشغيل الآلة، خصوصاً إذا أدى الفساد لبيع البرامج لأطراف مجهولة، أو لقدرة الآلة نفسها على برمجة ذاتية مستقلة عن الإنسان؟