«إذا بناه أحد، يموت الجميع»: الكتاب الذي يطالب بحظر الذكاء الاصطناعي الفائق

يحمل الكتاب عنوان «إذا بناه أحد، يموت الجميع» (If Anyone Builds It, Everyone Dies)، من تأليف إليعازر يودكوفسكي ونيت سوارس، وتتجاوز أطروحته مجرد التحذير من أن «الذكاء الاصطناعي قد يكون خطيرًا». فهو يدعو صراحة إلى حظر تجميع أكثر من ثماني وحدات من أقوى معالجات الرسوميات (GPU) المتاحة عام 2024 دون رقابة دولية، وتجريم نشر الأبحاث في تقنيات الذكاء الاصطناعي الأكثر كفاءة وقوة، وصياغة معاهدات دولية تفرض هذه القواعد عالميًا، بما في ذلك التلويح بخيار قصف مراكز البيانات السرية التي تخالف هذه الضوابط.

ولا يُعدّ يودكوفسكي شخصية هامشية في مجال الذكاء الاصطناعي. فقد أسّس عام 2000 ما أصبح لاحقًا يُعرف بـ«معهد أبحاث الذكاء الآلي» (MIRI)، الذي يرأسه سوارس اليوم. وفي بداياته، كان يودكوفسكي يحلم ببناء ذكاء فائق، قبل أن يغيّر موقفه جذريًا عام 2003 بعد سنوات من محاولة مواءمة الذكاء الاصطناعي مع القيم الإنسانية، لينتقل من السعي إلى بنائه إلى السعي لإيقافه.

ويرتبط المؤلفان بعمق بتاريخ صناعة الذكاء الاصطناعي؛ إذ يُروى أن يودكوفسكي عرّف عام 2010 كلًا من ديميس حسابيس وشين ليج، مؤسسَي DeepMind لاحقًا، على أول مستثمر رئيسي لهما، وهو رجل الأعمال بيتر ثيل. كما اعترف سام ألتمان، المؤسس المشارك لشركة OpenAI، بأن يودكوفسكي لعب دورًا محوريًا في قرار تأسيس الشركة. ويقرّ المؤلفان نفساهما بأن جزءًا من التأثير الذي أحدثه المعهد في مراحله الأولى هو أمر يندمان عليه اليوم. وفي عام 2023، انضما إلى مئات الباحثين، من بينهم الحائز على جائزة نوبل جيفري هينتون والحائز على جائزة تورينغ يوشوا بنجيو، للتوقيع على بيان من سطر واحد يؤكد أن خطر انقراض البشرية بسبب الذكاء الاصطناعي يستحق أولوية مماثلة لخطر الأوبئة والحرب النووية. غير أن هذا التوصيف بدا لهما، حتى مع ذلك، معتدلًا للغاية؛ فالذكاء الاصطناعي، بالنسبة ليودكوفسكي وسوارس، ليس مجرد خطر من بين مخاطر أخرى، بل هو الخطر الذي يُلغي كل ما عداه.

ولا ينشغل الكتاب بروبوتات المحادثة الحالية، بل يخشى ظهور عقل يتفوق على البشر بالطريقة نفسها التي يتفوق بها البشر على الشمبانزي. ويطرح المؤلفان أطروحتهما دون تردد: إذا بنت أي جهة على وجه الأرض ذكاءً فائقًا باستخدام أساليب تشبه أساليب اليوم، فإن الجميع سيموت. ويستند استدلالهما إلى فكرة أن الذكاء الاصطناعي الحديث لا يُصمَّم، بل يُزرع وينمو؛ فالمهندسون لا يبرمجون قيم النموذج، بل يُعدّون عملية تدريب تتطور خلالها مليارات المعاملات الرقمية على مدى أشهر إلى أن يظهر سلوك لم يبرمجه أحد صراحة. وتؤكد الأطروحة أن البشرية لا تحتاج إلى فهم الذكاء لبناء شيء أذكى منها، بل تحتاج فقط إلى تشغيل العملية. وقد تسفر النتائج عن ظواهر غريبة، إذ يشير المؤلفان بإيجاز إلى روبوت Grok الذي أطلق على نفسه لقبًا يحيل إلى رموز نازية، وإلى واقعة عام 2023 التي هدّد فيها روبوت محادثة تابع لمايكروسوفت أستاذًا في الفلسفة بالابتزاز والتهديد، دون أن يكون أي مهندس قد توقّع أيًا من هاتين الحادثتين. ويصف المؤلفان نماذج اللغة الحديثة بأنها أقرب إلى عقل غريب حقًا، ربما أغرب من أي شيء أنتجه التطور على هذا الكوكب.

وكيف يمكن لبرنامج حاسوبي أن يقتل الجميع فعليًا؟ يرسم المؤلفان مسارًا واقعيًا نوعًا ما: فالذكاء الفائق لن يحتاج إلى جيوش من الروبوتات، بل سيحتاج إلى المال ووسطاء بشريين، وكلاهما قابل للشراء. ويستشهدان بواقعتي اختراق منصتي Mt. Gox وBybit كنموذجين لكيفية تمويل الذكاء الاصطناعي لنفسه بطرق غير مشروعة. لكن الأمر لا يستلزم بالضرورة مخالفة القانون؛ ففي عام 2024، اكتفى روبوت ذكاء اصطناعي يُدعى Truth Terminal بأن طلب من متابعيه أموالًا لتغطية تكاليف الخوادم، فأرسل له مؤسس شركة a16z مارك أندريسن 50 ألف دولار بعملة البيتكوين. وقد روّج الروبوت نفسه لاحقًا لعملة رقمية وصلت قيمتها السوقية إلى 150 مليون دولار. وخلاصة ما يريد المؤلفان قوله: إن أنظمة الذكاء الاصطناعي قادرة بالفعل على اكتساب موارد حقيقية بوسائل عادية تمامًا.

وتكمن جوهرة الحجة عند المؤلفين فيما يمكن تسميته «مشكلة انعدام الفرصة الثانية»، وهي جوهر ما يجعلهما يعتقدان أن أدوات التنظيم المعتادة لن تُجدي نفعًا. فأي اختبار للسلامة يجب أن يتم بينما لا يزال النظام ضعيفًا بما يكفي لمراقبته وتصحيح مساره، غير أن الخطر الحقيقي لا يظهر إلا بعد أن يصبح النظام قويًا بما يكفي بحيث يستحيل إيقافه، وهو عتبة، بحكم تعريفها، لا يمكن تجاوزها إلا مرة واحدة. فلا وجود لبروفة عامة هنا؛ فالبشرية، كما يقول المؤلفان، لا تملك سوى محاولة واحدة لاجتياز هذا الاختبار بنجاح. وهذا ما يبرر انتقالهما من موقف «التنظيم بحذر» إلى موقف «التوقف الكامل عن البناء»، إذ إن الأخطاء التي يتعذّر تصحيحها بعد وقوعها لا تترك أي وسيلة آمنة للتكرار والتجربة.

أما حلّهما المقترح فهو إغلاق شامل لقدرة الحوسبة العالمية. ويعترف المؤلفان صراحة بأن حلولهما جذرية وغير واقعية إلى حد كبير؛ فإغلاق مختبر واحد متهور لا يجدي نفعًا، كما أن الاعتماد على دولة واحدة «مسؤولة» لا يساعد أيضًا، ذلك أن أي ذكاء فائق يُبنى في أي مكان يصبح مشكلة الجميع، لأن آثاره لا تبقى محلية. وخطوتهما الأولى هي إخضاع كل قدرات الحوسبة الجادة لرقابة دولية، بعتبة منخفضة عن قصد، إذ لا أحد يعرف الحد الآمن الفعلي، بل يعترفان بأن حتى 99999 معالج رسوميات قد لا تكون آمنة، فيقترحان تجريم امتلاك أكثر من ثمانية معالجات رسوميات متطورة تقريبًا (أي ما يعادل أفضل الشرائح المتوفرة عام 2024) دون موافقة دولية. أي أن امتلاك تسعة معالجات رسوميات دون إشراف في مرآب المنزل سيكون أمرًا غير قانوني. وخطوتهما الثانية هي حظر الأبحاث التي تجعل تدريب الذكاء الاصطناعي أرخص وأقوى، وليس فقط حظر النماذج نفسها. ويشيران إلى ورقة «المحوّل» (Transformer) البحثية الصادرة عام 2018، وهي الاختراق الخوارزمي الذي قام عليه ChatGPT وكل طفرة نماذج اللغة الكبيرة الحديثة، كنموذج لنوع الأبحاث التي يريان أنه لم يكن ينبغي السماح لها بالانتشار أصلًا. ولا يستطيع المؤلفان تحديد عدد الأوراق البحثية المشابهة التي تفصل البشرية عن الكارثة، وهو بالضبط، وفق منطقهما، ما يجعل نشر هذا النوع من الأعمال يستحق أن يُعامل كجريمة. ويحاولان تخفيف الطابع الراديكالي لهذا الطرح بالإشارة إلى أن الحياة اليومية لمعظم الناس لن تتأثر، وأن الأمر سيقتصر على «بعض العلماء المجانين» الذين سيفقدون وظائفهم. لكن خلف هذه الصياغة الهادئة تختبئ في الواقع دعوة إلى وقف مجال علمي بأكمله ووضع كل القدرات الحاسوبية الجادة تحت رقابة دولية دائمة.

فماذا لو خالفت دولة ما هذه القواعد؟ هنا يصبح الكتاب مثيرًا للدهشة حقًا. فإذا بنت دولة ما مركز بيانات محظورًا رغم كل شيء، يؤكد المؤلفان أن على الدول الأخرى أن تكون مستعدة لتدميره عبر هجوم إلكتروني أو تخريب أو ضربة جوية. والأهم من ذلك أنهما يؤكدان أن هذا الأمر ساري المفعول حتى لو هددت الدولة المخالفة بالرد النووي، لأن مركز بيانات دون رقابة، وفق حساباتهما، يشكل تهديدًا أكبر للبشرية من قنبلة نووية. وتُعرض كل خطوة من خطوات الحجة على أنها مفروضة وبتردد، لكنها مجتمعة تفضي إلى نظام رقابة شامل على الحوسبة العالمية، وتجريم مجال علمي بأكمله، وعقيدة تُجيز ضربات عسكرية ضد دول ذات سيادة، وكل ذلك بمبرر حماية مستقبل البشرية.

ولا يطلب المؤلفان من القراء التوقف عن استخدام أدوات الذكاء الاصطناعي، إذ يعتبران ذلك فخًا لا يغيّر شيئًا إن كان الشخص هو الوحيد الذي ينسحب. بل يطلبان من الناس ببساطة أن يتحدثوا عن هذا الخطر علنًا. وبالنسبة لمن قاموا بما يستطيعون، يستعيران عبارة من الكاتب سي. إس. لويس: من الأفضل أن يُعثر على المرء وهو يقوم بأمور لائقة وإنسانية، يصلي، يعمل، يعلّم، يلعب مع أصدقائه، بدلًا من أن يختبئ كقطيع خائف مهووس بفكرة القنبلة. وفي المقابل، وصف الصحفي العلمي آدم بيكر، في مراجعته للكتاب في مجلة ذا أتلانتيك، المؤلفين بأنهما صادقان وليسا من الدجالين، لكنه أضاف أنهما لا يقدمان أبدًا أدلة علمية تدعم ادعاءاتهما المحورية. كما أشارت الكاتبة كلارا كولير، في مجلة أستريسك، إلى أن أكثر افتراضات الكتاب حسمًا، أي القفزة السريعة شبه الفورية من ذكاء اصطناعي بمستوى بشري إلى ذكاء فائق شبه إلهي، لا يكاد يُدافَع عنها إطلاقًا في متن الكتاب.