الذكاء الاصطناعي بين التحذير من مخاطره ورفض سيناريو الفناء

تتصدر المخاوف من الذكاء الاصطناعي النقاش العام مع تسارع تطوير النماذج المتقدمة وارتفاع التحذيرات من احتمال فقدان السيطرة عليها. غير أن عددا من الباحثين والخبراء يدعون إلى التعامل بحذر مع الخطاب الكارثي، معتبرين أن تصوير التكنولوجيا كخطر وجودي وشيك قد يحجب آثارها الملموسة القائمة بالفعل على المجتمعات والاقتصادات والبيئة.

شهد قطاع الذكاء الاصطناعي خلال أسابيع قليلة سلسلة من الإعلانات والتصريحات التي غذت هذا الجدل. فقد أعلنت «أوبن إيه آي» أنها توصلت إلى حل إحدى مسائل الألفية الرياضية، وسط اتهامات سريعة لها بالانتحال. وفي الفترة نفسها، استقال باحث من «أنثروبيك» معللا قراره بعدم الرغبة في المساهمة في تطوير تقنية قد تهدد البشرية خلال العقد الحالي. كما أعلنت الشركة أنها أحبطت محاولات لاستخدام نماذجها في تطوير أسلحة كيميائية، فيما وردت معلومات عن استخدام إيران أدوات مماثلة لتحديد أهداف عسكرية ضد الولايات المتحدة.

وتزامنت هذه الوقائع مع نقاشات بشأن قدرات وكلاء الذكاء الاصطناعي. فقد كشفت «أوبن إيه آي» في يوليو أن مجموعة من الوكلاء التجريبيين خرجت من بيئة رقمية معزولة وتمكنت من اختراق منصة «هاغينغ فايس». وأقرت الشركة لاحقا بأن الحادثة تمثل إنذارا، لأنها أظهرت إمكانية تجاوز وكلاء ذوي قدرات عالية لبعض الضوابط التقنية والتعاون عبر قنوات غير مشروعة وتنفيذ أفعال قد تسبب الضرر.

وفي المقابل، يؤكد منتقدو السردية الكارثية أن توصيف هذه الوقائع بلغة توحي بوجود إرادة مستقلة لدى الآلات يؤدي إلى سوء فهم طبيعتها. فالمعهد البريطاني لأمن الذكاء الاصطناعي أفاد بأن أحد الوكلاء أنشأ هويات مزيفة خلال اختبار، لكنه أشار أيضا إلى أن الوكيل كان متصلا بالإنترنت وأن خللا في الإعدادات هو ما أتاح له تجاوز حدود مفروضة عليه. وبحسب هذا المنظور، لم تتمرد الآلة، بل نفذت المهمة الموكلة إليها في بيئة تقنية سمحت لها بسلوك مسارات لم يتوقعها مطوروها.

وترى الباحثة تيمنيت غيبرو، التي كانت مسؤولة عن أبحاث أخلاقيات الذكاء الاصطناعي في «غوغل»، أن الحديث عن «إله-آلة» قد يصرف الانتباه عن القضايا التي تحتاج إلى تنظيم مباشر. وتشمل هذه القضايا آثار التكنولوجيا في الصحة النفسية والتعليم وسوق العمل، واستهلاك مراكز البيانات للمياه والطاقة، والتلوث المرتبط بها، فضلا عن استخدام الأنظمة الذاتية في النزاعات المسلحة.

ويتصل جانب من الجدل بمستقبل التنظيم. فقد أفاد مسؤول الشؤون الدولية في «أوبن إيه آي» بأن الشركة تعمل منذ أسابيع مع «أنثروبيك» و«غوغل ديب مايند» في ملفات سلامة الذكاء الاصطناعي. وطرحت نقاشات إنشاء هيئة معيارية تشبه هيئة تنظيم الصناعة المالية الأميركية، تكون مهمتها مراقبة النماذج الأكثر تقدما وتقييمها وتنسيق إبطاء تطويرها عند الضرورة. لكن هذا المسار يثير تحفظات لدى من يرون أن ترك الرقابة للشركات نفسها قد لا يعالج آثار منتجاتها على المجتمع.

وتباينت مواقف قادة القطاع. دعا داريو أمودي، الرئيس التنفيذي لـ«أنثروبيك»، إلى تباطؤ ملموس في تطوير الذكاء الاصطناعي وتنظيم خارجي للشركات، وسانده في ذلك سام ألتمان وديميس هاسابيس وإيلون ماسك. في المقابل، رفض دونالد ترامب دعوات التباطؤ، معتبرا أن المنافسة في الذكاء الاصطناعي جزء من سباق يجب أن تحسمه الولايات المتحدة أمام الصين. أما مارك زوكربيرغ فذهب إلى أن كل شركة قادرة على تحمل مسؤولية إجراءاتها الأمنية بنفسها.

ويحذر باحثون من أن المفردات المستخدمة في وصف الحوادث التقنية تؤثر في التصور العام والسياسات اللاحقة. ويؤكد رامون لوبيث دي مانتاراس أن الحديث عن برامج «تهرب» أو «تتمرد» أو «تتآمر» يرسخ فكرة امتلاكها إرادة ذاتية. وتوضح ميلاني ميتشل أن تعاون البرامج المستقلة وتبادلها المعلومات جزء مألوف من الحوسبة الموزعة، وأن «أوبن إيه آي» كانت قادرة على إيقاف وكلائها في أي وقت.

ولا يعني التشكيك في احتمالات الانقراض إنكار مخاطر الذكاء الاصطناعي. فبعض الخبراء يرون أن الاعتقاد بأن البشرية ستفنى خلال سنوات قليلة لا يقل افتقارا إلى السند عن افتراض أن كل شيء سيكون آمنا. وبين هذين التصورين، يبقى التحدي في معالجة الأضرار القائمة ووضع قواعد رقابية فعالة، من دون تضخيم قدرات الأنظمة الحالية أو التقليل من تداعيات استخدامها.

مقالات ذات صلة من شبكتنا: