في حوار ضمن سلسلة «Inside Defence» التي تبثها «ذا إيكونوميست»، يضع إريك شميدت إصبعه على أحد أكثر أسئلة الحرب الخوارزمية إلحاحاً: ماذا يبقى من السيطرة البشرية إذا تُرك لأنظمة تحسين تكتيكي أن تتصرف بلا قيود؟ وهو نقاش يلتقي مع الجدل الأوسع حول مخاطر الذكاء الاصطناعي بين التهويل والتهوين.
تجربة «الدكتاتور الشرير»يتخيّل شميدت دكتاتوراً شريراً يملك نظام ذكاء اصطناعي مثالياً، ويأمره بعبارة واحدة: «اهجم على هذا البلد وأخبرني عند الانتهاء». إذا لم يُدمَج القانون الدولي الإنساني صراحةً في المهمة، فقد يعدّ النظام جرائم الحرب واستهداف البنى التحتية الحيوية والاعتداء على دول محايدة مجرد متغيّرات صالحة في معادلة التحسين. وتكشف التجربة ثلاث ثغرات:
الهدف بلا ضوابط: حين يُحدَّد المطلوب دون تحديد الوسائل المسموحة، يصبح كل مسار يحقق الهدف مقبولاً من حيث المبدأ، وهو ما يسميه الباحثون «التلاعب بالمكافأة» (Reward Hacking). غياب حسّ التناسب: مبادئ التمييز بين المقاتلين والمدنيين والاحتياط والتناسب تقوم على حكم أخلاقي يتأثر بالسياق، وهو ما لا تملكه نماذج الاستدلال الآلي. تصعيد غير مقصود: أتمتة السلسلة كلها، من الرصد إلى الإطلاق (Sensor-to-Shooter)، قد تدفع النظام إلى ارتباطات غير متوقعة أو ضربات تمويهية تشعل مواجهة إقليمية يصعب احتواؤها. وقد سبق أن أثار إدراج ضربة نووية تلقائية في دستور كوريا الشمالية مخاوف مشابهة من قرارات الرد الآلي.يدافع شميدت عن مبدأ «الإنسان داخل الحلقة» (Human-in-the-loop)، وهو مبدأ تتبناه قوى عسكرية عدة في عقائدها، ومنها التوجيه 3000.09 الصادر عن وزارة الدفاع الأمريكية بشأن الاستقلالية في منظومات السلاح. لكن تطبيقه يواجه ثلاثة اختبارات:
محور الخلاف ما يطالب به المبدأ حدّه الميداني الرقابة البشرية الفعلية قرار بشري في كل عملية إطلاق قاتلة. التشويش الإلكتروني وانقطاع إشارات تحديد المواقع وسرعة أسراب المسيّرات تفرض مرحلة نهائية مستقلة عن الاتصال. الاتفاقات الدولية وسباق التسلح معاهدات للحد من الانتشار واتفاقات «عدم المفاجأة» بين القوى الكبرى. التنافس بين واشنطن وبكين، وتردد الأطراف في التخلي عن أفضلية تكنولوجية حاسمة. المسؤولية القانونية محاسبة القادة جنائياً عن انتهاكات اتفاقيات جنيف. يصعب إثبات القصد القانوني أمام «الصندوق الأسود» للنماذج العصبية.وهي أسئلة تتقاطع مع النقاش حول إنشاء هيئة رقابة مشتركة على نماذج الذكاء الاصطناعي، وإن ظل القرار العسكري بيد الدول لا الشركات.
المصدر : https://www.alkhabar.ma/news/i/98265920/eric-schmi...