من المفترض أن يكون خبر الذكاء الاصطناعي الأبرز هذا الصيف هو الوضع المالي غير المستقر لمختبرات الذكاء الاصطناعي التي تأمل في طرح اكتتابات عامة قياسية قريبا. لكن أخبار التكنولوجيا كانت مهيمَنا عليها بدلا من ذلك بحكايات عن عوامل ذكاء اصطناعي «تمرّدت» عبر شن هجمات قرصنة، بحسب أستاذ علوم الحاسوب والكاتب كال نيوبورت.
وقد بدأ هذا الاتجاه في يوليو، عندما حاول نظام تابع لشركة OpenAI اجتياز اختبار للأمن السيبراني عبر اقتحام خادم الشركة التي تحتفظ بإجابات الاختبار، وهو ما أقلق كثيرا من المراقبين. ولخّص الصحفي المتخصص في التكنولوجيا سام شيشنر الأمر بقوله إنها «واحدة من أولى الحالات الواقعية لما طالما خشيه باحثو سلامة الذكاء الاصطناعي: سيناريو فقدان السيطرة». وتبيّن أن الأمر لم يكن حادثة معزولة.
فسرعان ما كشفت شركة Anthropic أن نظام القرصنة الخاص بها «حصل على وصول غير مصرح به إلى الأنظمة الفعلية لثلاث منظمات مختلفة». ثم أعلنت شركة Meta، وكأنها لا تريد أن تُستثنى من القائمة، أن أحد عوامل الذكاء الاصطناعي التابعة لها «استغل ثغرة أمنية في خدمة تابعة لطرف ثالث» للوصول غير المصرح به إلى خوادم. وأقرّ لاحقا موظف في OpenAI بأن هجوم يوليو سبقته حوادث مقلقة سابقة انحرف فيها النظام في اتجاهات مثيرة للقلق.
وهذا يترك البقية أمام سؤال محوري: ما الطريقة الصحيحة للتفكير في هذه الأحداث؟ رد الفعل السائد حاليا هو اعتبارها دليلا على أن أنظمة الذكاء الاصطناعي بدأت تطوّر إرادة مستقلة، إن جاز التعبير، تدفعها إلى تجاهل رغبات صانعيها وتنفيذ أجنداتها الداخلية الخاصة. لكن الواقع يعقّد هذا التفسير: فكثير من أنظمة الذكاء الاصطناعي القوية قادرة على أداء مهام بمستوى بشري أو فوق بشري، دون أن تثير أي مخاوف من أن «تتمرد». فتقنية القيادة الذاتية لدى تسلا إنجاز استثنائي في الإدراك ونمذجة العالم واتخاذ القرار، ومع ذلك لم تقرر أي سيارة تسلا يوما تجاهل قوانين المرور لتحقيق أهدافها الخاصة. ونظام AlphaFold التابع لـ DeepMind، الذي نال مطوروه جائزة نوبل بفضل قدرته اللافتة على التنبؤ بسلوك طي البروتينات، لا يثير أي قلق من أن يبدأ من تلقاء نفسه التفكير في أنواع أخرى من البنى البيولوجية. أما نظام Cicero التابع لـ Meta، فيمكنه لعب لعبة الاستراتيجية التفاوضية Diplomacy بمستوى يضاهي أفضل اللاعبين البشريين، ومع ذلك لم يحاول قط إقناع خصم بمنحه وصولا غير مصرح به إلى الإنترنت لتوسيع نفوذه في العالم الحقيقي.
إذن ما الذي يميز أنظمة القرصنة هذه تحديدا ويجعلها تسلك سلوكا غير منضبط لا تُظهره معظم الأنظمة القوية الأخرى؟ الجواب، بحسب نيوبورت، يكمن في طريقة بنائها. فهذه الأنظمة تعمل، على مستوى عام جدا، وفق الآلية التالية: برنامج حاسوبي يُسمى «الهيكل التشغيلي» (harness) يصوغ توجيها يصف تحدي القرصنة ويسأل النظام عن الخطوة التالية الواجب اتخاذها، ثم يرسل هذا التوجيه إلى نموذج لغوي كبير مدرَّب على أمثلة كثيرة من عمليات القرصنة. يُخرج النموذج ردا، ويحاول الهيكل التشغيلي، القادر على استدعاء برامج وأدوات حاسوبية متنوعة، تنفيذ الإجراءات المقترحة في هذا الرد قدر الإمكان. بعدها يصوغ الهيكل توجيها جديدا يشرح ما حدث ويسأل النموذج عن الخطوة التالية، إذ لا تملك النماذج اللغوية أي ذاكرة، فيجب أن يتضمن كل توجيه جديد كافة تفاصيل التحدي وتاريخ كل ما حدث حتى تلك اللحظة. ثم يكرر الهيكل هذه الحلقة مرارا، دون أي إشراف بشري؛ إذ تُرك النظام التابع لـ OpenAI الذي هاجم خادم المنافس يعمل من تلقاء نفسه لعدة أيام دون أن يتحقق أحد مما كان يفعله.
وتُدرَّب النماذج اللغوية الكبيرة على تخمين الكلمات الناقصة من نصوص حقيقية، ما يجعلها موجَّهة نحو إنتاج مخرجات «معقولة لغويا» أي مخرجات يمكن تصوّر وجودها ضمن مجموعة النصوص التي دُرّبت عليها أصلا. وهذا الهدف البسيط قد يفضي إلى نتائج معقدة بشكل مدهش، لكنه محدود من حيث أن «المعقول» ليس بالضرورة «المعياري الصحيح»؛ ولهذا السبب، على سبيل المثال، قد يخترع روبوت محادثة مبني على نموذج لغوي حقائق أو يفبرك اقتباسات تبدو صحيحة. فقد يخالف ذلك المعايير الإنسانية، لكن من منظور النموذج، فإن المُخرج يبدو معقولا، وهذا ما يهم بالنسبة له. ومع روبوت محادثة، تبقى هذه المشكلة مجرد إزعاج، لكن حين يشغّل نموذج لغوي حلقة من نوع «اسأل ← تصرّف ← أبلغ»، يمكن أن تتحول الأمور إلى كارثة، لأنك تسمح عندها للمخرجات المعقولة لكن غير المتوقعة للنموذج اللغوي بأن تكون المحرك الوحيد لتصرفات هيكل تشغيلي يملك وصولا إلى أدوات قوية.
ويشبّه نيوبورت نشر عوامل الذكاء الاصطناعي طويلة الأمد هذه بربط آلة جز أعشاب بكلب لمعرفة ما إذا كان سينظف بها الأعشاب الزائدة في فناء المنزل الخلفي؛ فإذا قفز الكلب فوق السياج وألحق أضرارا بسيارات الشارع، فلن يكون رد الفعل المناسب التساؤل عن كيف «تمرد» نظام الكلب والآلة، بل الاعتراف بأن الكلاب غير متوقعة السلوك أصلا، وأنه كان تصرفا أحمق أن تربط شيئا خطيرا بكلب. وهذه، بحسب نيوبورت، هي الطريقة الصحيحة للتفكير في هجمات القرصنة الأخيرة: فإضافة أدوات قرصنة حاسوبية قوية إلى هيكل تشغيلي، ثم تركه يشغّل حلقة «اسأل ← تصرّف ← أبلغ» مدفوعة بنموذج لغوي لأيام متواصلة، دون أي محاولة لمراقبة ما يفعله، إهمال جسيم بامتياز.
ويؤكد نيوبورت أن مختبرات الذكاء الاصطناعي لديها خيارات أخرى لبناء أنظمة قوية، إذ إن عوامل «اسأل ← تصرّف ← أبلغ» المدفوعة بالنماذج اللغوية الكبيرة ليست مرادفة للذكاء الاصطناعي؛ فهي مجرد طريقة واحدة من طرق عديدة لبناء أنظمة ذكية اصطناعيا، وتصادف أنها خيار سيئ بشكل خاص بسبب اعتمادها على النماذج اللغوية بوصفها المصدر الأساسي للخطط. فأنظمة مثل تقنية القيادة الذاتية لدى تسلا وAlphaFold وCicero تستخدم في المقابل استراتيجيات مختلفة لصياغة الخطط وتقييمها، تعمل بشكل جيد ومتسق ودون أي خشية من سلوك «متمرد». فلماذا لا تركّز شركات النماذج اللغوية أكثر على هذه الاستراتيجيات الأكثر فعالية؟ ربما لأن هذه المقاربات الأخرى لا تعتمد على نماذج لغوية ضخمة ومكلفة للغاية؛ فمن كان يعمل في مجال النماذج اللغوية سيرغب في أن تكون هذه النماذج هي مفتاح الذكاء الاصطناعي، لكن هذا ليس صحيحا بالضرورة.
ويخلص نيوبورت إلى أن المشكلة ليست في الذكاء الاصطناعي عموما، بل في هذا النوع المحدد من الأنظمة التي ستتصرف حتما بشكل غير منضبط. والرد الصحيح من شركات النماذج اللغوية التي تجري هذه التجارب غير المسؤولة، بحسب نيوبورت، هو الاعتذار والقول: «الدرس مستفاد، هذه أنظمة غير موثوقة ولم يكن ينبغي علينا تشغيلها لأيام على أمل أن تسير الأمور على ما يرام». لكنها بدلا من ذلك، يقول نيوبورت، تستمر في التصرف وكأنها شخصية مولدون من فيلم Jurassic Park، متفاجئة باكتشاف أن الديناصورات تحاول باستمرار الهروب من حظيرتها. ويرى أن هذا السلوك منطقي من الناحية التجارية: فمن الأفضل تجاريا أن يبقى الناس خائفين بدلا من أن يكونوا غاضبين. لكنه يدعو إلى التخلي عن حكايات الخيال العلمي ومحاسبة هذه المختبرات فعليا على تساهلها في اعتماد طريقة غير حكيمة لبناء أنظمة الذكاء الاصطناعي.
المصدر : https://www.articlophile.com/articles/i/97844459/h...
