سام ألتمان يحذر من فقدان السيطرة واحتكار قوة الذكاء الاصطناعي

قال سام ألتمان إن مسار التقدم في الذكاء الاصطناعي قد ينتهي إلى نتائج سلبية عبر طريقين رئيسيين ينبغي تفاديهما: فقدان البشر القدرة على التحكم في هذه الأنظمة، أو تمركز قوة مفرطة مرتبطة بها في يد فرد أو شركة أو مختبر أو دولة واحدة.

وفي منشور منسوب إلى حسابه على منصة إكس، اعتبر ألتمان أن احتمال انتقال السيطرة على المستقبل إلى الذكاء الاصطناعي يمثل نتيجة غير مقبولة. وشدد على أن الذكاء الاصطناعي يجب أن يظل في خدمة الناس، وأن تكون الإنسانية هي الطرف الذي يحدد الغايات الأساسية لا التكنولوجيا ذاتها.

وربط تفادي هذا الاحتمال بتطوير تقنيات المواءمة والسلامة بوتيرة تسبق نمو قدرات النماذج. ويقصد بالمواءمة ضمان أن تتصرف أنظمة الذكاء الاصطناعي وفق الأهداف والقيود التي يحددها البشر، وألا تنتج عنها قرارات أو سلوكيات تتعارض مع مصالحهم أو إرادتهم.

أما الخطر الثاني، فيتصل بإمكان نشوء عالم تتركز فيه القوة بدرجة كبيرة. ووفق الطرح الوارد في المنشور، يمكن أن تصبح النتائج قاتمة إذا استُخدم نظام ذكاء اصطناعي شديد القوة من جانب شخص أو شركة واحدة لفرض رؤيتها للعالم على الآخرين.

ولا يحصر ألتمان هذه المخاوف في الشركات التقنية وحدها، بل يشير أيضا إلى الدول والمختبرات المتخصصة بوصفها جهات قد تستحوذ على نفوذ واسع. فتمكن طرف واحد من امتلاك قدرات حاسوبية ونماذج متقدمة ووسائل نشر واسعة قد يمنحه إمكانية التأثير في الخيارات العامة وفي مستقبل قطاعات تتجاوز المجال التقني نفسه.

ويطرح ألتمان ما وصفه بمسار وسط ضيق بين الخطرين. ويقوم هذا المسار على الجمع بين الحفاظ على السيطرة البشرية وعلى سلامة الأنظمة من جهة، ومنع احتكار القدرات المؤثرة من جانب أي جهة منفردة من جهة أخرى. وبذلك لا يقتصر النقاش على سرعة تطوير النماذج، بل يشمل كذلك الجهة التي تملكها وتتحكم في بنيتها التحتية وتقرر سبل استخدامها.

ويضرب المنشور أمثلة على الاختلال الممكن في توزيع القوة، منها أن تكتسب دولة واحدة نفوذا يفوق الحد المقبول، أو أن ينتهي مختبر واحد إلى امتلاك سلطة واسعة بفعل تفوقه التقني. وتدل هذه الأمثلة على أن مسألة الحوكمة، في تصور ألتمان، لا تنفصل عن قضية السلامة التقنية؛ إذ إن نظاما متقدما قد يكون محكوما بضوابط تشغيلية، لكنه يظل مصدر خطر سياسي أو اجتماعي إذا بقيت قدراته الحاسمة تحت تصرف مركز قوة واحد.

ويضع هذا الموقف تطوير الذكاء الاصطناعي أمام معادلتين متلازمتين: الأولى تتعلق بكيفية الحفاظ على مواءمة الأنظمة المتقدمة مع المصالح البشرية، والثانية ترتبط بتوزيع السلطة الناتجة عنها بين جهات متعددة ومنع استخدامها لفرض تصور واحد للمستقبل.