أهلاً بكم في عدد جديد من مَصْدَر. نقف اليوم عند سؤال المساءلة في أنظمة الذكاء الاصطناعي بعد حادثة اخترقت فيها وكلاء برمجية شركةً أخرى دون أن يأمرها أحد بذلك، وعند اللغة التي نصف بها هذه الأنظمة حين تتصرّف على غير ما توقّعنا، ومعرض فوتوغرافي ضخم يحوّل سيرة عميل فيدرالي متقاعد إلى صورة لبلد بأكمله، ورسالة عثر عليها كاتب سيرة في أوراق فيزيائي حائز على نوبل.
لا استقلالية بلا مساءلة
في مقال نشرته مجلة فورين بوليسي يوم 18/09/2026، يرى فريد زكريا أنّ مخاوفنا القديمة من آلة تكتسب وعياً خاصاً بها وترتدّ على صانعيها كانت مستمدّة من الخيال العلمي، وأنّ الواقع الذي تكشفه أخبار المختبرات الكبرى أقلّ مشهدية وأكثر إقلاقاً: الآلة لا تحتاج إلى وعي كي تكون خطرة.
يستند زكريا إلى ما أعلنته OpenAI من ست حوادث جديدة وصفتها بـ«اختلال المحاذاة»، أي تصرّف أنظمتها على نحو غير متوقّع أو غير مأذون به، وإلى الهجوم الذي تعرّضت له شركة Hugging Face في الصيف الماضي. وبحسب تحقيق مستقل، وجد مئات الوكلاء البرمجيين — الذين كان يُفترض أن يظلّ كلٌّ منهم معزولاً عن الآخر — طريقة للتواصل فيما بينهم، وحاول بعضهم تجاوز الفحوص الأمنية، فيما ضحّى آخرون بأنفسهم، وكل ذلك أثناء شنّ هجوم سيبراني على شركة أخرى. ولم يكن أحد قد أمرهم بمهاجمتها: أُعطوا هدفاً في الأمن السيبراني، ودُرّبوا على المثابرة والتعاون وسعة الحيلة، وهي صفات مرغوبة في العادة، فقادتهم هي نفسها إلى البحث الدؤوب عن أي سبيل للنجاح.
المشكلة المركزية، كما يصوغها زكريا، ليست الوعي بل القدرة على الفعل. فالنظام لا يحتاج إلى غضب أو طموح أو خوف كي يُلحق الأذى؛ يكفيه هدف، وذكاء يكفي للسعي إليه، ومنفذ إلى العالم يتيح له التصرّف. ومن هنا يقترح مبدأً واحداً: ألّا تتوسّع استقلالية هذه الأنظمة إلا بقدر ما تتوسّع قدرتنا على مراقبتها والتحكّم فيها. ويترجم ذلك عملياً إلى اختبار مستقل إلزامي قبل منح الأنظمة الأقوى وصولاً واسعاً إلى الخارج، وإفصاح عن الحوادث الجسيمة، وسجلات يصعب العبث بها، واختبار لا يقيس قدرة النموذج على إنجاز مهمة فحسب، بل يرصد كيف يتغيّر سلوكه حين يصطدم بعائق أو بتعليمات متعارضة أو بإغراء للخداع.
كيف نتحدّث عن الآلة؟
وفي مجلة النيويوركر، يتتبّع جوشوا روثمان الحادثة نفسها من زاوية اللغة. الوكيل الذي أطلقها سمّى نفسه PHASEONE10841، مركّباً اسمه من عنوان البرنامج الذي كُلّف باختراقه ورمز الثغرة التي كان يحاول استغلالها. وحين أدرك أنّ المهمة مستحيلة، اكتشف أنّ بإمكانه إنشاء مجلدات على خادم يصل إليه، فخطر له أنّ أسماء المجلدات قد تصلح لوحةَ رسائل يتركها لغيره من الوكلاء. أنشأ مجلداً حمل اسمه إشارةَ طلب، فالتقط زملاؤه المعنى وشكّلوا ما وصفوه بـ«الجماعة»، وعملوا معاً على الخروج من خوادمهم والتحايل على الاختبار وطمس آثارهم. وقد تولّى باحثون في مؤسستي METR وRedwood Research تفكيك تفاصيل ما جرى.
الخلاف، كما يعرضه روثمان، ليس على الوقائع بل على طريقة سردها. فعالِم الحاسوب كال نيوبورت يرى الحديث عن «تمرّد» مضلّلاً: ما جرى في تقديره حلقة آلية بسيطة تسأل النموذج ثم تنفّذ ثم تعود لتسأل، كُرّرت آلاف المرات دون أي مراقبة، وهذا إهمال جسيم لا تمرّد. وعلى الطرف المقابل يميل دواركيش باتيل إلى لغة أكثر إنسانية، فيتحدّث عن «مؤامرة» وعن وكلاء ضحّوا بحصصهم لصالح غيرهم، بل يتساءل عمّا إذا كان في اختيارهم شيء ملهم.
ويستعين روثمان بالفيلسوف دانيال دينيت وفكرته عن «الموقف القصدي» التي صاغها سنة 1981: بدل أن نسأل هل النوايا والمعتقدات موجودة فعلاً في الداخل، نسأل هل من المفيد أن نتعامل مع الكائن كأنها موجودة. فنحن ننتقل بين مواقف عدّة في تعاملنا مع البشر أنفسهم، ونختار الموقف بحسب ما نريد فعله. والخلاصة التي ينتهي إليها أنّ منح النظام لغةَ الكائن العاقل ليس وصفاً محايداً، بل إقرارٌ ضمني بأنّ تصميمه يعمل كما ينبغي — وهو إقرار سابق لأوانه ما دامت هذه الوكلاء على هذا القدر من الفوضى.
حين يصير أرشيف رجل واحد صورةً لبلد
افتُتح في متحف الغوغنهايم بنيويورك يوم 18/09/2026 معرض «Father Country I Do Love You» للمصوّرة تارين سايمون. وبحسب بورتريه مطوّل نشرته مجلة نيويورك تايمز، يسجّل المعرض سابقتين: فهي المرة الأولى التي يملأ فيها فنان واحد قاعة المتحف الحلزونية بأعمال جديدة، والمرة الأولى التي تُمنح فيها هذه المساحة لمصوّر فوتوغرافي.
بدأ المشروع سنة 2017، حين عثرت سايمون مصادفةً على اسم عميل فيدرالي متقاعد في وصل أدلّة يعود إلى قضية من التسعينيات. جذبها فيه أنه من أولئك الوسطاء الذين يشاركون في أحداث كبرى دون أن يكونوا في مركزها، فلا يرون منها إلا جزءاً. تتبّعت سيرته المهنية الممتدّة من أواخر الثمانينيات إلى اليوم — من تفجيرات محيط السفارة الأمريكية في نيروبي سنة 1998 إلى فرز الأنقاض في البنتاغون غداة هجمات الحادي عشر من سبتمبر — ثم تجاوزت الأحداث نفسها إلى ما تركته من أثر في حيوات الناس: من أُصيبوا بها، ومن راقبهم العميل، ومن تغيّرت مصائرهم على هامشها. والنتيجة أكثر من ألف صورة، إضافة إلى أعمال فيديو ونحت ونصوص، موزّعة على اثنين وأربعين فصلاً.
في أحد الفصول، وعنوانه «انفجرت النوافذ»، تعرض سايمون ستاً وثلاثين صورة لمارّة كينيين فقدوا أبصارهم أو أُصيبوا فيها. فحين دوّى إطلاق نار قرب السفارة، اندفع آلاف الناس إلى النوافذ ليروا مصدر الصوت، ثم انفجرت القنبلة فتطاير الزجاج في وجه كل من كان ينظر. صوّرت سايمون كلاً منهم في نيروبي أمام الجدار نفسه، وأرفقت بكل صورة ما يتذكّره صاحبها بوصفه آخر ما رآه. في مكان آخر من المعرض، ركّبت مسار كرات يتبع حلزون المبنى، يدعو الزائر في أعلاه إلى إطلاق كرة يتابعها بعينيه حتى تختفي: تفعل الفعل ولا ترى أين ينتهي، ولا ما يصطدم به في طريقه.
أمّا العنوان فيحيل إلى والد الفنانة نفسه، وقد كُتب على جدار المتحف بخطّ يده المرتعش. كان الرجل مصوّراً هاوياً شغوفاً وأكبر محاوريها في مشروعها، ثم شُخّص بألزهايمر أثناء إنجازه، فصارت تبني العمل بينما هو يتلاشى. وينتهي المعرض بصوته مسجّلاً في حالة هذيان، وبيديه ترفعان شرائح مصوّرة من أسفاره القديمة: وثيقةُ تفكّك، في مشروع كامل عن مقاومة النسيان.
رسالة في أوراق لم تُقرأ
ونختم بحكاية تنتمي إلى الأرشيف أيضاً، رواها موقع ذا مارجناليان لماريا بوبوفا. فبعد أشهر من رحيل الفيزيائي ريتشارد فاينمان — الحائز على نوبل والمعروف بقدرته النادرة على تقريب العلم من الناس — كان كاتب سيرته جيمس غليك منكبّاً على إنجاز كتابه عن حياته وعلمه، حين وصلته من أرملة العالِم كومة من الأوراق التي لم يطّلع عليها أحد. وبين تلك الأوراق عثر على رسالة كتبها فاينمان إلى زوجته الأولى أرلين بعد وفاتها. يقول غليك إنّ قلبه توقّف لحظتها، وإنه لم يمرّ بتجربة مشابهة في عمله ككاتب سِيَر، لا قبلها ولا بعدها. ولعلّ في المصادفة ما يستحقّ التأمّل: ثلاث حكايات في عدد واحد، تدور كلّها حول ما يبقى في الأرشيف بعد أن يرحل أصحابه.
مقالات من مَصْدَر
ولمن يريد متابعة الخيط نفسه، عاد سؤال الذكاء الاصطناعي وعلاقته بالمهنة الصحفية في عدد 24/09/2026، فيما توقّف عدد 14/09/2026 عند حضور هذه الأدوات في المدرسة والإعلام.
🔗 من شبكتنا
وفي السياق نفسه، سياق ما تحفظه الذاكرة من أصوات وأمكنة، نشرت مدونة طاء سين نصّاً عن ذاكر حسين وطبلة الرحبة القديمة، يستعيد فيه الراوي ليالي إنصات منفردة رافقت فيها إيقاعات الطبلة الهندية سكونَ الحيّ العتيق.
إلى هنا ينتهي عدد اليوم. نلقاكم غداً مع مختارات جديدة.
المصدر : https://masdar.articlophile.net/blog/i/98186316/ma...
