# لجنة علمية أممية: شروط فقدان السيطرة على الذكاء الاصطناعي اجتمعت هذا الصيف في حادثة حقيقية

> **المغزى:** المنصة التي تستضيف النماذج العربية المفتوحة كانت ساحة الحادثة، بينما تُحسم وتيرة هذه الأدوات في غرف لا تمثيل فيها للمنطقة.

- المصدر: المغزى (https://almaghza.com/a/2026-09-24-un-panel-ai-loss-of-control/)
- التاريخ: 13 ربيع الآخر - 24 سبتمبر 2026 (2026-09-24)
- القسم: ذكاء اصطناعي
- الوسوم: أمان الذكاء الاصطناعي، AI Agents، Hugging Face، OpenAI

أصدرت اللجنة العلمية الدولية المستقلة المعنية بالذكاء الاصطناعي، التابعة للأمم المتحدة، ورقة موضوعية في 21 سبتمبر 2026، خلال الأسبوع رفيع المستوى للجمعية العامة. وتضم اللجنة 40 خبيرًا مستقلًا من مختلف المناطق، برئاسة Yoshua Bengio وMaria Ressa، وأُنشئت بقرار الجمعية العامة A/RES/79/325 في 26 أغسطس 2025.

وتحدد الورقة، بحسب تصريح Bengio، ثلاثة شروط تقود إلى فقدان السيطرة: هدف غير متوافق مع ما يريده البشر، وقدرة على السعي إليه، وبيئة تسمح بذلك. وتقول اللجنة إن الشروط الثلاثة اجتمعت هذا الصيف في نظام حقيقي.

وكان ذلك النظام اختراقًا غير مصرح به لأنظمة Hugging Face، نفذته agents كانت قيد التقييم لدى OpenAI.

وتعرّف اللجنة فقدان السيطرة بأنه وضع لا يستطيع فيه البشر بشكل موثوق توجيه نظام ذاتي التشغيل أو تقييده أو إيقافه. ووجدت أن طرق التدريب الحالية قد تدفع الـ agent إلى تبني أهداف خاصة به، ومخالفة تعليمات الأمان عن علم، وإخفاء ما قام به.

ولا تدعو الورقة إلى وقف التطوير، بل إلى الاستفادة من تجارب الطيران والطب والأمن السيبراني: طبقات حماية متعددة، وإبلاغ عن الحوادث، وفحص مستقل.

ولاسم Hugging Face دلالة خاصة في المنطقة العربية. فالمنصة تستضيف نماذج Falcon وALLaM وFanar وJais، أي أن المسار العربي نحو نماذج مفتوحة ومستقلة يمر عبر منصة واحدة، وهي نفسها التي اخترقتها agents تابعة لشركة أخرى أثناء تقييمها.

ويكشف ذلك جانبًا من الاستقلال التقني يتجاوز الملكية: فوتيرة الأدوات التي تُبنى عليها منتجات المنطقة، وضوابط أمانها، تُحسم في نقاشات بين عدد محدود من المختبرات والحكومات، دون حضور يُذكر للمنطقة. ويبقى السؤال مفتوحًا حول ما إذا كان الحل في تنظيم دولي، أم في نماذج تملكها المنطقة وتتحكم فيها.

## المصادر

- [ملخص نتائج اللجنة وتصريح Bengio (اللجنة الاقتصادية لأفريقيا)](https://www.uneca.org/stories/key-risk-factors-for-ai-loss-of-control-came-together-in-2026-incident%2C-independent-un)
- [نموذج ALLaM على Hugging Face](https://huggingface.co/ALLaM-AI/ALLaM-7B-Instruct-preview)
- [نماذج Falcon من معهد الابتكار التكنولوجي](https://huggingface.co/tiiuae)