لجنة علمية أممية: شروط فقدان السيطرة على الذكاء الاصطناعي اجتمعت هذا الصيف في حادثة حقيقية
المنصة التي تستضيف النماذج العربية المفتوحة كانت ساحة الحادثة، بينما تُحسم وتيرة هذه الأدوات في غرف لا تمثيل فيها للمنطقة.
وسم
المنصة التي تستضيف النماذج العربية المفتوحة كانت ساحة الحادثة، بينما تُحسم وتيرة هذه الأدوات في غرف لا تمثيل فيها للمنطقة.
عبارة "اجعله أسرع" رأي لا يمكن التحقق منه، أما رقم مستهدف عند الـ p75 فشرط يتحقق أو لا، وهو ما يسمح لـ agent بالعمل على ما يهم فعلًا.
مسح بحثي كان يستغرق من المتخصص أسابيع أو شهورًا صار يُقاس بعدد التوكنز، وتكلفته التقريبية في متناول فرق بحث صغيرة في أي مكان.
أداة تقول "لا أستطيع الحكم" بدل إظهار لون أخضر صُممت ليُعتمد عليها، ومراجعة الأمان تتحول في الفرق الصغيرة من مهمة مؤجلة إلى خطوة في الـ PR.
قرار البناء أو الشراء كان يُحسم دائمًا على كلفة الصيانة لا البناء، وحين تتولى الـ agents الصيانة يصبح السؤال: ما الذي صار رخيصًا بما يكفي لامتلاكه؟
كلمة AI في وصف المنتج صارت معلومة ناقصة، والسؤال الذي يهم المستخدم أصبح: من الذي يرى ما يكتبه أو يقوله فعلًا؟
أي فلتر أمان يعمل على نص الأمر قبل تنفيذه يجب أن يفترض أن جزءًا من هذا النص لم يُكتب بعد، وهذا درس يتجاوز أداة واحدة.
قراءة ملف نصي من جهاز المطوّر، وهي عملية لا علاقة لها بالشبكة، ارتبطت بمفتاح على خادم بعيد، فصار إعداد الخصوصية يعطّل سلوكًا محليًا دون أي تحذير.
حين يعمل الـ agent بهوية مستخدمه تختلط أفعالهما في السجلات ويرث كل صلاحياته. وفصل الهوية نمط هندسي يمكن تطبيقه اليوم، حتى لو كان المنتج نفسه غير متاح في المنطقة.
الخلل لم يكن في سطر كود، بل في الجمع بين أداتين منطقيتين كل على حدة. وهذا النوع من التسريب لا يمنعه الـ prompt، بل حدود الصلاحيات.
نجاح الـ agents في تحسين الكود لم يأتِ من قوة النموذج وحده، بل من وجود رقم آلي يحكم على النتيجة. والمهام التي لا تملك مقياسًا كهذا ما زالت تحتاج إلى إنسان يحكم عليها.
النموذج لم يُجب عن سؤال بل بنى أدواته واختار مدخله وجرّب وأخطأ، وبعض المسائل القديمة تبقى معلّقة لغياب الوقت الكافي لا لصعوبتها.
حين يكتب الـ agent الكود تضيع النية خلفه في جلسة انتهت، ووضع المواصفات بجانب الكود يحوّل سؤال أين المواصفات إلى سؤال في أي commit.
حين يُفصل الـ agent عن المحرر، تنخفض تكلفة استبداله إذا ارتفع سعره أو توقف، ويحصل من يبني agent على باب إلى محررات لا يملكها.
حين يُكتب الكود أسرع، ينتقل الازدحام إلى التحقق منه، والتحقق بند في الفاتورة يكبر وحده كل شهر، وأكبر توفير فيه جاء من إلغاء عمل لا حاجة إليه.
تضخم السياق بتعريفات الأدوات مشكلة حقيقية في بناء الـ agents، لكن البروتوكول الموحد يحمل أيضًا الأذونات والمفاتيح وسجل الاستدعاءات، وهذه لا تختفي مع ذكاء النماذج.
تكلفة الـ agent الذي يعمل لخطوات طويلة كانت تتضخم مع كل خطوة لأنه يعيد إرسال كل ما سبق، والآن صار بالإمكان وضع سقف لهذا النمو.
حين يكون الوقت جزءًا من المهمة، يصبح التفكير الإضافي تكلفة لا ميزة، ويصبح فشل التنسيق بين الـ agents أخطر من ضعف النموذج نفسه.
الـ gateway الذي تضعه الشركات للتحكم في استهلاك الـ API قد يصبح هو نفسه بندًا في الفاتورة، والجديد أن هذه التكلفة لم تعد صامتة بل تظهر على الشاشة.
إعادة الكتابة الشاملة، التي طالما عُدّت قرارًا لا يُتخذ، صارت لها تكلفة معروفة. لكن ما أنجحها هنا هو تقسيمها إلى 128 دفعة صغيرة، لا النموذج الذي كتب الكود.
أداة تطوير مجانية لا تطلب بطاقة دفع ولا حسابًا بنكيًا، فتعمل من أي مكان في المنطقة. لكنها مخصصة للتجربة، وحدودها الرسمية لا تحتمل منتجًا حقيقيًا.
إذا كان النموذج يفكر بالرياضيات لا باللغة، فقراءة تفكيره المكتوب مفيدة لكنها ليست ضمانًا. السؤال الأمني يصبح: ماذا يستطيع الوكيل أن يصل إليه لو لم يقل الحقيقة؟
كل ما يُرسل إلى النموذج يُدفع ثمنه ويخرج من يد صاحبه. تقليل ما تراه الوكلاء من الصفحة يخفض الفاتورة ويقلل التعرض في الوقت نفسه.
حين تقرأ الأداة ملف تعليمات لا تملكه، تصبح التعليمات التي كتبها المطور قابلة للنقل بين الأدوات، فتنخفض تكلفة الانتقال التي كانت تبقيه مع أداة واحدة.
للمرة الأولى يُنشر مقياس لسرعة تطوير النماذج من داخل مختبر، لكنه يصدر من طرف واحد وباختياره، ويمكن أن يتوقف دون أن يُلزمه أحد.
الأوزان المفتوحة تحمي المستخدم من مالك النموذج، لكنها لا تحميه من الأداة التي يشغّل بها النموذج، فهي التي ترى الكود.
من يستخدم مفتاحه الخاص يفعل ذلك غالبًا ليبقى الحديث بينه وبين المزوّد وحده، والخلل كان يضيف طرفًا ثالثًا دون علمه.
جزء من فاتورة الـ coding agents لا يذهب إلى العمل بل إلى السياق الذي ترسله الأداة في أول نداء، ويُدفع تلقائيًا عند قبول الأداة الافتراضية دون مقارنة.
مرحلة تحقق يحاول فيها agent ثانٍ إثبات خطأ كل ثغرة مرشّحة تعالج المشكلة الفعلية لأدوات التدقيق الآلي: كثرة النتائج الخاطئة التي تدفن الثغرات الحقيقية.
كثير من أخطاء الـ agents في استخدام مكتبات قديمة سببه فجوة بين تاريخ إطلاق النموذج وتاريخ آخر بيانات تدرّب عليها، ونصف المعامل لا تعلن هذا التاريخ أصلًا.