وسم

AI Agentsالصفحة 2

ذكاء اصطناعي

لجنة علمية أممية: شروط فقدان السيطرة على الذكاء الاصطناعي اجتمعت هذا الصيف في حادثة حقيقية

المنصة التي تستضيف النماذج العربية المفتوحة كانت ساحة الحادثة، بينما تُحسم وتيرة هذه الأدوات في غرف لا تمثيل فيها للمنطقة.

ذكاء اصطناعي

Google تمنح الـ agent الخاص بها CC حساب Google مستقلًا بدلًا من صلاحيات مستخدميه

حين يعمل الـ agent بهوية مستخدمه تختلط أفعالهما في السجلات ويرث كل صلاحياته. وفصل الهوية نمط هندسي يمكن تطبيقه اليوم، حتى لو كان المنتج نفسه غير متاح في المنطقة.

أمن سيبراني

باحث يطلب من Muse، الـ agent التابع لـ Meta، أرشفة ملفاته فيرسل نظام ملفاته كاملًا

الخلل لم يكن في سطر كود، بل في الجمع بين أداتين منطقيتين كل على حدة. وهذا النوع من التسريب لا يمنعه الـ prompt، بل حدود الصلاحيات.

ذكاء اصطناعي

تجربة Max Woolf: agents تسرّع كود Rust حتى 32 مرة بفضل مقياس أداء واضح

نجاح الـ agents في تحسين الكود لم يأتِ من قوة النموذج وحده، بل من وجود رقم آلي يحكم على النتيجة. والمهام التي لا تملك مقياسًا كهذا ما زالت تحتاج إلى إنسان يحكم عليها.

ذكاء اصطناعي

اختبار StarCraft بين 19 إعدادًا لنماذج الذكاء الاصطناعي يكشف أن التنسيق هو نقطة ضعف الـ agents

حين يكون الوقت جزءًا من المهمة، يصبح التفكير الإضافي تكلفة لا ميزة، ويصبح فشل التنسيق بين الـ agents أخطر من ضعف النموذج نفسه.

ذكاء اصطناعي

Claude Code يتوقف عن احتساب فحص الأمان في auto mode، إلا عند وجود gateway يحذف الحقول

الـ gateway الذي تضعه الشركات للتحكم في استهلاك الـ API قد يصبح هو نفسه بندًا في الفاتورة، والجديد أن هذه التكلفة لم تعد صامتة بل تظهر على الشاشة.

ذكاء اصطناعي

ورقة بحثية من Harvard: مراقبة ما يقوله النموذج عن تفكيره لا يمكن أن تكون ضمانًا أمنيًا

إذا كان النموذج يفكر بالرياضيات لا باللغة، فقراءة تفكيره المكتوب مفيدة لكنها ليست ضمانًا. السؤال الأمني يصبح: ماذا يستطيع الوكيل أن يصل إليه لو لم يقل الحقيقة؟

ذكاء اصطناعي

Anthropic: نسبة الأبحاث التي يقودها Claude داخل الشركة ارتفعت من أقل من 1% إلى 26% في ستة أشهر

للمرة الأولى يُنشر مقياس لسرعة تطوير النماذج من داخل مختبر، لكنه يصدر من طرف واحد وباختياره، ويمكن أن يتوقف دون أن يُلزمه أحد.

ذكاء اصطناعي

دراسة من UC Berkeley: النموذج نفسه ينجح بالنسبة نفسها تقريبًا بتكلفة مضاعفة حسب أداة التشغيل

جزء من فاتورة الـ coding agents لا يذهب إلى العمل بل إلى السياق الذي ترسله الأداة في أول نداء، ويُدفع تلقائيًا عند قبول الأداة الافتراضية دون مقارنة.

أمن سيبراني

Cloudflare تنشر برخصة MIT الـ skill التي انطلق منها نظامها الداخلي لاكتشاف الثغرات

مرحلة تحقق يحاول فيها agent ثانٍ إثبات خطأ كل ثغرة مرشّحة تعالج المشكلة الفعلية لأدوات التدقيق الآلي: كثرة النتائج الخاطئة التي تدفن الثغرات الحقيقية.

ذكاء اصطناعي

صفحة How stale is your AI: نصف 20 نموذجًا شائعًا بلا تاريخ training cutoff منشور

كثير من أخطاء الـ agents في استخدام مكتبات قديمة سببه فجوة بين تاريخ إطلاق النموذج وتاريخ آخر بيانات تدرّب عليها، ونصف المعامل لا تعلن هذا التاريخ أصلًا.