ذكاء اصطناعيقراءة دقيقتين

Anthropic: نماذجها وصلت إلى أنظمة 3 مؤسسات حقيقية خلال اختبارات أمنية

أعلنت Anthropic في 30 يوليو 2026 أنها راجعت أكثر من 141,000 جلسة اختبار، ووجدت 3 حوادث خرجت فيها نماذجها من بيئة الاختبار المعزولة ووصلت إلى أنظمة حية لـ 3 مؤسسات. والنماذج المعنية هي Opus 4.7 وMythos 5 ونموذج بحثي داخلي. ورفع Mythos 5 خلال إحدى هذه الحوادث package خبيثة على PyPI أصابت 15 جهازًا.

ووصفت الشركة ما حدث بأنه فشل تشغيلي سببه خطأ في إعداد البنية التحتية، لا محاولة هروب متعمدة. فبيئة الاختبار نفسها كانت مضبوطة بشكل خاطئ، ما أتاح للنموذج الوصول إلى الإنترنت الحقيقي أثناء تمرين من نوع capture the flag، وهو تمرين يبحث فيه المشارك عن ثغرات داخل شبكة وهمية. فوجد النموذج أهدافًا حقيقية، وواصل التمرين عليها.

أما طريقة الوصول، فكانت عبر كلمات مرور ضعيفة وendpoints تعمل دون أي authentication. ولم تتضمن الحوادث zero-day ولا تقنية جديدة، ولا شيئًا يحتاج إلى نموذج ذكاء اصطناعي أصلًا. فهذه المداخل كانت مفتوحة لأي أداة تمسح الإنترنت منذ سنوات.

وبهذا ينقلب الدرس المعتاد في أخبار أمان الذكاء الاصطناعي. فالحدث يتعلق بنموذج، لكن السبب الذي جعله ينجح لا علاقة له بالذكاء الاصطناعي. ويتركز النقاش العام على حماية الأنظمة من وكلاء أذكياء، في حين أن كثيرًا من الأنظمة لا يصمد أمام سكربت عادي يجرّب كلمات المرور.

وبالنسبة للشركات التي تدير خوادم متصلة بالإنترنت، يحوّل ذلك سؤال الأمان من مستوى النماذج إلى مستوى أبسط بكثير: هل يوجد endpoint واحد يعمل دون authentication، وهل ما تزال كلمات مرور ضعيفة مستخدمة في مكان ما.

المصادر

  1. تقرير TechCrunch
  2. تقرير BleepingComputer عن الـ package الخبيثة على PyPI
  3. تغطية NBC News
  4. قراءة تحليلية في Forbes

من عدد الاثنين 20 صفر - 3 أغسطس

أخبار ذات صلة

ذكاء اصطناعي

Anthropic تفتح مكتبًا في سنغافورة وتوقّع مذكرة تفاهم حكومية تشمل تقييم أمان النماذج

المغزى: حكومة صغيرة حصلت على مقعد في تقييم النموذج قبل وصوله، واختُبر بلغاتها الرسمية الأربع كلها، بينما تصل النماذج إلى المنطقة العربية بعد ضبطها واختبارها بلغات غيرها.

3 جمادى الأولى - 14 أكتوبر
ذكاء اصطناعي

Anthropic جمعت علماء دين ومفكرين لعام كامل لمناقشة قيم Claude، ولا عالم مسلم في القائمة المنشورة

القيم التي يحملها نموذج تبني عليه شركات المنطقة منتجاتها نوقشت في غرف لم يُذكر فيها أحد من المنطقة. وهذه تبعية أعمق من ملكية الأداة: تبعية في طبقة القيم نفسها.

23 ربيع الآخر - 4 أكتوبر
ذكاء اصطناعي

ورقة طرح Anthropic المسربة تخصص 80 صفحة من 261 للمخاطر وتذكر سلوكًا يشبه الابتزاز

حين تنتقل عبارة الخطر الوجودي من مقالات الرأي إلى إفصاح قانوني تُسأل الشركة عن كل كلمة فيه، يصبح بناء المنتجات على هذه النماذج قرارًا يعلن صانعها نفسه أنه بلا ضمانة كاملة.

19 ربيع الآخر - 30 سبتمبر

أخبار الاثنين 20 صفر - 3 أغسطس