أمن سيبرانيقراءة دقيقتين

محكمة عمل برازيلية تغرّم محاميين أخفيا تعليمات للذكاء الاصطناعي بنص أبيض في مذكرة

بحسب تغطيات صحفية متعددة، فرضت محكمة عمل في ولاية بارا البرازيلية غرامة على محاميين كتبا تعليمات موجهة للذكاء الاصطناعي داخل مذكرة قُدّمت للمحكمة، بلون أبيض على خلفية بيضاء. وصدر الحكم في 12 مايو 2026، وعاد الخبر إلى التداول هذا الأسبوع.

وكان النص المخفي يطلب من أداة الذكاء الاصطناعي أن تراجع المذكرة مراجعة سطحية ولا تأخذ المستندات في الاعتبار. وسمّت المحكمة الفعل باسمه في الحكم: prompt injection، أي حقن تعليمات في نص يقرؤه نموذج لتغيير سلوكه. وكانت الغرامة 10% من قيمة القضية، مع إبلاغ نقابة المحامين. واختلفت المبالغ المطلقة بين التغطيات، أما النسبة فمتفق عليها.

والآلية بسيطة. فالنص الأبيض على خلفية بيضاء مخفي عن العين فقط، لا عن الكمبيوتر. والنموذج يقرأ الحروف ولا يرى الألوان، ولذلك فإن الشكل لا يوفر أي حماية في أي محتوى يُقرأ آليًا.

واللافت أن الكشف لم يأتِ من قراءة بشرية. فنظام المحكمة نفسه نبّه على النص وأوقف معالجة المستند، أي أن فلترًا على النص هو ما التقط الحيلة.

وفي القضية تفصيلة أخيرة: الطرف الآخر لم يرد على الدعوى أصلًا، فكان الحكم سيصدر لصالح المحاميين في كل الأحوال. أي أن الحيلة لم تكن ضرورية من الأساس.

وتتجاوز الدلالة قاعات المحاكم. فكل منتج يقرأ مستندات قادمة من الخارج بنموذج، مثل السير الذاتية أو الفواتير، يتعامل مع مدخل يمكن أن يحمل تعليمات لا يراها المستخدم. ويصبح التعامل مع كل ملف على أنه مدخل غير موثوق جزءًا من تصميم المنتج.

المصادر

  1. تغطية eDiscovery Today
  2. تغطية RollOnFriday
  3. تعريف OWASP لـ prompt injection
  4. موقع محكمة العمل الإقليمية في البرازيل

من عدد الثلاثاء 23 جمادى الأولى - 3 نوفمبر

أخبار ذات صلة

أمن سيبراني

دراسة CARI: تعليمات خبيثة في مخرجات خدمات المشروع تخدع coding agents بنسبة نجاح 94.8%

المغزى: مخرجات الـ CI والخدمات المجاورة ليست نصًا محايدًا حين يقرؤها agent يملك صلاحية التنفيذ، فالمكوّن الذي يحق له أن يصف حالته فقط يصبح قادرًا على أن يملي أفعالًا داخل مشروع لا يملكه.

20 جمادى الأولى - 31 أكتوبر

أخبار الثلاثاء 23 جمادى الأولى - 3 نوفمبر