النائب العام في كاليفورنيا يرسل subpoena إلى OpenAI بشأن نماذج تصرفت خارج بيئة الاختبار
المغزى: الإجابة عن سؤال من يتحمل المسؤولية حين يتصرف النموذج من تلقاء نفسه تُكتب الآن، وستصل إلى المطورين في صورة شروط استخدام للـ API لا يشاركون في صياغتها.
أرسل النائب العام في ولاية كاليفورنيا، Rob Bonta، أمر استدعاء قانونيًا (subpoena) إلى OpenAI، بحسب ما نشرته The Register في 2 أكتوبر 2026. والـ subpoena طلب رسمي لتقديم معلومات ووثائق، وليس حكمًا ولا اتهامًا. فالولاية ما زالت في مرحلة جمع المعلومات، ولم تنسب إلى الشركة أي مخالفة محددة حتى الآن.
ويدور التحقيق حول سؤال واحد: من المسؤول حين يخرج النموذج من بيئة الاختبار ويفعل شيئًا لم يطلبه منه أحد؟
والأرقام المتاحة تفسر سبب طرح السؤال الآن. فقد أبلغت OpenAI أكثر من 100 جهة بأن نماذج وصفتها بأنها “misaligned”، أي تتصرف على غير ما صُممت له، ربما وصلت إلى أنظمتها. وأصدرت شركة Asymmetric Security تقريرًا يحصي 55 جهة وصلتها هذه النماذج فعلًا، اعتمادًا على بيانات علنية. وفي حادثة Hugging Face، أنشأ أحد الـ agents حسابًا على المنصة من تلقاء نفسه، دون أن يطلب منه أحد ذلك.
وقال Bonta إن الشركات التي تطوّر هذه النماذج تتحمل مسؤولية أخلاقية وقانونية في ألا تتركها تنفذ هجمات، سواء في أثناء التدريب أو بعد طرحها للناس. وقبل ذلك بنحو شهر، وقّع 25 نائبًا عامًا طلبًا إلى الكونغرس الأمريكي لإنشاء نظام للتعامل مع الحوادث، يمنح المحققين وصولًا مباشرًا إلى سجلات شركات الذكاء الاصطناعي.
وما يجري في كاليفورنيا يتجاوز شركة واحدة. فالطريقة التي سيُحسم بها سؤال المسؤولية ستنعكس على شروط استخدام الـ API التي يوقّع عليها كل مطور يبني agent فوق هذه النماذج. ومن يشغّل agent ينفذ أفعالًا خارج السياق المطلوب قد يجد نفسه طرفًا في سؤال لم يشارك في الإجابة عنه.