أداة Strata تشغّل نموذج Qwen3.8-Flash-Next بحجم 125 مليار parameter على كارت شاشة بذاكرة 12 GB
تشغيل نموذج كبير بأوزان مفتوحة على جهاز ألعاب عادي يعني العمل بلا API ولا بطاقة دفع أجنبية ولا حد شهري تغيّره شركة أخرى، ويسمح بتشغيل كود العملاء الحساس محليًا.
أداة Strata مشروع مفتوح المصدر برخصة MIT، يشغّل نموذج Qwen3.8-Flash-Next، وحجمه 125 مليار parameter، على جهاز ألعاب عادي. وبحسب جدول القياس في صفحة المشروع، على كارت RTX 5070 بذاكرة 12 GB ومعه 64 GB من الـ RAM، تصل نسخة Q2_0 إلى 94 token في الثانية، ونسخة IQ3_S إلى 53 token في الثانية.
والسر في بنية النموذج نفسه. فهو ليس كتلة واحدة، بل فريق يتكون من 24,576 “خبيرًا” صغيرًا، وكل token يحتاج 10 خبراء منهم فقط. أي أن الجزء الذي يعمل في كل لحظة صغير جدًا مقارنة بالحجم الكامل.
وتستغل Strata ذلك بتوزيع النموذج على الجهاز كله. كارت الشاشة يحتفظ بالخبراء الأكثر استخدامًا، والـ RAM تحمل الخبراء جميعًا، والـ SSD يحمل جدول البحث. وتضيف الأداة خطوة ثانية: نموذج صغير يخمّن الكلمات القادمة، ثم يراجعها النموذج الكبير كلها دفعة واحدة بدل أن يولّدها كلمة كلمة.
وهناك نسخة Coder حُذف نصف خبرائها، ويقول أصحابها إنها تصل إلى 91% من درجة النموذج الكامل في اختبار SWE-bench Verified، وتعمل بـ 32 GB من الـ RAM. والحد الأدنى المطلوب كارت بذاكرة 12 GB أو أكثر، و32 GB من الـ RAM، و80 GB على القرص.
وللمطورين في المنطقة العربية، يعني هذا أن تشغيل نموذج كبير لم يعد مشروطًا بالاشتراك في خدمة سحابية. فالنموذج بأوزان مفتوحة يعمل على جهاز يملكه المطور، دون API ودون بطاقة دفع أجنبية ودون حد شهري تحدده شركة أخرى وتغيّره متى شاءت.
ويظهر الفرق بوضوح لدى من يكتب كودًا حساسًا لعميل. فالكود الذي لا يجوز إرساله إلى سحابة خارجية يمكن الآن معالجته بنموذج كبير يعمل محليًا بالكامل.
ويبقى أن أرقام السرعة والجودة كلها من قياس أصحاب المشروع، على جهاز واحد هو المذكور في جدولهم.