ذكاء اصطناعيقراءة دقيقتين

أداة Janas تشغّل نموذجًا بحجم 48 جيجابايت على حاسوب محمول بذاكرة 32 جيجابايت بقراءة الـ experts من الـ SSD

المغزى

المغزى: تشغيل نماذج MoE الكبيرة محليًا لم يعد مرهونًا بحجم الذاكرة وحده، بل بسرعة قراءة القرص، وهي ترقية ثمنها SSD لا بطاقة رسوميات.

وصلت أداة مفتوحة المصدر اسمها Janas إلى الصفحة الأولى في Hacker News في 12 أكتوبر 2026، بعد أن شغّلت نموذج Qwen3-Next-80B-A3B، وحجم ملفه 48.4 جيجابايت، على حاسوب محمول بذاكرة 32 جيجابايت فقط. وكاتبها Maurizio Cammalleri، وهي مكتوبة بلغة C دون أي اعتماد خارج مكتبة C القياسية، برخصة GPL-3.0، ولها نسخ لـ Linux وWindows.

والسر في طبيعة نماذج MoE. فهذه النماذج لا تشغّل كل أوزانها لكل token، بل تفعّل في كل خطوة جزءًا صغيرًا منها يسمى expert. فتترك الأداة الأوزان على القرص، وتقرأ من الـ SSD الـ experts التي يحتاجها الـ token الحالي فقط، وتحتفظ في الذاكرة بما يتكرر استخدامه. وكان الكاش في القياس نحو 19 جيجابايت، والباقي يُقرأ من القرص عند الحاجة.

وبحسب قياسات الكاتب، بلغت سرعة الكتابة 24 token في الثانية مقابل 2.8 لـ llama.cpp على الملف نفسه، وتصل إلى 37 مع speculative drafts، وبلغت سرعة القراءة 62 مقابل 16. وفي Qwen3-30B-A3B كانت الكتابة 32 مقابل 15. وأُجريت القياسات بين 9 و12 أكتوبر 2026 على جهاز واحد يعمل بنظام Debian 13 ومعالج Intel Core Ultra 9 185H وذاكرة DDR5 بسعة 32 جيجابايت وSSD بسرعة قراءة 5.7 جيجابايت في الثانية.

ويصف الكاتب المشروع بأنه تجربة لا منتج. فقد جُرّب على جهاز واحد فقط، وواجهته وأوامره تتغير دون إشعار، واستقراره غير متحقق منه. وقد يصبح بطيئًا جدًا على جهاز ذاكرته الفارغة قليلة، وتسبب استخدام الـ GPU مرة في إعادة تهيئة برنامج التشغيل.

وإذا صمدت هذه النتائج على أجهزة أخرى، فإن سؤال التشغيل المحلي يتغير. فبدل أن يكون السؤال عن اتساع الذاكرة للنموذج، يصبح عن سرعة قراءة القرص. وقد يعني ذلك أن نماذج تُستخدم اليوم عبر API مدفوعة بالـ token يمكن أن تعمل على جهاز المطور نفسه، مع بقاء كل الأرقام حتى الآن صادرة عن جهاز واحد.

المصادر

  1. مستودع Janas على GitHub
  2. صفحة المشروع على Hugging Face
  3. نماذج Qwen على Hugging Face
  4. مستودع llama.cpp

من عدد الثلاثاء 2 جمادى الأولى - 13 أكتوبر

أخبار ذات صلة

ذكاء اصطناعي

نسخة 2-bit من Qwen3.8-27B بحجم 7.89 GB تتفوق على النسخة الكاملة في نداء الأدوات وتتراجع في الرياضيات

المغزى: التوجيه ونداء الأدوات وحلقات الـ agent، وهي مهام تُدفع اليوم بأسعار النماذج الكبيرة، صارت تعمل على جهاز محلي، بينما يبقى الاستدلال الطويل على الـ API.

30 ربيع الآخر - 11 أكتوبر
ذكاء اصطناعي

مشروع Ollaya يشغّل نماذج القرار المفتوحة محليًا بزمن استجابة 8 ميلي ثانية ودعم للعربية

مهام التصنيف في المنتجات تُرسل عادة إلى API مدفوع مع كل نداء، ونماذج القرار المحلية تجعل التكلفة مرتبطة بالجهاز لا بعدد النداءات، مع بقاء البيانات داخل الشركة.

16 ربيع الآخر - 27 سبتمبر

أخبار الثلاثاء 2 جمادى الأولى - 13 أكتوبر