# ورقة Dust من qlabs تدرّب الموديلات دون backpropagation وتقترب من نتائجه بحساب أكثر

> **المغزى:** المغزى: المرور الخلفي هو ما يفرض تخزين كل المخرجات الوسيطة في الذاكرة، ولو أمكن الاستغناء عنه يومًا لتغيّر شكل العتاد الذي يحتاجه التدريب، لا سرعته فقط.

- المصدر: المغزى (https://almaghza.com/a/2026-10-06-dust-training-without-backpropagation/)
- التاريخ: 25 ربيع الآخر - 6 أكتوبر 2026 (2026-10-06)
- القسم: ذكاء اصطناعي
- الوسوم: تعلم الآلة، نماذج اللغة الكبيرة، arXiv

نشر الباحثون Samip Dahal وBishwas Mandal وSerdar Gülbahar وAkshay Vegesna في أكتوبر 2026 ورقة بحثية بعنوان Dust، تقدم طريقة لتدريب الموديلات دون backpropagation.

والـ backpropagation هو الطريقة التي تتعلم بها الشبكات العصبية اليوم. يُحسب الخطأ عند مخرج الشبكة، ثم يُعاد به عبر الطبقات طبقة بعد أخرى لتحديد نصيب كل وزن منه. وهذا المرور الخلفي يتطلب الاحتفاظ بكل المخرجات الوسيطة في الذاكرة، ولهذا يحتاج التدريب بطاقات بذاكرة كبيرة.

أما Dust فلا تعود إلى الخلف. فهي تضيف ضجيجًا عشوائيًا إلى مخرجات الطبقات، لا إلى الأوزان، ثم تكافئ الضجيج الذي خفّض الخطأ. والفكرة الأساسية فيها أن كل token في الدفعة يُعامل فردًا في مجموعة (population)، ومرور أمامي واحد يقيّم أفراد المجموعة كلهم معًا.

وأُجريت التجارب على موديلات من 2 مليون إلى 243 مليون معامل. وعند 10 إلى 20 مليون token، اقتربت الطريقة من نتائج backpropagation أو تجاوزتها مع مجموعات كبيرة، وكانت أكفأ من طريقة EGGROLL بنحو 10,000 مرة. ووجد الباحثون نتيجة عكس المتوقع: الموديلات الأكبر كانت أكفأ في استخدام المجموعة، لا أقل.

لكن الورقة نفسها تقول إن الطريقة تحتاج حسابًا أكثر بكثير للوصول إلى نتيجة backpropagation. أي أنها ليست أفضل منه اليوم، بل طريق مختلف. ولا تذكر صفحة البحث نوع الرخصة.

وتبقى أهمية الورقة في أنها تتحدى الأساس بدل تحسينه. فإن نجحت طرق من هذا النوع على نطاق أكبر، قد يتغير نوع العتاد الذي يحتاجه من يريد تدريب موديل، من بطاقات قليلة بذاكرة ضخمة إلى شيء آخر. وهذا ما زال سؤالًا مفتوحًا، والتجارب حتى الآن على موديلات صغيرة نسبيًا.

## المصادر

- [صفحة البحث الأصلية](https://qlabs.sh/research/dust)
- [الكود على GitHub](https://github.com/qlabs-eng/dust)
- [ورقة EGGROLL](https://arxiv.org/abs/2511.16652)