مشروع PS5LM يشغّل موديلًا بـ 9 مليارات معامل على PlayStation 5 بسرعة 55 توكن في الثانية
نشر مطوّر على GitHub مشروعًا باسم PS5LM يشغّل موديلات لغوية مباشرة على جهاز PlayStation 5 Slim، لا على الـ cloud. وينشر ملف README أرقامًا قاسها صاحب المشروع بنفسه، وليست قياسًا مستقلًا: موديل Qwen 3.5 بحجم 0.8B يعمل بسرعة 207 توكن في الثانية، وQwen 3.5 بحجم 9B بسرعة 55، وQwen 3.8 بحجم 27B بنحو 20 توكن في الثانية مع سياق 64k.
ويعتمد المشروع على llama.cpp مع الـ Vulkan backend للوصول إلى كارت الشاشة في الجهاز، وهو من معمارية RDNA 2. ويتاح للموديل والسياق 11.4 جيجابايت من الذاكرة المشتركة، وهذا الرقم هو ما يحدد أكبر موديل يمكن تشغيله.
والجزء الأهم في المشروع ليس السرعة. فهو يفتح endpoints متوافقة مع واجهات OpenAI وAnthropic، أي أن الأدوات التي تتعامل مع هذه الواجهات أصلًا يمكنها أن تتصل بالجهاز كأنه API عادي، فيصبح الجهاز سيرفرًا لكل أجهزة المنزل.
لكن للمشروع شرطًا أساسيًا: يحتاج إلى جهاز يعمل بـ firmware بين 7.00 و13.60 وعليه jailbreak. ولذلك لا يصلح لجهاز يُستخدم في اللعب يوميًا، ولا لبيئة شركة. والمشروع مرخّص بـ GPL-3.0-or-later، ويذكر الـ README أنه لا يحتوي على أي ملفات من Sony ولا مفاتيح ولا أوزان موديلات.
وتطرح التجربة سؤال الاستقلال التقني بصيغة أصغر من مراكز البيانات والشرائح: ما الذي يمكن تشغيله على الأجهزة الموجودة أصلًا. ففي كثير من البيوت أجهزة متوقفة معظم الوقت، وقد تفوق قدرتها سيرفرات تُدفع اشتراكاتها شهريًا. ويبقى غير واضح إن كان ذلك عمليًا على المدى الطويل أم تجربة تقنية لافتة فحسب.