وسم
تشغيل نماذج اللغة على الجهاز نفسه دون إرسال البيانات إلى خادم خارجي: النماذج الصغيرة المفتوحة، والعتاد اللازم، وما تستطيع فعله فعلًا.
المغزى: نموذج فيديو وصوت صار ممكن التشغيل على جهاز واحد، ورخصة أوزانه تستثني الاتحاد الأوروبي وبريطانيا وكوريا الجنوبية وأمريكا دون إذن، بينما لا تشمل المنطقة العربية في الاستثناء.
المغزى: نموذج بحجم 65 مليار بارامتر برخصة Apache 2.0 يعمل على جهاز بذاكرة كافية، فيصبح العمل على الطرفية بالـ agents ممكنًا دون API ودون اشتراك خارجي، مع أن أرقامه تقديرات المعمل نفسه.
المغزى: النموذج الصغير لم يصبح كافيًا بقدراته وحدها، بل لأن كل ما يمكن توقعه كُتب كودًا عاديًا، فبقي للنموذج الجزء الذي يحتاج فهمًا فعليًا، وتراجعت كلفة التحقق من مخرجاته.
المغزى: سرعة العتاد الذي دفع المشتري ثمنه كاملًا تتوقف على قدرة نظام التشغيل على قراءة جدول طاقة مشفّر في الـ firmware، والمفتاح موجود على Windows وحده.
المغزى: القدرة التي تصفها الورقة حقيقية لكنها أضيق من عنوانها، وأول سؤال يستحق الطرح على أي ادعاء عن نموذج هو بأي أدوات أُنجزت النتيجة.
المغزى: الأداة التي تدير الـ agent يمكن أن تكون ملفًا تنفيذيًا صغيرًا يملكه المطور، والنموذج قرار منفصل يختاره بنفسه، محليًا أو عبر API.
المغزى: قراءة الصور والمستندات لم تعد تتطلب إرسال كل صفحة إلى API مدفوع، فموديل بأوزان مفتوحة ورخصة تجارية يعمل على الجهاز نفسه يحوّل التكلفة من فاتورة لكل صفحة إلى عتاد.
المغزى: ميزة كانت تكلّف نداء API لكل مستخدم يمكن أن تعمل داخل الجهاز بلا فاتورة tokens، لكن شرط الإيراد في الترخيص يُقرأ قبل أن يدخل النموذج أي منتج لعميل كبير.
المغزى: ما يحدد أي نموذج يمكن تشغيله محليًا هو الذاكرة لا سرعة الحساب، وسقفها لم يتغير، والجهاز يُدفع ثمنه مرة واحدة بالدولار بينما يُكسب الدخل الذي يشتريه بعملة أخرى.
المغزى: الأوزان المفتوحة صارت تكفي لعمل حقيقي على حاسوب عادي، والمسافة بين استئجار موديل وتشغيله تضيق، وهي مسافة تهم أكثر من يدفع الاشتراك بالدولار ويكسب بعملة محلية.
المغزى: موديل بحجم 33B يمكن تشغيله على خوادم الفريق نفسه صار ينافس في مهام الـ agents متعددة الخطوات، دون بطاقة أجنبية أو API يمكن أن يُغلق، لكن الأرقام كلها من قياس الشركة نفسها.
المغزى: جزء من سرعة بطاقات الجيل 3000 كان مقيّدًا بإعداد لا بالعتاد، وفكّه يغيّر حساب من يشغّل النماذج محليًا قبل شراء بطاقة أحدث، وإن ظل المكسب محصورًا في مراحل بعينها.
المغزى: توكنات التفكير تُحتسب output في الفاتورة، فتقصير مرحلة التفكير وحدها خفض مباشر للتكلفة، لكن الأرقام تقرير شركة عن نفسها واختبار واحد على الأقل دفع ثمنًا واضحًا.
المغزى: النموذج يعمل على جهاز المطوّر دون رسوم API ودون أن يغادر الكود الجهاز، وتعترف الشركة بأن طريقة حساب درجاتها أصعب من غيرها، فمقارنة رقمها بأرقام الآخرين ليست مقارنة متكافئة.
المغزى: الطبقة التي تحوّل موديلًا مفتوحًا إلى خدمة رخيصة كانت سرًا، وصارت مكتوبة ومعها عتاد غير أمريكي خيارًا أصليًا، وإن بقيت ناقصة لتشغيل خدمة كاملة.
المغزى: ذاكرة موحدة يراها النظام والـ GPU معًا تجعل تشغيل النماذج المفتوحة الكبيرة على جهاز محمول ممكنًا بعد أن كان يحتاج إلى بطاقة داتا سنتر أو استئجار بالساعة.
المغزى: رقم مثل 18 token في الثانية لا يعني شيئًا حتى يُرى النص يُكتب بهذه السرعة. وفي أسواق يعني فيها شراء العتاد من الخارج جمارك وشحنًا بلا إرجاع، تصبح التجربة قبل الشراء أثمن.
المغزى: قيمة موديل عربي مفتوح الأوزان برخصة Apache 2.0 لا تأتي من ترتيبه في الجداول، بل من أن المطوّر يختار الحجم الذي يحتمله جهازه ويبني منتجًا تجاريًا عليه دون إذن ودون دفع ثمن كل طلب.
المغزى: جهاز ألعاب متوقف في المنزل قد يحمل قدرة حوسبة تكفي لتشغيل موديل لغوي يخدم كل أجهزة البيت، ما يطرح سؤال الاستقلال التقني على مستوى أصغر: ما الذي يمكن تشغيله على ما نملكه أصلًا.
المغزى: موديل agentic يعمل محليًا على جهاز شخصي يعني أن البيانات لا تغادر الجهاز ولا توجد فاتورة API، وتوسيع المفردات يقلل عدد الـ tokens التي يستهلكها النص العربي.
المغزى: اختيار ذاكرة رخيصة بسعة كبيرة بدل HBM النادرة قد يجعل تشغيل موديل مفتوح كبير محليًا مسألة بطاقة في خادم عادي، لكن الحكم معلّق حتى يُعلَن السعر.
المغزى: تشغيل نماذج MoE الكبيرة محليًا لم يعد مرهونًا بحجم الذاكرة وحده، بل بسرعة قراءة القرص، وهي ترقية ثمنها SSD لا بطاقة رسوميات.
المغزى: التوجيه ونداء الأدوات وحلقات الـ agent، وهي مهام تُدفع اليوم بأسعار النماذج الكبيرة، صارت تعمل على جهاز محلي، بينما يبقى الاستدلال الطويل على الـ API.
المغزى: موديل بحجم 740 مليون parameter صار كافيًا لتشغيل منتج كامل على حاسوب شخصي بلا إنترنت، فيسقط شرطا البطاقة الأجنبية ورفع التسجيل إلى سيرفر بعيد.
المغزى: التطبيقات المبنية على الطريق القديم لم ينكسر فيها شيء، لكنها صارت على مسار لن يتطور، بينما يفتح التشغيل على الجهاز بابًا بلا فاتورة API ولا بيانات تغادر هاتف المستخدم.
المغزى: النموذج الذي يعمل على الجهاز لا يحتاج بطاقة أجنبية ولا يسأل عن البلد ولا يرسل فاتورة شهرية، لكن رقم 120 مليار parameter المعلن مبني على حساب نظري لا على قياس.
المغزى: كثير من نداءات الـ API في أنظمة الـ agents قرارات صغيرة متكررة تُدفع بسعر نموذج كبير، ونموذج قرار محلي ينقل تكلفتها من الفاتورة إلى الجهاز.
المغزى: طبقة الـ embedding التي تُدفع اليوم لكل استدعاء لواجهة خارجية يمكن أن تنتقل إلى جهاز المطور، فيختفي بندها من الفاتورة وتبقى نصوص العملاء داخل الجهاز.
تشغيل نموذج كبير بأوزان مفتوحة على جهاز ألعاب عادي يعني العمل بلا API ولا بطاقة دفع أجنبية ولا حد شهري تغيّره شركة أخرى، ويسمح بتشغيل كود العملاء الحساس محليًا.
حين يعمل نموذج بحجم 552 مليار parameter على جهاز واحد، يبقى الكود داخل المؤسسة وتتحول التكلفة إلى كهرباء، ولا تتوقف الأداة إذا غيّر مزوّد خارجي شروط الـ API. الثمن جهاز بذاكرة كبيرة.