مشروع Ollaya يشغّل نماذج القرار المفتوحة محليًا بزمن استجابة 8 ميلي ثانية ودعم للعربية
مهام التصنيف في المنتجات تُرسل عادة إلى API مدفوع مع كل نداء، ونماذج القرار المحلية تجعل التكلفة مرتبطة بالجهاز لا بعدد النداءات، مع بقاء البيانات داخل الشركة.
وسم
مهام التصنيف في المنتجات تُرسل عادة إلى API مدفوع مع كل نداء، ونماذج القرار المحلية تجعل التكلفة مرتبطة بالجهاز لا بعدد النداءات، مع بقاء البيانات داخل الشركة.
حين ينزل نموذج بهذا الحجم إلى جهاز شخصي، يصبح تشغيله ممكنًا دون بطاقة دفع بالدولار ودون فاتورة API تُحسب بالتوكن.
حجم الذاكرة المطلوبة للتشغيل هو ما يفصل غالبًا بين نموذج كبير ونموذج يمكن تشغيله فعليًا، ورخصة MIT تعني تشغيله في أي مكان دون API أو إذن من أحد.
الفرق بين استئجار نموذج وامتلاكه يُحسم في سطر الترخيص لا في جدول الاختبارات، ونموذج مفتوح يقترب من Opus 5 يجعل هذا الفرق قرارًا عمليًا.
أدوات الصوت بالذكاء الاصطناعي لم تعد مشروطة باشتراك شهري وبطاقة دفع أجنبية، لكن جودة العربية والرخصة التجارية لكل نموذج تبقيان مسألتين مفتوحتين.
في تشغيل النماذج محليًا، القرار الحاسم ليس اختيار النموذج بل اختيار نسخته المضغوطة، وهو الطريق الوحيد المتاح لمن لا يملك وسيلة دفع دولية.
فئة منتجات كاملة أُعيد بناؤها في أيام على أوزان مفتوحة ودون خادم. الفكرة صارت مجانية، لكن أرقام المشروع نفسه تظهر أن الجودة لم تصبح كذلك بعد.
نموذج يعمل دون إنترنت ودون حساب لدى أي جهة يفتح الباب لمنتجات كانت التكلفة أو ضعف الاتصال يغلقانه، مقابل أنه لا يجيد إلا ما دُرّب عليه.
تكلفة الجهاز القادر على تشغيل نموذج جيد محليًا قد تتحول من بطاقة رسوميات بنحو ألفي دولار إلى حاسوب محمول بقرص SSD سريع، مع بقاء النموذج في مرحلة preview.
الجهاز يُشترى بالدولار والكهرباء تُدفع بالعملة المحلية والـ API يحتاج بطاقة دولية، فنقطة التعادل على الجهاز نفسه تختلف من بلد إلى آخر.
معادلة العمل على الذكاء الاصطناعي محليًا، التي كانت تعني NVIDIA أو لا شيء، صار فيها طريق ثالث، ضيّق وغير مضمون لكنه مفتوح.
حين تُقرأ أجزاء النموذج من أقراص SSD عند الحاجة، يصبح حد التشغيل المحلي سرعة القرص لا حجم الذاكرة، والقرص أرخص ما يمكن إضافته إلى الجهاز.
نماذج صغيرة متخصصة قد تنزل بتكلفة ميزات AI داخل التطبيقات إلى الصفر، لكن العربية غائبة عن قوائمها، وترخيصها يمنع استخدامها لتدريب بديل.
الخلاف حول ضرر الضغط على النماذج يحسمه عدد الـ bits: عند 4 bits لا فرق يُذكر ويكفي كارت واحد، وعند 1 bit ينهار النموذج.
حين ينتقل الاستنتاج إلى جهاز المستخدم، تتحرك تكلفة ميزات AI من فاتورة شهرية على صاحب التطبيق إلى عتاد اشتراه المستخدم، وإن كان ذلك اتجاهًا لا واقعًا قريبًا.
النموذج المحلي يستبدل الفاتورة الشهرية ببطاقة الدفع الأجنبية وخطر إغلاق الحساب بتكلفة جهاز تُدفع مرة واحدة، مقابل نموذج أضعف من نماذج السحابة.
معالجة المستندات على جهاز الفريق نفسه تُسقط تكلفة كل صفحة وتُبقي الوثيقة داخل الشركة. لكن صفحة النموذج لا تذكر العربية بالاسم، ولم تُختبر عليها بعد.
تشغيل النموذج محليًا لا يعني أنه معزول؛ فالخادم المحلي بلا طبقة تصاريح، والمتصفح المفتوح بجواره قد يكون أقرب طريق إليه، والتعليمات المزروعة تبقى داخل النموذج نفسه.
الاستخدام الفعلي للنماذج المفتوحة يدور حول النماذج الصغيرة التي تعمل على عتاد رخيص دون بطاقة دفع أجنبية، وهذا أقرب باب عملي للاستقلال التقني.
الاعتراض المعتاد بأن النماذج المفتوحة إما ضعيفة أو أكبر من أن تُشغَّل محليًا صار أضعف، وعميل يرفض خروج بياناته من خادمه أصبح سؤالًا عن العتاد لا عن الثقة.
تشغيل النماذج محليًا خيار صحيح للاستقلال، لكنه لا يعني الأمان تلقائيًا، فالخادم المحلي المكشوف على الإنترنت برنامج C++ يحتاج إلى التحديث والحماية مثل أي خادم آخر.
نموذج قوي بأوزان مفتوحة ورخصة تجارية كاملة يعمل على جهاز واحد في المكتب، فيصبح لمن يبني فوق API أجنبي مسار ثانٍ لا يمر عبر بطاقة دفع دولية ولا يُخرج بيانات العملاء.
لأول مرة يتوفر نموذج برمجة قوي بما يكفي يمكن امتلاكه وتشغيله على خوادم المؤسسة، لا استئجاره فقط، لكن مفتوح الأوزان ليس مفتوح المصدر بالكامل.
أداة برمجة بالذكاء الاصطناعي لا ترتبط بمزود واحد وتعمل دون إنترنت تجعل اختيار النموذج قرارًا يملكه الفريق، لا شرطًا تفرضه الأداة.