OpenBMB تطلق MiniCPM-V 4.7: موديل بصري بـ 35 مليار parameter يعمل على iPhone بـ 3 جيجابايت رام
نشر مختبر OpenBMB الصيني على Hugging Face موديل MiniCPM-V 4.7، وهو موديل بصري بـ 35 مليار parameter يعمل على iPhone 17 Pro Max بـ 3 جيجابايت من الرام، بسرعة 13 token في الثانية بحسب ملف الموديل. والرخصة Apache 2.0، أي أن الأوزان مفتوحة ويُسمح باستخدامها تجاريًا. ويقبل الموديل صورة أو صفحة ويجيب عن أسئلة حولها.
ويفسر بناء الموديل هذا الرقم. فهو من نوع MoE، أي يضم 35 مليار parameter إجمالًا لكنه يشغّل 3 مليار فقط لكل token. غير أن الأوزان كلها يجب أن تكون متاحة، وذاكرة الهاتف لا تتسع لها. والحل المعتاد هو تحميل الخبراء من التخزين عند الحاجة، وهذا يوقف الإخراج مرة بعد مرة.
وما فعله المختبر هو التنبؤ بالخبراء الذين ستحتاجهم الطبقة التالية وتحميلهم مسبقًا. والتنبؤ يوجّه التحميل فقط، بينما يبقى الحساب على التوجيه الأصلي للموديل، فلا تُقتطع أي قدرة مقابل السرعة.
ويقول المختبر إن الموديل في وضع Instruct يحقق درجة إجمالية أعلى من Qwen3.6 35B-A3B في وقت أقل. ويدعم iOS وأندرويد وهارموني، ويتوفر بصيغ GGUF وAWQ وGPTQ وFP8، ويعمل داخل SGLang وvLLM وllama.cpp وOllama. وهناك أيضًا نسخة أصغر بحجم 1B للأجهزة الأضعف. كما أصدر المختبر في 28 أكتوبر طقمًا للـ OCR مخصصًا للمستندات.
وبالنسبة لمنتج في المنطقة العربية يقرأ صورًا أو مستندات، يصبح ممكنًا ألا تخرج الصفحة من جهاز المستخدم، وأن تتحول التكلفة من سعر لكل ألف صفحة إلى جهاز يشغّل الموديل.
ولا يذكر ملف الموديل شيئًا عن دقته في قراءة النصوص العربية، وهذا ما يبقى بحاجة إلى اختبار قبل الاعتماد عليه في منتج عربي.