Cloudflare تخفض تكلفة مراجعة الكود بالذكاء الاصطناعي 68% بنقل علامة واحدة في الـ cache

نشرت Cloudflare على مدونتها الهندسية في 19 أكتوبر 2026 تدوينة كتبها Ryan Skidmore عن تكلفة أداة مراجعة الكود الداخلية لديها، التي تعمل على OpenCode. كانت المراجعة الواحدة تكلف 1.19 دولار في أبريل، ثم ارتفعت إلى نحو 2.46 دولار في نهاية أغسطس. وتمكن الفريق من خفضها إلى 0.77 دولار، أي بنسبة 68%.

والمفاجأة لم تكن في النموذج. فعند تقسيم الفاتورة تبيّن أن الـ tokens الخارجة تمثل 23% فقط، بينما تمثل الكتابة في الـ cache نسبة 43% والقراءة منه 34%. أي أن نحو ثلاثة أرباع المال كان يُصرف على سياق رآه النموذج من قبل أو سيراه مرة أخرى.

وتضم الجلسة الواحدة 16.6 نداء للنموذج في المتوسط، يكتب خلالها 72 ألف token في الـ cache ويقرأ منه 1.08 مليون، لأن كل نداء يرسل المحادثة كاملة من بدايتها.

أما موضع الخلل فكان في النداء الأول. إذ لم يجد نسخة محفوظة إلا في 14% إلى 26% من المرات، مع أن كل الجلسات تبدأ بتعريفات الأدوات نفسها والـ prompt نفسه، أي بين 11 ألف و21 ألف token متطابقة في كل مستودع.

والسبب أن علامة الـ cache breakpoint، وهي النقطة التي يُحفظ عندها ما قبلها في الذاكرة المؤقتة، وُضعت بعد سطر يتضمن مسار العمل والتاريخ. ولأن هذا السطر يتغير، لم يُحفظ الجزء المشترك الذي يسبقه وحده ليعاد استخدامه. وبعد نقل العلامة إلى ما قبل السطر المتغير، صار هذا الجزء مشتركًا بين كل المستودعات.

وبحسب التدوينة، جاء 40% من التوفير من تعديلات من هذا النوع في الكود، والباقي من تجربة نماذج ودرجات تفكير مختلفة. وبالنسبة لأي فريق يشغّل agent على مفتاح API، قد يكشف هذا أن جزءًا كبيرًا من الفاتورة لا علاقة له بسعر النموذج، بل بترتيب الـ prompt.