كشفت أوبن إيه آي عن مجموعة تحسينات على آلية التخزين المؤقت للمطالبات (Prompt Caching) في نموذج GPT-6، تستهدف المطوّرين الذين يبنون تطبيقات تعتمد على استدعاءات متكررة للنموذج.
ما الجديد؟
- نسب تطابق أعلى للتخزين المؤقت (Cache Hit Rate)، ما يعني أن جزءًا أكبر من المطالبات المتكررة يُعاد استخدامه بدل إعادة معالجته من الصفر.
- أدوات تشخيص جديدة تكشف للمطوّر متى استُخدم التخزين المؤقت فعليًا ومتى لم يُستخدم.
- نقاط توقف صريحة (Explicit Breakpoints) يحدّدها المطوّر بنفسه، لتثبيت الأجزاء التي يريد الاحتفاظ بها في الذاكرة المؤقتة بدل تركها لتقدير النظام.
- أدوات تحكّم إضافية تصبّ في هدف واحد: خفض زمن الاستجابة والتكلفة معًا، لا أحدهما على حساب الآخر.
لمن هذا التحديث؟
القيمة هنا عملية بالدرجة الأولى: أي فريق يبني وكيلًا برمجيًا (Agent) أو مساعد برمجة يُعيد إرسال نفس السياق الطويل — تعليمات النظام، وثائق مرجعية، سجل محادثة — في كل استدعاء، يدفع الآن كلفة أقل ويحصل على استجابة أسرع كلما زادت دقة التخزين المؤقت.
هذا الاتجاه ليس حكرًا على أوبن إيه آي وحدها؛ فمعظم مزوّدي النماذج الكبرى يتجهون إلى المنطق نفسه: كلما كبر السياق الذي يحتاجه التطبيق، صارت كفاءة التخزين المؤقت جزءًا من تصميم المنتج نفسه، لا تفصيلًا تقنيًا هامشيًا.
الكلمات المفتاحية: أوبن إيه آي، GPT-6، التخزين المؤقت للمطالبات، Prompt Caching، تكلفة الاستدلال، المطورين
المصدر: موقع أوبن إيه آي الرسمي — https://openai.com/index/better-prompt-caching-for-gpt-6
No comments yet