تحسينات جديدة على التخزين المؤقت للمطالبات في GPT-6
تحسينات جديدة على التخزين المؤقت للمطالبات في GPT-6

أوبن إيه آي تُحسّن التخزين المؤقت للمطالبات في GPT-6 — نسب تطابق أعلى وأدوات تحكّم جديدة تقلّص الكلفة والزمن

أوبن إيه آي تُطلق تحسينات على التخزين المؤقت للمطالبات في GPT-6: نسب تطابق أعلى، تشخيص أدق، ونقاط توقف صريحة تقلّص زمن الاستجابة والتكلفة للمطوّرين.

كشفت أوبن إيه آي عن مجموعة تحسينات على آلية التخزين المؤقت للمطالبات (Prompt Caching) في نموذج GPT-6، تستهدف المطوّرين الذين يبنون تطبيقات تعتمد على استدعاءات متكررة للنموذج.

ما الجديد؟

  • نسب تطابق أعلى للتخزين المؤقت (Cache Hit Rate)، ما يعني أن جزءًا أكبر من المطالبات المتكررة يُعاد استخدامه بدل إعادة معالجته من الصفر.
  • أدوات تشخيص جديدة تكشف للمطوّر متى استُخدم التخزين المؤقت فعليًا ومتى لم يُستخدم.
  • نقاط توقف صريحة (Explicit Breakpoints) يحدّدها المطوّر بنفسه، لتثبيت الأجزاء التي يريد الاحتفاظ بها في الذاكرة المؤقتة بدل تركها لتقدير النظام.
  • أدوات تحكّم إضافية تصبّ في هدف واحد: خفض زمن الاستجابة والتكلفة معًا، لا أحدهما على حساب الآخر.

لمن هذا التحديث؟

القيمة هنا عملية بالدرجة الأولى: أي فريق يبني وكيلًا برمجيًا (Agent) أو مساعد برمجة يُعيد إرسال نفس السياق الطويل — تعليمات النظام، وثائق مرجعية، سجل محادثة — في كل استدعاء، يدفع الآن كلفة أقل ويحصل على استجابة أسرع كلما زادت دقة التخزين المؤقت.

هذا الاتجاه ليس حكرًا على أوبن إيه آي وحدها؛ فمعظم مزوّدي النماذج الكبرى يتجهون إلى المنطق نفسه: كلما كبر السياق الذي يحتاجه التطبيق، صارت كفاءة التخزين المؤقت جزءًا من تصميم المنتج نفسه، لا تفصيلًا تقنيًا هامشيًا.

الكلمات المفتاحية: أوبن إيه آي، GPT-6، التخزين المؤقت للمطالبات، Prompt Caching، تكلفة الاستدلال، المطورين

المصدر: موقع أوبن إيه آي الرسمي — https://openai.com/index/better-prompt-caching-for-gpt-6

No comments yet