أعلنت ديب سيك أن DeepInfer، إطار الاستدلال الذي تعتمد عليه في خدماتها الإنتاجية الكبيرة، صار مفتوح المصدر بترخيص Apache 2.0. تقول الشركة إنها تشارك مجموعتها الإنتاجية لمساعدة المجتمع على خفض تكلفة الحوسبة واستهلاك الطاقة وجعل الذكاء الاصطناعي أرخص.
ما الذي يتضمنه الإصدار
يدعم الإصدار الحالي نموذجًا واحدًا هو DeepSeek-V4.1-Flash، ويأتي بنوى محسّنة وبيئة تشغيل للنموذج والعيّنة. ومن أبرز ميزاته التوازي بأنواعه (Attention DP وMoE EP)، والجدولة غير المتزامنة التي تُخفي زمن جدولة المعالج خلف تنفيذ الجهاز، والاستدلال الثابت النتائج مهما اختلف تركيب الدفعات، والعيّنة الحتمية، والمخرجات المنظمة المقيّدة بـ regex أو JSON schema أو EBNF. وتضيف تقنيتا DSpark والتحقق المجدول بالثقة تسريعًا لفك الترميز.
حدود الإصدار المفتوح
التشغيل المدعوم حاليًا هو الاستدلال دون اتصال على معالجات NVIDIA SM100 ووحدات Huawei Ascend 950 العصبية. ويتطلب بيئة Linux وبايثون 3.12 وCUDA 13 للأولى، وCANN 9.2 للثانية. وتوضح الوثائق أن خدمة استدلال كاملة تحتاج أشياء لم تُضمَّن بعد: نظام KV cache، وفصل مراحل prefill وdecode، وموازنة الأحمال بين النسخ. وتذكر الشركة أن الإطار بُني في الأصل على vLLM مع إلهام من SGLang وTensorRT-LLM.
لماذا يهمّ
قيمة الإصدار لمن يشغّل نماذج كبيرة بنفسه: يرى كيف تدير شركة بهذا الحجم الجدولة والتوازي والنوى المخصصة، ويستفيد منها أو يبني عليها. أما من يبحث عن خدمة جاهزة فسيحتاج إلى استكمال الأجزاء الناقصة بنفسه.
الكلمات المفتاحية: ديب سيك، DeepInfer، استدلال النماذج، مفتوح المصدر، DeepSeek-V4.1-Flash، Apache 2.0
المصدر: حساب DeepSeek في X ومستودع deepseek-ai/DeepInfer على GitHub (github.com/deepseek-ai/DeepInfer)
No comments yet