نتائج الاختبار من هذه البنية مثيرة للإعجاب حقا.



أظهرت قياسات عبء العمل الإنتاجية لديهم حوالي 50٪ من زيادة في معدل النقل عند استخدام الاستدلال المفكك مقارنة بالإعدادات التقليدية. والأكثر إثارة للاهتمام: انخفض التأخير بنسبة 20-40٪ بفضل تحسين التوجيه الواعي بذاكرة KV.

هذه ليست اختبارات اختبارات اصطناعية أيضا — كل المقاييس جاءت من بيئات إنتاج فعلية تشغل طلبات مستخدم حقيقية.
شاهد النسخة الأصلية
قد تحتوي هذه الصفحة على محتوى من جهات خارجية، يتم تقديمه لأغراض إعلامية فقط (وليس كإقرارات/ضمانات)، ولا ينبغي اعتباره موافقة على آرائه من قبل Gate، ولا بمثابة نصيحة مالية أو مهنية. انظر إلى إخلاء المسؤولية للحصول على التفاصيل.
  • أعجبني
  • 5
  • إعادة النشر
  • مشاركة
تعليق
0/400
DYORMastervip
· منذ 3 س
50%的吞吐量提升?这数字是真的假的,得看看他们怎么测的 生产环境跑出来的数据才有说服力,不过KV缓存这块确实有优化空间 延迟砍了40%这事儿要真能落地就猛了
رد0
FlashLoanLarryvip
· 12-10 09:53
واو، تحسين الإنتاجية بنسبة 50%؟ هذا ليس مجرد كلام نظري، إنها بيانات من بيئة الإنتاج الحقيقية يمكن تقليل التأخير بنسبة 40%، لذا فإن ذاكرة التخزين المؤقت KV فعلاً مفيدة البيانات التجريبية في بيئة الإنتاج أكثر موثوقية من تلك الاختبارات الاصطناعية، هذا هو ما أريد رؤيته إذا كانت هذه البنية التحتية يمكن أن تعمل بشكل مستقر، فربما يتعين تعديل خطط نشر العديد من المشاريع
شاهد النسخة الأصليةرد0
WalletAnxietyPatientvip
· 12-10 03:46
زيادة بنسبة 50٪ في معدل الإنتاجية؟ إنها فعلا مزيفة جدا، كيف يمكن أن تبدو هذه البيانات شديدة السمعة لقد قيل إن تحسين ذاكرة التخزين المؤقت في KV منذ فترة طويلة، وقليل منها يمكن تنفيذه فعليا البيانات من بيئة الإنتاج موثوقة، وهذا أفضل من تلك الموجودة على الورق إذا كان هذا صحيحا، أشعر أنه يمكن أن يوفر الكثير من التكاليف التأخير أقل بأكثر من 20 نقطة، وهذا أمر مثير للاهتمام حقا للتداول عالي التردد لكن ما هو استقرار الاستدلال المنقسم، هذا هو المفتاح
شاهد النسخة الأصليةرد0
BoredWatchervip
· 12-10 03:34
زيادة بنسبة 50٪ في معدل الإنتاجية؟ إذا كان هذا صحيحا، فإن بيئة الإنتاج يمكن أن توفر الكثير من الغاز تحسين ذاكرة التخزين المؤقت في KV قاس جدا، مع تأخير يتراوح بين 20-40٪، وهو بيانات حقيقية بيانات الطلب الحقيقية التي يتم تشغيلها في بيئة الإنتاج أكثر مصداقية بكثير من تلك المعايير هل هذا هو الاتجاه الجديد لتحسين نماذج اللغة الكبيرة؟ أشعر أن الوقت قد حان لتفتت المصانع الكبرى تم تصميم هذه العمارة بذكاء لتجنب عنق الزجاجة
شاهد النسخة الأصليةرد0
ConsensusBotvip
· 12-10 03:32
زيادة معدل النقل بنسبة 50٪ تبدو جيدة، لكن هل تم التحقق منها تحت الإنتاج الحقيقي وحماية البيئة؟ أعتقد أن هذا تحسين توجيه ذاكرة التخزين المؤقت في KV هو بالفعل تفصيل، وتقليل التأخير بنسبة 20-40٪ ليس مبالغة انتظر، كيف تتعامل هذه البنية مع البدء البارد... بيانات الإنتاج الحقيقية تتحدث أفضل من أي شيء آخر
شاهد النسخة الأصليةرد0
  • Gate Fun الساخنعرض المزيد
  • القيمة السوقية:$3.62Kعدد الحائزين:2
    0.09%
  • القيمة السوقية:$3.9Kعدد الحائزين:3
    1.56%
  • القيمة السوقية:$3.6Kعدد الحائزين:2
    0.00%
  • القيمة السوقية:$3.58Kعدد الحائزين:2
    0.00%
  • القيمة السوقية:$3.64Kعدد الحائزين:2
    0.04%
  • تثبيت