وفقًا لتقرير Pinwan الصادر في 5 سبتمبر، تعاونت شركة Nous Research مع باحثين من مختبر EleutherAI وجامعة جنيف في سويسرا لنشر ورقة بحثية والإعلان عن طريقة تسمى YaRN يمكنها توسيع نافذة السياق للنماذج الكبيرة. توضح الورقة أن YaRN تتطلب خطوات تصنيف وتدريب أقل من الطرق التقليدية. باستخدام هذا النهج، يمكن لنماذج LLaMA الاستفادة من سياقات أطول واستقراءها بكفاءة مما يسمح به التدريب المسبق الأصلي، مع تجاوز أحدث امتدادات النوافذ السابقة. وفقًا لصفحة GitHub، يمكن أن تصل نوافذ السياق LLaMA 2 7B/13B التي تم ضبطها بدقة باستخدام YaRN إلى 64 كيلو بايت و128 كيلو بايت على التوالي.