Tokyo en direct : l'équipe de Netflix explique les technologies derrière le live streaming.

Imaginez ceci : la nuit du plus grand événement de l'histoire approche, 65 millions de fans attendent avec impatience, le cœur battant. Comment faire en sorte que chaque spectateur puisse regarder le match en direct à l'heure ? Les utilisateurs de Netflix sont habitués à la vidéo à la demande, chacun peut choisir son propre moment de visionnage. Mais avec les événements en direct, des millions de fans souhaitent pouvoir se connecter instantanément pour regarder ; comment Netflix s'assure-t-il que les abonnés ne manquent aucun moment fort ? Lorsque le trafic en direct bat des records de streaming, l'infrastructure de Netflix est mise à l'épreuve ultime. L'auteur a assisté à une présentation donnée par l'équipe technique de Netflix dans le bureau de Tokyo, expliquant les coulisses techniques de Netflix Live ; voici un résumé des points clés.

Quelles sont les différences entre Netflix Live et VOD ?

Live et visionnage aléatoire (Video à la demande, abrégé VOD), diffèrent en ce sens que les membres souhaitent pouvoir regarder des événements en direct instantanément, ce qui signifie qu'il y a très peu de temps pour recommander les émissions en direct appropriées. Recommander trop tôt peut faire perdre l'excitation, et apparaître trop tard peut faire manquer des moments forts. Chaque seconde compte.

Recommandation instantanée soigneusement planifiée

Pour capter l'excitation en temps réel, Netflix a amélioré son système de recommandation, offrant des suggestions instantanées pour fournir aux membres des signaux plus riches et plus attrayants, afin qu'ils puissent cliquer sur lecture au bon moment. Quel est le défi ? Comment envoyer des mises à jour dynamiques et en temps réel à plus de 100 millions d'appareils dans le monde entier, lorsque l'effet de masse peut surcharger les services cloud ? Une simple mise à l'échelle linéaire n'est ni efficace ni fiable. Pour des événements populaires, cela pourrait également détourner des ressources d'autres services critiques. Netflix a besoin d'une solution évolutive plus intelligente, et pas seulement d'ajouter plus de ressources, c'est donc pourquoi Netflix a créé son propre système.

Avec des millions d'appareils en ligne, le calendrier des événements en direct peut également changer à tout moment. Comment garder tout le monde parfaitement synchronisé ? Pour résoudre ce problème, Netflix a mis en place un système capable de mettre à jour dynamiquement le contenu recommandé en fonction de l'avancement des événements.

Netflix a découvert qu'il doit équilibrer trois contraintes :

Temps : Durée nécessaire pour mettre à jour la coordination. Optimisation du débit : Capacité de traitement des services cloud. Base de calcul : Diverses demandes nécessaires pour fournir des mises à jour uniques.

En divisant les recommandations instantanées en deux étapes pour résoudre le problème d'optimisation, préchargez les données nécessaires et répartissez la charge sur une période plus longue afin d'éviter les pics de trafic. Lorsqu'un événement en direct commence ou se termine, diffusez un message à faible fréquence à tous les appareils connectés.

Scène de jour de compétition simulée

En plus de développer de nouvelles technologies pour soutenir les recommandations en temps réel, Netflix a également évalué ses systèmes existants, identifiant des points chauds potentiels de trafic, prédisant des volumes de trafic élevés lors d'événements en direct, et simulant le trafic des jours de match pour étudier comment les services en ligne réagissent à ces pics de trafic.

Pour garantir la stabilité des diffusions en direct, l'équipe de Netflix a simulé des scénarios de “jour de match” pour tester les performances des serveurs sous une charge extrême. Les résultats ont montré que, même si le système central fonctionnait bien, des pics de trafic inattendus pouvaient encore survenir avant et après la diffusion, tels que l'expiration simultanée des caches ou des recalculs massifs. Pour résoudre ce problème, Netflix a introduit un “mécanisme de jitter pour l'expiration du cache”, qui répartit de manière aléatoire les temps de mise à jour des caches afin d'éviter les congestions dues à des mises à jour centralisées. En outre, Netflix a également mis en place un système de priorisation du trafic adaptatif qui peut automatiquement diriger le trafic critique vers des clusters plus évolutifs pendant les périodes de pointe et temporairement réduire la priorité des mises à jour non critiques pour garantir la stabilité des diffusions en direct.

Lors d'une séance de questions-réponses en direct, lorsqu'on a demandé comment Netflix pourrait réagir en cas de panne d'Amazon Web Services, l'équipe a répondu que Netflix dispose de centres dans chaque région pour gérer la charge de manière décentralisée. L'innovation technologique de Netflix repose sur la collaboration de différentes équipes interfonctionnelles, allant de l'ingénierie, de l'architecture cloud, de la science des données, de la recherche et des recommandations, à la distribution de contenu et au playback sur appareils, chaque étape étant un défi. Netflix s'est étendu du streaming de films et de séries en ligne à la diffusion en direct et aux jeux, et l'équipe technique derrière cela indique qu'elle continue de mettre à jour les niveaux technologiques pour améliorer l'expérience utilisateur. L'objectif futur est de permettre aux spectateurs non seulement de regarder à la demande, mais aussi de participer à des interactions en temps réel, offrant ainsi une expérience de divertissement immersive et sans couture.

Lecture complémentaire :

Derrière les flux : Construire un pipeline de diffusion en direct cloud fiable pour Netflix

Cet article sur Tokyo Direct parle de l'équipe de Netflix qui explique le contexte technique derrière les flux de streaming en direct, apparu pour la première fois dans Chain News ABMedia.