Étude de cas : Hathora économise des millions en combinant cloud et serveurs physiques

Hathora souhaitait lancer et faire évoluer sa plateforme rapidement, et a donc suivi ce qui est devenu un guide courant pour de nombreuses start-ups, petits groupes et autres entreprises : l’entreprise s’est entièrement appuyée sur le cloud, en exécutant tout sur Amazon Web Services via EKS, le service Kubernetes entièrement géré du géant du cloud. Son ambition semblait sans limites : Hathora voulait s’adresser à tous les développeurs de jeux, des plus petites équipes aux studios majeurs, sans oublier tous ceux qui se situent entre les deux.

Et cela a fonctionné – jusqu’à un certain point. Plus de 100 studios de jeux ont adopté la plateforme Hathora dans les six mois suivant son lancement initial. Ce succès précoce a cependant mis en lumière un problème fondamental au vu de l’objectif d’Hathora de servir des studios de toutes tailles à travers le monde : en commençant à travailler avec des studios de plus en plus importants, l’économie de leur infrastructure uniquement cloud est rapidement devenue insoutenable – à tel point qu’ils risquaient de passer à côté d’un segment important et lucratif du marché global.

Dans cette étude de cas, nous allons découvrir concrètement comment le CTO de Hathora et son équipe ont transformé leur stratégie commerciale et technologique initiale avec, potentiellement, des résultats spectaculaires – ainsi que quelques enseignements à retenir pour les dirigeants technologiques de tous secteurs.

L’entreprise & le CTO

Entreprise : Hathora, fournisseur mondial d’infrastructure critique et d’orchestration serveur pour permettre aux studios de jeux vidéo d’héberger leurs jeux en ligne multijoueurs.

Le CTO : Harsh Pandey, également fondateur de l’entreprise :

« Nous avons créé Hathora pour permettre aux studios de jeux de toutes tailles d’accéder à une infrastructure d’envergure mondiale sans avoir à la concevoir eux-mêmes. Mais lorsque nous avons commencé à calculer les coûts pour de plus grands studios, le modèle économique ne tenait plus. Les coûts du cloud, en particulier pour la sortie de données, rendaient notre offre intenable pour précisément le type de clients que nous souhaitions accompagner. »

Siège social : New York City

Présence clients : Aujourd’hui, Hathora sert, littéralement, des clients à travers le monde depuis 14 régions globales réparties sur six continents.

Le problème métier

De grandes ambitions s’accompagnent souvent de grands défis, et cela a été exactement le cas pour Harsh et Hathora.

Certaines difficultés tiennent à la nature même de l’industrie du jeu vidéo : les jeux MMO ne sont pas des petites boutiques de quartier au trafic prévisible. Les jeux multijoueurs doivent diffuser en continu des mises à jour à chaque joueur connecté, et ce, de manière extrêmement performante.

Autrement dit, d’immenses quantités de données transitent en permanence entre l’infrastructure back-end et les joueurs individuels, qui peuvent se compter par millions pour les titres les plus populaires. Et si vous trouvez vos clients exigeants, disons simplement que les gamers assidus ne font généralement pas preuve de patience lorsqu’il s’agit de performance et d’expérience utilisateur.

L’exécution des charges de travail serveur depuis la plateforme totalement cloud d’Hathora convenait bien aux studios de plus petite taille. Mais lorsqu’un grand studio s’est renseigné sur les tarifs, Harsh et son équipe ont compris les limites de leur modèle financier.

« Nous avons compris l’ampleur du défi lorsqu’un grand studio utilisant notre plateforme d’hébergement de serveurs pour ses playtests internes a demandé un devis pour le lancement, » nous raconte Harsh. « Le montant prévu pour la bande passante dépassait le million de dollars par mois. »

Cela représentait quatre fois le coût de calcul normalement attendu pour exécuter le jeu, selon Harsh. Cette situation n’était viable ni pour le studio, ni pour Hathora. L’entreprise se retrouvait donc à la croisée des chemins : conserver sa stratégie 100% cloud et risquer de perdre le marché des grands studios, ou changer de cap.

« Le problème à résoudre, c’était le prix, tout simplement, » affirme Harsh.

La solution, en revanche, était technique : Hathora devait transformer sa propre infrastructure pour mieux répondre aux exigences spécifiques des charges de travail des serveurs de jeux, tout en adoptant un modèle tarifaire pouvant convenir même aux plus grands studios.

Ce qu’ils ont fait et pourquoi

Les professionnels de la tech de tous horizons ont entendu de nombreux arguments sur les bénéfices de la migration d'infrastructures et de charges de travail vers le cloud, ou tout simplement sur le lancement d'une activité exclusivement basée sur le cloud. C'est une grande tendance depuis des années, et Hathora n'a pas fait exception.

Hathora a choisi une voie presque opposée pour résoudre son problème avec les grands clients, adoptant une architecture cloud hybride et misant finalement sur une valeur sûre : les serveurs bare metal. 

(Consultez notre article sur cette tendance plus récente du retour depuis le cloud vers l'infrastructure sur site.)

Harsh partage l’évolution de l’entreprise :

« Nous sommes passés à un modèle hybride et avons suivi le coût d’infrastructure par session simultanée, la performance de la latence à travers les régions du globe, et l'effort d'ingénierie nécessaire pour tout gérer. En migrant 80 % de nos charges de travail vers le bare metal, nous pouvons réduire presque de moitié nos coûts de calcul et réduire les coûts de bande passante de plus de 90 %. Nous gérons désormais plus de 30 000 cœurs répartis sur 14 régions avec une équipe d’ingénierie relativement petite. Ce niveau d’efficacité et de portée aurait été impossible avec notre architecture initiale. »

Ils utilisent toujours l’infrastructure cloud pour la scalabilité et les pics de demande, ce qui représente environ 20 % des charges de travail (au lieu de 100 %). Mais la stack de Hathora s’appuie désormais sur deux fournisseurs bare metal et les ressources cloud AWS et GCP, au lieu de garder tout sur AWS. Harsh et son équipe ont opté pour Talos Linux, une distribution minimaliste conçue spécifiquement pour les environnements Kubernetes, et Omni (également de Sidero Labs) pour l’orchestration depuis un plan de contrôle unique à travers ses environnements hybrides.

Inutile de préciser que ce changement n’a pas été aussi simple que d’actionner un interrupteur. De plus, il y avait des avantages et inconvénients à considérer. Passer au 100% cloud au départ a permis à Hathora de se lancer rapidement et avec succès. S’éloigner de ce modèle signifiait renoncer à certains avantages offerts par le cloud, du moins dans un premier temps :

« Changer signifiait renoncer à beaucoup des commodités qu’offrent les plateformes cloud », explique Harsh. « Nous perdions la mise à l’échelle automatique facile, la supervision intégrée et les services managés. Cela ajoutait de la complexité opérationnelle. Nous devions aussi prouver que nous pouvions égaler ou dépasser les performances du cloud. Rien ne garantissait que nous trouverions des fournisseurs ou des outils qui répondraient à nos besoins. Mais nous étions convaincus qu’il était essentiel pour notre modèle économique de maîtriser les coûts et les performances, et nous étions prêts à prendre ce risque. »

Le pari s’avère payant, ouvrant la voie à la prochaine phase de croissance de Hathora : l’entreprise sert désormais des clients sur six continents. Elle peut fournir la même infrastructure critique aux plus grands studios à un coût nettement inférieur à celui d’avant. Elle offre aussi un contrôle plus fin sur les exigences spécifiques des charges de travail des jeux vidéo (c’est également un avantage majeur des logiciels de gestion des exigences), avec un contrôle au niveau des nœuds grâce à Talos Linux et une orchestration unifiée des clusters via Omni, quel que soit l’endroit où s’exécutent les charges.

« Ces outils sont minimalistes, sécurisés et faciles à exploiter sur différents types d’infrastructures, » affirme Harsh. « Nous avons évalué notre stack selon la performance, le coût et le contrôle que nous conservions. La nouvelle configuration nous permet d’opérer avec une petite équipe et de nous développer à l’échelle mondiale sans être liés à un fournisseur unique. »

De fait, la petite équipe d’ingénierie de Hathora est devenue une sorte d’indicateur clé officieux. Elle a constaté des gains immédiats en performance et en coûts après la migration de sa première région complète vers le modèle hybride, puis a connu une montée en puissance rapide (désormais présente dans 14 régions dans le monde).

« À chaque fois que quelqu’un découvre que notre infrastructure est gérée par seulement quelques ingénieurs, c’est un moment qui témoigne du chemin parcouru. »

Principaux enseignements & leçons tirées

Pas besoin d’appartenir au secteur de l’infrastructure numérique ou des jeux vidéo pour appliquer des principes et des enseignements similaires à votre propre entreprise.

• Écoutez vos clients : Harsh et son équipe ont réalisé qu’ils étaient confrontés à un problème – et qu’ils devaient être proactifs pour le résoudre – en écoutant leurs clients, en particulier le grand studio qui utilisait Hathora pour des tests internes et a ensuite demandé des estimations de coûts s'ils faisaient tourner le jeu réel dessus. Les CTO sont tout autant responsables de résoudre les problèmes des clients que de concevoir des solutions technologiques : les deux vont de pair.

• N’ayez pas peur de changer de cap. « Cloud first », « cloud native » et d’autres termes similaires doivent être considérés comme des stratégies adaptables, et non comme des dogmes. Ce principe est universel : ce n’est pas parce que vous adoptez une stratégie à l’origine que vous devez vous y tenir indéfiniment. Hathora aurait pu se contenter de rester totalement dans le cloud, mais cela aurait limité son potentiel de croissance et, au final, la performance des jeux fonctionnant sur son infrastructure.

Le passage à un modèle hybride a permis à l’entreprise de servir des clients de toutes tailles et d’améliorer les performances grâce à une flexibilité et un contrôle accrus pour répondre aux exigences spécifiques des charges de travail des jeux. Hathora a ainsi pu lancer une offre entreprise qui offre aux plus grands studios des tarifs prévisibles et de solides garanties de performance.

• Soyez rigoureux dans votre analyse. Ce type de transformation ne peut pas être accompli au hasard. Harsh et son équipe ont réalisé une preuve de concept complète avec Talos et Omni pour tester leur changement stratégique :

« Une fois que nous avons validé que nous pouvions tout orchestrer à travers un seul système, nous avons migré notre première région complète. Les gains de performance ont été immédiats. À partir de là, nous avons déployé le modèle à l’échelle mondiale, ajoutant des fournisseurs et des localisations au fur et à mesure, » a déclaré Harsh.

Ils ont analysé les avantages et les inconvénients – y compris la perte initiale des bénéfices du cloud décrits plus haut par Harsh – afin de limiter les surprises. Ils savaient qu’il leur fallait trouver une solution compatible Kubernetes capable d’orchestrer l’ensemble à travers plusieurs environnements et régions, et de traiter chaque machine de façon identique, qu’elle fonctionne sur du bare metal ou dans le cloud.

Harsh a également précisé qu’ils ont approfondi l’évaluation des fournisseurs, comparant les processeurs AMD et Intel, testant les performances réseau en conditions réelles et évaluant les fournisseurs selon leur performance face à AWS Global Accelerator. 

« Nous avons veillé à ce que notre nouvelle configuration ne soit pas simplement moins chère, mais aussi plus rapide et plus fiable dans les régions qui comptaient. »

• Privilégiez la vision à long terme : Des changements de direction aussi profonds ne consistent pas simplement à résoudre des problèmes ponctuels. Lorsqu’ils sont bien réalisés, ils ouvrent la voie à toujours plus de possibilités à l’avenir. Cette vision à long terme porte déjà ses fruits pour Hathora. Ils continuent à développer de nouvelles fonctionnalités pour les grands studios, comme des options de clusters dédiés, du peering régional pour des échanges très basse latence, et une meilleure observabilité pendant les événements en direct.

Harsh précise aussi que le nouveau modèle d’infrastructure de Hathora pour le jeu vidéo montre un potentiel intéressant dans d’autres secteurs ayant besoin de réactivité en temps réel et de hauts débits, et que la stratégie à long terme de l’entreprise est de proposer de nouvelles solutions à d’autres développeurs, hors de l’industrie du jeu.

« Le passage à un modèle hybride nous a donné de la flexibilité sur le long terme. Nous pouvons désormais entrer rapidement sur de nouveaux marchés, tester de nouveaux fournisseurs de matériel sans dépendance, et donner aux clients plus de contrôle sur le déploiement de leur infrastructure. La plateforme est devenue bien plus modulaire et adaptable. »

Pour d’autres études de cas et guides pratiques, abonnez-vous à la newsletter du CTO Club.