Les domaines de l'IA et du HPC connaissent une augmentation exponentielle de la puissance de calcul notamment avec les performances « Exascale[1] » et des grands modèles de langage (LLM) avec des trillions de paramètres en développement. Face à cette évolution, le réseau « scale-out », l'épine dorsale du système, n'a pas connu les mêmes améliorations, dressant des barrières[2] pour la progression de la science de l'IA et du HPC et nécessitant une approche radicalement différente.
Pour relever ce défi, Eviden a développé la troisième génération de sa technologie de réseau brevetée « BullSequana eXascale Interconnect » (BXI v3) en partenariat avec le CEA. Grâce à cette avancée, les innovations dans le domaine des SmartNIC (cartes d'interface réseau intelligentes) et des protocoles de déchargement des applications deviennent une réalité pour l’intelligence artificielle et le calcul intensif.
Alors que le nombre de processeurs graphiques (GPU) dans les systèmes informatiques augmente rapidement, en particulier pour les applications d'intelligence artificielle, de nombreuses solutions de réseau « scale-out » existantes peinent à supporter et renforcer le niveau de performance de ces puissants processeurs.
L'une des principales caractéristiques du BXI v3 est sa capacité à décharger les communications des applications, généralement gérées par le processeur, vers un composant spécialisé de la carte d'interface réseau. Cette approche unique optimise les communications distribuées à l'échelle, permettant une gestion beaucoup plus efficace que les méthodes actuelles, optimisant ainsi l'allocation des ressources CPU et GPU. L'exécution des applications en est ainsi plus rapide (jusqu'à 35 %) et le coût total de possession (TCO) en ressort réduit.
Avec le BXI v3, Eviden a adopté Ethernet comme protocole de communication de base, en l'améliorant avec des caractéristiques généralement réservées aux réseaux « scale-out » haut de gamme, tels que Infiniband. Le BXI v3 offre des temps de latence exceptionnellement bas (moins de 200 ns de port à port), une bande passante élevée, une commutation de paquets, une gestion avancée de la congestion et une évolutivité significative.
Le choix d'Ethernet ainsi que l'amélioration de ses capacités représentent une étape importante sur la feuille de route de technologies de réseau « BXI Scale-Out », permettant à Eviden de fournir dès 2025 une solution déjà alignée sur les ambitions de Consortium Ultra Ethernet Consortium (UEC). En tant que seul membre fondateur européen de l'UEC, Eviden collabore avec des géants de l'industrie pour développer le Consortium Ultra-Ethernet, dans le but de permettre un écosystème plus large de composants et de marchés et étendre l’Ethernet à l’AI et au HPC avec des capacités SmartNIC prêtes à l'emploi.
Earl Joseph, PDG d’Hyperion Research a déclaré « Le lancement du dernier BXI d'Eviden marque une étape importante sur le marché du HPC. Cela témoigne d’une demande en croissance pour les technologies réseau innovantes, conçues dans le but de profiter pleinement des capacités HPC et de l'Intelligence Artificielle. Alors que l'appétit pour des infrastructures évolutives dédiées à l’IA continue de croître, l'approche unique d'Eviden offre une perspective forte, combinant des capacités plug-and-play avec une compréhension profonde des besoins du marché. En adoptant le protocole le plus largement utilisé sur le marché, tout en l’améliorant avec des caractéristiques uniques de déchargement de protocole d'application sur la carte d'interface réseau, Eviden apporte au marché un véritable réseau SmartNIC avec des capacités Plug&Play pour les charges de travail très exigeantes OpenMPI (HPC) et NCCL/RCCL (AI). Cette solution est appelée à devenir un outil essentiel pour les organisations souhaitant optimiser leurs ressources CPU et GPU tout en améliorant le coût total de possession et la facilité d'intégration. »
Jacques-Charles Lafoucrière, directeur de programme au sein de la Direction des applications militaires du CEA a souligné « Nous avons pu constater la puissance de la technologie « BullSequana eXascale Interconnect » d'Eviden dans notre supercalculateur EXA1 HE, livré en début d'année et classé 17ème au TOP500. Nous soutenons pleinement cette nouvelle version ; les charges de travail de l'IA devenant de plus en plus exigeantes, une offre réseau robuste est essentielle et une solution 'made in France' est stratégique pour notre souveraineté ».
Emmanuel Le Roux, SVP, Directeur de l’activité Big Data & Securité, Eviden, Groupe Atos, a déclaré “Alors que les exigences technologiques ne cessent de croître et d’évoluer, nous sommes particulièrement bien équipés pour relever ces défis. En tant que leader européen du calcul avancé, nous nous engageons à offrir des solutions technologiques souveraines et innovantes. Cela nous positionne à l'avant-garde de l'industrie, permettant à nos clients de façonner l'avenir de l'IA et du calcul haute performance.”
Pour relever ce défi, Eviden a développé la troisième génération de sa technologie de réseau brevetée « BullSequana eXascale Interconnect » (BXI v3) en partenariat avec le CEA. Grâce à cette avancée, les innovations dans le domaine des SmartNIC (cartes d'interface réseau intelligentes) et des protocoles de déchargement des applications deviennent une réalité pour l’intelligence artificielle et le calcul intensif.
Alors que le nombre de processeurs graphiques (GPU) dans les systèmes informatiques augmente rapidement, en particulier pour les applications d'intelligence artificielle, de nombreuses solutions de réseau « scale-out » existantes peinent à supporter et renforcer le niveau de performance de ces puissants processeurs.
L'une des principales caractéristiques du BXI v3 est sa capacité à décharger les communications des applications, généralement gérées par le processeur, vers un composant spécialisé de la carte d'interface réseau. Cette approche unique optimise les communications distribuées à l'échelle, permettant une gestion beaucoup plus efficace que les méthodes actuelles, optimisant ainsi l'allocation des ressources CPU et GPU. L'exécution des applications en est ainsi plus rapide (jusqu'à 35 %) et le coût total de possession (TCO) en ressort réduit.
Avec le BXI v3, Eviden a adopté Ethernet comme protocole de communication de base, en l'améliorant avec des caractéristiques généralement réservées aux réseaux « scale-out » haut de gamme, tels que Infiniband. Le BXI v3 offre des temps de latence exceptionnellement bas (moins de 200 ns de port à port), une bande passante élevée, une commutation de paquets, une gestion avancée de la congestion et une évolutivité significative.
Le choix d'Ethernet ainsi que l'amélioration de ses capacités représentent une étape importante sur la feuille de route de technologies de réseau « BXI Scale-Out », permettant à Eviden de fournir dès 2025 une solution déjà alignée sur les ambitions de Consortium Ultra Ethernet Consortium (UEC). En tant que seul membre fondateur européen de l'UEC, Eviden collabore avec des géants de l'industrie pour développer le Consortium Ultra-Ethernet, dans le but de permettre un écosystème plus large de composants et de marchés et étendre l’Ethernet à l’AI et au HPC avec des capacités SmartNIC prêtes à l'emploi.
Earl Joseph, PDG d’Hyperion Research a déclaré « Le lancement du dernier BXI d'Eviden marque une étape importante sur le marché du HPC. Cela témoigne d’une demande en croissance pour les technologies réseau innovantes, conçues dans le but de profiter pleinement des capacités HPC et de l'Intelligence Artificielle. Alors que l'appétit pour des infrastructures évolutives dédiées à l’IA continue de croître, l'approche unique d'Eviden offre une perspective forte, combinant des capacités plug-and-play avec une compréhension profonde des besoins du marché. En adoptant le protocole le plus largement utilisé sur le marché, tout en l’améliorant avec des caractéristiques uniques de déchargement de protocole d'application sur la carte d'interface réseau, Eviden apporte au marché un véritable réseau SmartNIC avec des capacités Plug&Play pour les charges de travail très exigeantes OpenMPI (HPC) et NCCL/RCCL (AI). Cette solution est appelée à devenir un outil essentiel pour les organisations souhaitant optimiser leurs ressources CPU et GPU tout en améliorant le coût total de possession et la facilité d'intégration. »
Jacques-Charles Lafoucrière, directeur de programme au sein de la Direction des applications militaires du CEA a souligné « Nous avons pu constater la puissance de la technologie « BullSequana eXascale Interconnect » d'Eviden dans notre supercalculateur EXA1 HE, livré en début d'année et classé 17ème au TOP500. Nous soutenons pleinement cette nouvelle version ; les charges de travail de l'IA devenant de plus en plus exigeantes, une offre réseau robuste est essentielle et une solution 'made in France' est stratégique pour notre souveraineté ».
Emmanuel Le Roux, SVP, Directeur de l’activité Big Data & Securité, Eviden, Groupe Atos, a déclaré “Alors que les exigences technologiques ne cessent de croître et d’évoluer, nous sommes particulièrement bien équipés pour relever ces défis. En tant que leader européen du calcul avancé, nous nous engageons à offrir des solutions technologiques souveraines et innovantes. Cela nous positionne à l'avant-garde de l'industrie, permettant à nos clients de façonner l'avenir de l'IA et du calcul haute performance.”