Réseau de datacenter dédié à l'IA

La demande en matière d'IA pousse les hyperscalers, les acteurs du cloud, les entreprises, les administrations publiques et les établissements d'enseignement à intégrer l'IA dans leurs systèmes afin d'automatiser les opérations, de générer du contenu et des communications, et d'améliorer le service client.

Les modèles d'IA sont développés en utilisant des jeux de données soigneusement élaborés pendant la phase d'entraînement. Ce processus fait appel à plusieurs dizaines, centaines voire milliers de GPU dans un cluster. Ils sont tous reliés au sein d'un réseau et échangent en permanence des données les uns avec les autres. Une fois le traitement terminé, le modèle est plus ou moins complet. Au cours de la phase d'inférence, les utilisateurs interagissent avec le modèle, qui peut identifier ou produire des images ou du texte pour répondre aux questions des utilisateurs. L'entraînement se déroule généralement hors ligne, à l'inverse de l'inférence.

Le traitement des jeux de données massifs de l'IA doit nécessairement s'appuyer sur des capacités de calcul renforcées, un stockage plus rapide et un réseau à haute capacité et faible latence. Juniper vous aide à répondre à ces exigences comme suit :

• Calcul : les clusters de calcul d'IA/de ML pèsent lourdement sur le réseau entre les nœuds. Il faut donc réduire les délais de traitement des jobs (JCT) au maximum, car l'efficacité du cluster dépend fortement du réseau. Juniper propose des commutateurs hautes performances non bloquants, dotés d'une large mémoire tampon et capables de gérer la congestion. Dans une conception de réseau optimale, ils éliminent tout goulot d'étranglement.
• Stockage : en matière de clusters d'IA/de ML et de calcul haute performance, il est rare qu'un ensemble ou qu'un modèle de données puisse être stocké en intégralité sur les nœuds de calcul. Un réseau de stockage hautes performances est donc nécessaire. Les commutateurs QFX Series de Juniper peuvent être utilisés pour la connectivité du stockage IP, étant entièrement compatibles avec les réseaux RDMA (Remote Direct Memory Access), y compris avec NVMe/RoCE (Non-Volatile Memory Express/RDMA sur Ethernet convergé) et NFS (Network File System)/RDMA.
• Réseau : les modèles d'entraînement IA reposent sur des calculs volumineux et intenses, répartis sur des centaines ou des milliers de CPU, GPU et TPU. Ces calculs exigent des réseaux de haute capacité, évolutifs sur le plan horizontal et sans erreurs. Les commutateurs QFX et les routeurs PTX Series de Juniper prennent en charge ces calculs volumineux dans et entre les datacenters grâce à un débit de commutation et de routage optimal et à des capacités d'interconnexion des datacenters (DCI).

Data Center Director est le logiciel de pointe de Juniper conçu pour automatiser et assurer le bon fonctionnement des datacenters. Il automatise l'ensemble du cycle de vie du réseau, de la conception aux opérations quotidiennes, dans les datacenters multifournisseurs, avec une validation continue, de puissantes analyses et l'identification des causes racines pour garantir la fiabilité. Avec l'assistant IA Marvis pour datacenter, ces informations sont transférées de Data Center Director vers le cloud Juniper Mist, et présentées sur un tableau de bord Marvis commun fournissant des informations de bout en bout. L'assistant IA Marvis pour datacenter dispose également d'une interface conversationnelle robuste qui s'appuie sur l'IA générative pour faciliter considérablement les recherches dans la base de connaissances.

Nos commutateurs hautes performances non bloquants, dotés d'une large mémoire tampon, gèrent efficacement la congestion pour supprimer les goulots d'étranglement sur le réseau. L'équilibrage de charge dynamique et le routage adaptatif équilibrent les charges de trafic. Pour gérer la congestion, Juniper prend entièrement en charge les mécanismes DCQCN (Data Center Quantized Congestion Notification), PFC (Priority Flow Control) et ECN (Explicit Congestion Notification). Enfin, pour réduire la latence dans son architecture dorsale, Juniper utilise les meilleurs circuits du marché, des architectures ASIC personnalisées qui maximisent les tampons selon les besoins, mais aussi le Virtual Output Queueing (VOQ) et des fabrics cellulaires dans les architectures Spine.

Notre portefeuille comprend des commutateurs ouverts et standardisés, dotés d'une connectivité de stockage IP via les protocoles NVMe/RoCE ou NFS/RDMA (voir question précédente). Notre solution de réseau de stockage IP s’adapte aussi bien à des configurations à quatre nœuds qu’à des infrastructures comptant des centaines ou des milliers de nœuds de stockage.