Le refroidissement liquide améliore les performances et l'efficacité de la plate-forme Blackwell de Nvidia
Oct 14, 2024
Laisser un message
La croissance rapide de l’intelligence artificielle (IA), en particulier dans des domaines tels que l’IA générative (GenAI) et les grands modèles de langage (LLM), a entraîné une demande sans précédent de puissance de calcul. À mesure que les modèles d’IA deviennent plus complexes et nécessitent davantage de données, le matériel nécessaire pour prendre en charge ces avancées est confronté à des défis importants, notamment en matière de dissipation thermique. Les méthodes de refroidissement traditionnelles, comme le refroidissement par air, ne suffisent plus à gérer la consommation électrique du matériel d’IA de pointe, et c’est là que les solutions de refroidissement liquide entrent en jeu.
La technologie de refroidissement liquide est devenue un moyen très efficace de gérer la production thermique des centres de données IA. Cela est particulièrement crucial pour les plates-formes telles que l'architecture Blackwell de Nvidia, où l'immense puissance de calcul nécessite des systèmes de refroidissement avancés pour garantir performances et longévité.
AuPuce chaude 2024conférence, Nvidia a présenté sa solution innovante, intégrantRefroidissement liquide direct sur puce à eau chaudetechnologie avec son architecture Blackwell pour répondre aux défis croissants de consommation d’énergie et de refroidissement. Ce développement représente une avancée clé dans la conception du matériel d’IA, réduisant les coûts opérationnels et améliorant l’efficacité des applications d’IA à grande échelle.

▲ Tutoriel Hot Chips : le refroidissement liquide améliore les performances et l'efficacité
L'essor de la technologie de refroidissement liquide
La technologie de refroidissement liquide apparaît comme un élément essentiel dans la conception des centres de données IA en raison de la demande croissante de puissance des puces IA. À mesure que les applications d’IA se développent, la consommation d’énergie des centres de données devrait augmenter considérablement. De nombreux processeurs d'IA, dont le H100 de Nvidia et son nouveauArchitecture de Blackwell, consomment entre 700W et 1200W de puissance. Cette immense consommation d’énergie est aggravée lorsque les clusters d’IA, composés de milliers de GPU, fonctionnent à l’unisson.
Par exemple,Le pôle de formation en IA d'Elon Musk, le plus grand au monde avec 100000 GPU H100, est entièrement refroidi par liquide pour gérer sa demande d'énergie de 31- mégawatts. De tels exemples démontrent pourquoi l'optimisation de la technologie de refroidissement est essentielle, non seulement pour réduire les coûts opérationnels, mais également pour améliorer les performances globales des systèmes d'IA. Alors que le besoin d’une IA plus performante continue de croître, le refroidissement liquide jouera un rôle de plus en plus central dans le maintien des systèmes informatiques hautes performances.
Les avantages du refroidissement liquide dans les centres de données IA
Le refroidissement liquide se distingue par sa capacité à transférer directement la chaleur des composants critiques tels que les processeurs et les GPU, améliorant ainsi la dissipation thermique par rapport au refroidissement par air traditionnel. DansRefroidissement liquide direct (DLC), le liquide de refroidissement entre en contact direct avec la puce, améliorant ainsi l'efficacité thermique et réduisant le besoin de ventilateurs et de systèmes de climatisation encombrants. Cela se traduit par une consommation d'énergie inférieure pour le refroidissement, réduisant ainsi les coûts opérationnels totaux du centre de données.
En outre,Refroidissement liquide par immersion, où des serveurs entiers sont immergés dans un liquide diélectrique, présente une solution de refroidissement encore plus efficace. Cette méthode garantit non seulement que tous les composants restent froids, mais minimise également l'usure mécanique, ce qui prolonge la durée de vie du matériel et réduit considérablement le bruit des équipements de déplacement d'air.
Défis de consommation d’énergie dans le matériel d’IA
À mesure que les systèmes d’IA évoluent, leur consommation d’énergie présente un défi croissant. Matériel d'IA, tel que leGPU Nvidia H100et leArchitecture de Blackwell, sont connus pour être gourmands en énergie, avec des besoins en énergie pouvant atteindre 1 200 W par puce. Un cluster d'IA typique contenant 22 000 GPU H100, par exemple, peut nécessiter jusqu'à31 mégawatts d'électricité-équivalent à la consommation électrique d'une petite ville.
Cette demande massive d’énergie augmente non seulement les coûts opérationnels des centres de données, mais contribue également à des impacts environnementaux importants. Pour relever ces défis, les centres de données doivent se concentrer à la fois sur la réduction de la consommation d’énergie et sur l’amélioration de l’efficacité du refroidissement.
Architecture Blackwell de Nvidia et refroidissement direct de la puce par eau chaude
AuConférence Hotchip 2024, Nvidia a dévoilé sa solution d'intégration du refroidissement liquide à son architecture Blackwell, utilisantTechnologie de refroidissement Direct to Chip à eau chaude. Cette approche utilise de l'eau chaude (par opposition à de l'eau réfrigérée) pour absorber et transférer la chaleur directement de la puce. En utilisant le refroidissement par eau chaude, Nvidia peut réduire la consommation d'énergie de refroidissement des centres de données jusqu'à 28 %.
L'efficacité de cette solution est double : elle réduit non seulement la consommation électrique globale pour le refroidissement, mais permet également de récupérer la chaleur perdue, qui peut être réutilisée pour d'autres usages, comme le chauffage des bâtiments voisins. De plus, le refroidissement à l'eau chaude prolonge la durée de vie opérationnelle des serveurs en maintenant les puces dans des plages de température optimales, en évitant la surchauffe et en réduisant l'usure.

▲ Solution de refroidissement directe à l'eau chaude pour les copeaux
Cette technique de refroidissement est particulièrement importante à mesure que les applications d'IA telles que GenAI et LLM continuent d'augmenter la puissance de calcul requise dans les centres de données. La capacité à maintenir des températures optimales a un impact direct sur les performances et l’évolutivité des charges de travail d’IA, garantissant que ces systèmes peuvent gérer les demandes intensives qui leur sont imposées.
Refroidissement liquide par immersion : un pas au-delà
En plus du refroidissement liquide direct,Refroidissement liquide par immersiongagne également du terrain en tant que solution de niveau supérieur pour les systèmes d’IA à grande échelle. Cette méthode immerge des serveurs entiers dans un liquide diélectrique non conducteur, qui absorbe et dissipe entièrement la chaleur de tous les composants. En refroidissant l'ensemble du système de cette manière, le refroidissement liquide par immersion offre les avantages suivants :
- Efficacité de refroidissement améliorée: En entourant tous les composants avec du liquide de refroidissement, cette méthode permet une évacuation uniforme et efficace de la chaleur.
- Coûts de maintenance réduits: Sans pièces mobiles comme les ventilateurs, il y a moins d'usure mécanique, ce qui réduit les coûts de maintenance et prolonge la durée de vie de l'équipement.
- Efficacité énergétique améliorée: Le refroidissement par immersion peut réduire considérablement la consommation d'énergie, car il élimine le besoin de systèmes de climatisation et d'autres composants de refroidissement actifs.

▲Système de refroidissement par liquide par immersion
De plus,Refroidissement liquide par immersionest hautement évolutif, ce qui le rend idéal pour les centres de données gérant des charges de travail d'IA qui génèrent des quantités importantes de chaleur, telles que celles alimentées par l'architecture Blackwell de Nvidia. Alors que les modèles d'IA de plus grande taille deviennent de plus en plus répandus, le refroidissement par immersion peut devenir une solution incontournable pour les centres de données cherchant à faire évoluer leurs opérations tout en minimisant les coûts énergétiques et l'impact environnemental.
L'investissement de la Silicon Valley dans les technologies de refroidissement
La demande croissante de solutions de refroidissement plus efficaces dans les centres de données IA a attiré l'attention des sociétés de capital-risque, en particulier dansLa Silicon Valley. Ces entreprises investissent activement dans des startups spécialisées dansrefroidissement liquidetechnologies, reconnaissant que les innovations dans ce domaine sont essentielles pour l’avenir du matériel d’IA.
Des startups en développementsolutions de refroidissement avancéesnon seulement ils apportent des avantages immédiats aux systèmes d’IA de la génération actuelle, mais ils jettent également les bases de la prochaine vague de matériel d’IA, qui exigera probablement des méthodes de refroidissement encore plus sophistiquées. Ces technologies doivent répondre à la fois aux besoins énergétiques élevés et aux défis thermiques des systèmes d'IA, ce qui en fait un investissement attrayant pour ceux qui cherchent à repousser les limites de ce qui est possible en matière de calcul haute performance.

▲Tendances d’investissement dans les centres de données IA
Conclusion
À mesure que le matériel d’IA continue d’évoluer, la demande de technologies de refroidissement innovantes augmente. de NvidiaArchitecture de Blackwellest à l'avant-garde de ce changement, en utilisanteau chaude Directement sur la pucerefroidissement pour augmenter l’efficacité et réduire les coûts opérationnels.Refroidissement liquide, que ce soit par contact direct ou par immersion, s'avère être le moyen le plus efficace de gérer la consommation électrique massive et la production de chaleur des systèmes d'IA modernes.
Les sociétés de capital-risque en prennent note et beaucoup investissent dans des startups capables de proposer des solutions de refroidissement de nouvelle génération. À mesure que les centres de données d’IA deviennent plus grands et plus complexes, l’importance des systèmes de refroidissement efficaces et évolutifs ne fera qu’augmenter, faisant du refroidissement liquide la pierre angulaire de la future infrastructure informatique haute performance.
