Um dos grandes desafios de grandes clusters de IA é manter as GPUs trabalhando no máximo. Alguns podem pensar nas cargas de trabalho da IA como GPUs que elevam 100% por meses no EMS. Na realidade, os Uskoads da GPU são mais parecidos com SERK of Peak Laads, em vales. Essa é uma das razões pelas quais as redes de alta velocidade são tão importantes para a comunicação de GPU para GPU, porque os vales. Hoje, a Nvidia compartilhou algumas das coisas das coisas.
A NVIDIA começa a enfrentar a Power GPU com o NVIDI GB300 NVL72
A Nvidia mostrou isso como um treinamento de um ai que trabalha com a perspectiva de Loks Of Power. Como você pode ver, os são um período de trabalho pesado, seguidos por mais tempos ociosos.
Se você não sabe disso, quando seus números de seu abraço de abraço não passam por valores para Valle Valus Dand Valus no poder que está sendo usado. Até o resultado, se você tiver shashts que giram para alimentar, você é muito Stspond para os picos e vales da energia.
Ideal, você não deseja HIV para obter energia. Em vez disso, você deseja proteger algum tipo de capacitância no cluster de IA para continuar. O objetivo é se aproximar da potência audina e, em seguida, armazenar a acusação que os vales dos vales para Beid nos picos. Thrive são várias maneiras de ajudar até a carga. Um dos interessantes que Nvidian está fazendo Doctor agora é uma queima de GPU. Isso ajuda a equilibrar o Lood no sistema, mantendo as GPUs ativas. Isso é um pouco de loucura se pensar bem, mas em Seveal Hewe sem o problema do pico e do vale.
A NVIA também acrescentou coisas como mais capacitância nesses suprimentos. Isso ajuda a eventos da carga também. Para facilitar, ela é a Megatron LLM em execução nas saídas GB300 e GB300, onde você pode sei seint dc saídas, mas o conteúdo CA Arth Fltter.
Tudo isso é ajudar a suavizar o uso de energia.
Alas finais
O Feni meses atrás, apresentamos Liteon mostrado nvdia gb200 nmudia gb200 nmpas. Incluindo Barts para ajudar EVES das GPUs. Até mostramos grandes baterias de batalha usadas para ajudar isso nos data centers.
Ainda assim, é um desafiante huge para Hive Spi GPUS Spike Power Lim, especialmente com os maiores cliques. Como um reesustador, o WEP expuria a Morna Besties para matar os dados dos data centers e mais etapas para os grandes aglomerados de Helty. Foi legal que a Nvidia compartilhou esta etapa hoje.
Fique conectado