{"id":90935,"date":"2024-03-19T04:12:00","date_gmt":"2024-03-19T07:12:00","guid":{"rendered":""},"modified":"2024-03-19T04:12:00","modified_gmt":"2024-03-19T07:12:00","slug":"a-supermicro-lanca-tres-superclusters-de-pilha-completa-de-ia-generativa-baseados-em-nvidia-prontos-para-implantar-que-podem-ser-escalados-de-infraestruturas-empresariais-a-grandes-infraestruturas-l-2","status":"publish","type":"post","link":"https:\/\/bluestudio.estadao.com.br\/agencia-de-comunicacao\/prnewswire\/prnewsbrasil\/a-supermicro-lanca-tres-superclusters-de-pilha-completa-de-ia-generativa-baseados-em-nvidia-prontos-para-implantar-que-podem-ser-escalados-de-infraestruturas-empresariais-a-grandes-infraestruturas-l-2\/","title":{"rendered":"A Supermicro lan\u00e7a tr\u00eas SuperClusters de pilha completa de IA generativa baseados em NVIDIA, prontos para implantar, que podem ser escalados de infraestruturas empresariais a grandes infraestruturas LLM"},"content":{"rendered":"

PR NEWSWIRE<\/b><\/p>\n

\n

Os SuperClusters\u00a0de pilha completa incluem configura\u00e7\u00f5es de rack de treinamento e infer\u00eancia em escala de nuvem resfriado a ar e a l\u00edquido, com as mais recentes GPUs NVIDIA Tensor Core, rede e software NVIDIA AI Enterprise<\/i><\/p>\n

SAN JOSE, Calif\u00f3rnia<\/span>, 19 de mar\u00e7o de 2024\u00a0<\/span> \/PRNewswire\/ — A Supermicro, Inc. (NASDAQ: SMCI)<\/b>, fornecedora de solu\u00e7\u00f5es totais de TI para IA, nuvem, armazenamento e 5G\/Edge, est\u00e1 anunciando seu mais recente portf\u00f3lio para acelerar a implementa\u00e7\u00e3o de IA generativa. As solu\u00e7\u00f5es de SuperCluster da Supermicro fornecem blocos de constru\u00e7\u00e3o fundamentais para o presente e o futuro da infraestrutura de modelo de linguagem grande (LLM).<\/p>\n

\"<\/div>\n

As tr\u00eas poderosas solu\u00e7\u00f5es de SuperCluster da Supermicro j\u00e1 est\u00e3o dispon\u00edveis para cargas de trabalho de IA generativa. Os sistemas resfriados a l\u00edquido de 4U ou os sistemas resfriados a ar de 8U foram criados e projetados especificamente para um desempenho de treinamento de LLM avan\u00e7ado, como tamb\u00e9m para infer\u00eancia de LLM de grande volume e tamanho de lote grande. Um terceiro SuperCluster, com sistemas Supermicro NVIDIA MGX™<\/sup>\u00a0resfriados a ar de 1U, \u00e9 otimizado para infer\u00eancia em escala de nuvem.<\/p>\n

“Na era da IA, a unidade de computa\u00e7\u00e3o agora \u00e9 medida por clusters, n\u00e3o apenas pelo n\u00famero de servidores, e com nossa capacidade de fabrica\u00e7\u00e3o global expandida de 5.000 racks\/m\u00eas, podemos fornecer clusters completos de IA generativa para nossos clientes mais r\u00e1pido do que nunca”, disse Charles\u00a0Liang, presidente e CEO da Supermicro. “Um cluster de 64 n\u00f3s permite 512 GPUs\u00a0NVIDIA HGX H200 com 72 TB de HBM3e por meio de alguns de nossos blocos de constru\u00e7\u00e3o de cluster escal\u00e1veis com rede NVIDIA Quantum-2 InfiniBand de 400 Gb\/s e Spectrum-X Ethernet. As solu\u00e7\u00f5es SuperCluster da Supermicro combinadas com o software NVIDIA AI Enterprise s\u00e3o ideais para infraestruturas corporativas e de nuvem para treinar os LLMs atuais com at\u00e9 trilh\u00f5es de par\u00e2metros. As GPUs, CPUs, mem\u00f3ria, armazenamento e rede interconectados, quando implantados em v\u00e1rios n\u00f3s em racks, constroem a base da IA atual. As solu\u00e7\u00f5es SuperCluster da Supermicro fornecem blocos de constru\u00e7\u00e3o fundamentais para IA generativa e LLMs em r\u00e1pida evolu\u00e7\u00e3o.”<\/p>\n

Para saber mais sobre os\u00a0SuperClusters de IA da Supermicro, acesse: www.supermicro.com\/ai-supercluster<\/a><\/p>\n

“As mais recentes tecnologias de GPU, CPU, rede e software da NVIDIA permitem que os fabricantes de sistemas acelerem uma s\u00e9rie de cargas de trabalho de IA de pr\u00f3xima gera\u00e7\u00e3o para mercados globais”, disse Kaustubh Sanghani<\/span>, vice-presidente de Gerenciamento de Produtos de GPU da NVIDIA. “Ao aproveitar a plataforma de computa\u00e7\u00e3o acelerada da NVIDIA com produtos baseados na arquitetura Blackwell, a Supermicro est\u00e1 fornecendo aos clientes os sistemas de servidor de ponta de que precisam e que podem ser facilmente implantados em data centers.”<\/p>\n

Os sistemas 4U NVIDIA HGX H100\/H200 8-GPU da Supermicro<\/a>\u00a0dobram a densidade do sistema 8U resfriado a ar usando resfriamento a l\u00edquido, reduzindo o consumo de energia e diminuindo o TCO do data center. Esses sistemas foram projetados para suportar a pr\u00f3xima gera\u00e7\u00e3o de\u00a0GPUs baseadas na arquitetura NVIDIA Blackwell. A unidade de distribui\u00e7\u00e3o de resfriamento (CDU) e o coletor (CDM) da Supermicro s\u00e3o as principais art\u00e9rias para a distribui\u00e7\u00e3o de l\u00edquido resfriado para as placas frias personalizadas direct-to-chip (D2C) da Supermicro, mantendo as GPUs e CPUs na temperatura ideal, resultando em desempenho m\u00e1ximo. Essa tecnologia de resfriamento permite uma redu\u00e7\u00e3o de at\u00e9 40% nos custos de eletricidade para todo o data center e economiza espa\u00e7o no im\u00f3vel do data center. Saiba mais sobre a tecnologia de resfriamento a l\u00edquido da Supermicro: https:\/\/www.supermicro.com\/en\/solutions\/liquid-cooling<\/a><\/p>\n

Os\u00a0sistemas equipados com NVIDIA HGX H100\/H200 8-GPU s\u00e3o ideais para o treinamento de Al Generativa. As GPUs interconectadas de alta velocidade por meio do NVIDIA®<\/sup>\u00a0NVLink®<\/sup>, a alta capacidade e a largura de banda da mem\u00f3ria da GPU s\u00e3o essenciais para a execu\u00e7\u00e3o de modelos LLM de forma econ\u00f4mica. O SuperCluster da Supermicro cria um pool massivo de recursos de GPU atuando como um \u00fanico supercomputador de IA.<\/p>\n

Seja para ajustar um enorme modelo de base treinado em um\u00a0conjunto de dados com trilh\u00f5es de tokens a partir do zero ou para criar uma infraestrutura de infer\u00eancia LLM em escala de nuvem, a topologia de rede spine e leaf com estruturas de 400 Gb\/s sem bloqueio permite que ele seja dimensionado de 32 n\u00f3s para milhares de n\u00f3s sem problemas. Com resfriamento a l\u00edquido totalmente integrado, os processos de teste comprovados da Supermicro validam completamente a efic\u00e1cia e a efici\u00eancia operacional antes do envio.\u00a0<\/p>\n

Os projetos de sistema NVIDIA MGX™<\/sup>\u00a0da Supermicro com os superchips NVIDIA GH200 Grace Hopper<\/span> criar\u00e3o um modelo para futuros clusters de IA que abordam um gargalo crucial na IA generativa: a largura de banda da mem\u00f3ria da GPU e a capacidade de executar modelos de linguagem grande (LLM) com tamanhos de lote de infer\u00eancia altos para reduzir os custos operacionais. O cluster de 256 n\u00f3s permite uma pot\u00eancia de infer\u00eancia de alto volume em escala de nuvem, facilmente implement\u00e1vel e dimension\u00e1vel.<\/p>\n

SuperCluster com sistema resfriado a l\u00edquido 4U em 5 racks ou sistema de resfriamento a ar 8U em 9 racks<\/b><\/p>\n