Musk promete entregar ‘a IA mais poderosa do mundo’ até o final deste ano
O CEO da Tesla e proprietário do Twitter/X, Elon Musk, anunciou na segunda-feira que suas startups de IA, xAI, começaram oficialmente a treinar seu supercomputador Memphis, o que ele descreve como “o cluster de treinamento de IA mais poderoso do mundo”.
Quando estiver totalmente operacional, Musk planeja usá-lo para construir “a IA mais poderosa do mundo em todas as métricas até dezembro deste ano”, que provavelmente será o Grok 3 .
Bom trabalho da equipe @xAI , equipe @X , @Nvidia e @Nvidia. O apoio às empresas que recebem o treinamento do Memphis Supercluster começou às 4h20, horário local.
Com 100 mil H100s refrigerados a líquido em uma única estrutura RDMA, é o cluster de treinamento de IA mais poderoso do mundo!
— Elon Musk (@elonmusk) 22 de julho de 2024
A “Gigafactory of Compute” da xAI, onde o supercomputador está alojado, está localizada em uma antiga unidade de produção da Electrolux em Memphis, Tennessee, e foi anunciada no mês passado. Segundo Musk, o cluster de treinamento utilizará 100.000 GPUs H100 da Nvidia. Eles são baseados na microarquitetura Hopper em uma rede aproximadamente quatro vezes maior que os clusters de última geração atuais . Isso inclui o Intel GPU Aurora de 60k no Argonne National Lab, o ~38k AMD GPU Frontier em Oak Ridge e o Eagle da Microsoft , que executa 14.400 GPUs NVIDIA H100.
A abertura deste centro de treinamento constitui o maior investimento de capital por uma empresa nova no mercado na história de Memphis, de acordo com o presidente e CEO da Câmara da Grande Memphis , Ted Townsend . O supercomputador será usado “primeiro para abastecer e financiar o espaço de IA para todas as suas empresas [de Musk], obviamente com a Tesla e a SpaceX”, disse ele. “Se você consegue imaginar o poder computacional necessário para colocar humanos na superfície de Marte, isso vai acontecer aqui em Memphis.”
No entanto, apesar do investimento multibilionário da xAI, espera-se que a instalação gere apenas algumas centenas de empregos locais. Além do mais, a “[Tennessee Valley Authority] não tem um contrato em vigor com a xAI”, de acordo com um relatório do WREG.
Eles “estão trabalhando com xAI e nossos parceiros em [Memphis Light, Gas and Water] nos detalhes da proposta e nas necessidades de demanda de eletricidade”. A TVA destacou ainda que qualquer projeto acima de 100 Megawatts (MW) precisa de aprovação para se conectar à rede elétrica do estado. A instalação de Musk poderia consumir até 150 MW durante o pico de uso, estima o presidente da MLGW, Doug McGowen.
