AMD está tirando as luvas na corrida armamentista de IA
A AMD parece pronta para lutar. Em seu evento Advancing AI, a empresa finalmente lançou sua GPU Instinct MI300X AI, da qual ouvimos falar pela primeira vez há alguns meses. O desenvolvimento empolgante é o desempenho que a AMD afirma em comparação com o elefante verde da IA na sala: a Nvidia.
Especificação por especificação, a AMD afirma que o MI300X supera a GPU H100 AI da Nvidia em capacidade de memória e largura de banda de memória, e é capaz de 1,3 vezes o desempenho teórico do H100 em operações FP8 e FP16. A AMD mostrou isso com dois Large Language Models (LLMs) usando um kernel médio e grande. O MI300X apresentou uma melhoria entre 1,1x e 1,2x em comparação com o H100.
Em um momento que parece saído de uma conferência da Nvidia, a CEO da AMD, Lisa Su, apresentou a plataforma MI300X, que combina oito GPUs em uma única placa. A AMD afirma que essas placas oferecem o mesmo desempenho de treinamento que o H100 HGX da Nvidia e 1,6 vezes o desempenho de inferência. Além disso, a AMD diz que você pode executar dois LLMs por sistema, enquanto o H100 HGX só pode lidar com um.
Para ilustrar o quão importante isso é, a AMD trouxe o diretor de tecnologia da Microsoft, Kevin Scott, para falar sobre como a AMD e a Microsoft estão trabalhando juntas em IA. É importante destacar que o popular ChatGPT é executado em servidores Microsoft e foi originalmente treinado em milhares de GPUs Nvidia .
Além do MI300X, a AMD anunciou o MI300A, que é o primeiro APU para IA, segundo a AMD. Isso combina a arquitetura de GPU CDNA 3 AI da AMD com 24 núcleos de CPU Zen 4, junto com 128 GB de memória HBM3. A AMD afirma que este é um equilíbrio entre desempenho de IA e computação de alto desempenho, oferecendo aos data centers a capacidade de CPU que vimos recentemente no Threadripper 7000 .
Apesar de aderir ao movimento da IA com o resto do mundo da tecnologia, a AMD ficou em segundo plano em relação à Nvidia até este ponto. A Nvidia começou a investir muito em IA anos atrás, dando-lhe uma grande vantagem sobre a AMD e a Intel. Esse investimento inicial catapultou a Nvidia para se tornar uma empresa de um trilhão de dólares este ano.
Com um cluster de GPU posicionado para desafiar o H100 da Nvidia, bem como parcerias com Meta e Microsoft, a AMD está finalmente entrando no ringue. A AMD pode sair machucada e ensanguentada, mas ainda parece que a AMD está pronta para lutar.
