Os laptops estão comprometendo a IA e não temos nada para mostrar

Os melhores laptops e marcas de laptop apostam na IA. Mesmo em comparação com o ano anterior, a lista dos melhores laptops está infestada de NPUs e uma nova era de processadores, que prometem integrar a IA em todos os aspectos de nossa vida cotidiana. Mesmo depois de alguns anos nesta revolução da IA, não há muito o que mostrar.

Agora temos os tão esperados chips Snapdragon X Elite da Qualcomm em laptops Copilot + , e a AMD jogou seu chapéu no ringue com os chips Ryzen AI 300 . Eventualmente, também teremos CPUs Intel Lunar Lake . Quanto mais vemos esses processadores, porém, fica claro que eles não foram construídos para um futuro de IA, e sim para as necessidades de hoje – e muitas vezes não é possível ter as duas coisas.

Tudo se resume ao espaço

Um aspecto importante do design de chips sobre o qual não se fala o suficiente é o espaço. Se você navegar em fóruns de hardware e sites voltados para entusiastas, já saberá como o espaço é importante.

Mas para todos os outros, não é algo em que você normalmente pensa. Empresas como AMD e Intel poderiam fabricar chips enormes com uma tonelada de potência computacional – e uma tonelada de energia e demandas térmicas, mas isso é uma conversa diferente – mas não o fazem. Grande parte da arte do design de chips se resume à quantidade de energia que você pode colocar em um determinado espaço.

É importante entender isso porque adicionar hardware a um chip não é gratuito – significa tirar espaço de outra coisa. Por exemplo, você pode ver uma imagem anotada de uma CPU Ryzen AI 300 abaixo. E no canto superior direito você pode ver quanto espaço o NPU XDNA está ocupando. É o menor dos três processadores do chip – especulações apontam para cerca de 14 mm ² – mas ainda ocupa muito espaço. A AMD poderia usar esse espaço para mais núcleos ou, mais provavelmente, cache L3 Infinity adicional para a GPU.

Anotado!

Engraçado como as unidades escalares RDNA WGP continuam sendo movidas, agora de volta ao layout RDNA1.

A SRAM em torno do IMC também está presente no PHX2 (e presumivelmente no PHX1), mas aparentemente não no IOD de desktop ou em CPUs/APUs mais antigas.

No geral… limpo, sem grandes surpresas. https://t.co/cf6MZVMgT2 pic.twitter.com/MfPqQRDGcY

— Nemez (@GPUsAreMagic) 29 de julho de 2024

Isso não é para destacar a AMD ou dizer que as CPUs Ryzen AI 300 têm desempenho ruim. Isso não acontece, como você pode ler em nossa análise do Asus Zenbook S 16 . AMD, Intel e Qualcomm estão constantemente fazendo concessões no design para encaixar tudo o que precisam no chip, e não é tão simples quanto apenas colocar mais cache e encerrar o dia. Puxar uma alavanca move inúmeros outros valores, e todos eles precisam ser equilibrados.

Mas é uma boa demonstração de que adicionar um NPU a um chip não é algo que os designers possam fazer sem fazer concessões em outros lugares. No momento, essas NPUs também são praticamente inúteis. Mesmo os aplicativos acelerados pela IA preferem aproveitar a potência da GPU integrada e, se você tiver uma GPU discreta, ela será muito mais rápida do que o NPU. Existem alguns casos de uso para um NPU, mas para a grande maioria das pessoas, o NPU realmente funciona apenas para fornecer (um pouco) melhor desfoque de fundo .

Ryzen AI 300 é o único exemplo que temos agora, mas os próximos chips Lunar Lake da Intel também serão pegos em uma situação semelhante. Tanto a AMD quanto a Intel estão buscando o selo de aprovação da Microsoft em PCs Copilot+ e, portanto, estão incluindo NPUs que podem atingir um certo nível de potência para satisfazer os requisitos aparentemente arbitrários da Microsoft. A AMD e a Intel já incluíam coprocessadores de IA em seus chips antes do Copilot+ – mas esses coprocessadores são basicamente inúteis agora que temos requisitos novos e muito mais elevados.

É impossível dizer se a AMD e a Intel projetariam seus processadores de forma diferente se não fosse pelo impulso do Copilot+. No momento, porém, temos um pedaço de silício que não tem muita utilidade no Ryzen AI 300 e, eventualmente, no Lago Lunar. Isso remete ao esforço da Intel com o Meteor Lake , que se tornou praticamente obsoleto diante dos requisitos do Copilot +.

Recursos de IA prometidos

Como a AMD e a Intel prometeram, elas eventualmente serão trazidas para o grupo Copilot +. No momento, apenas os chips Snapdragon X Elite da Qualcomm possuem o selo de aprovação da Microsoft, mas a AMD, pelo menos, afirma que seu chip poderá acessar os recursos do Copilot+ antes do final do ano. Esse é o outro problema – na verdade, não temos nenhum recurso do Copilot +.

A estrela do programa desde que a Microsoft anunciou o Copilot + tem sido Recall , e não houve uma única pessoa fora da imprensa que tenha conseguido usá-lo. A Microsoft atrasou , restringiu o Windows Insiders e, quando os PCs Copilot+ estavam prontos para lançamento, adiou indefinidamente . AMD e Intel podem ser incluídas no Copilot + antes do final do ano, mas isso não significa muito se não tivermos mais recursos locais de IA.

Estamos vendo algumas consequências da influência da Microsoft na indústria de PCs em ação. Temos uma série de novos chips da Qualcomm e da AMD, e em breve da Intel, todos com um pedaço de silício que não está fazendo muita coisa. Parece apressado, semelhante ao que vimos com o Bing Chat , e me pergunto se a Microsoft está realmente tão comprometida com esta plataforma quanto diz. Isso não importa o fato de que o que impulsiona as vendas de PCs Copilot + não são os recursos de IA, mas a melhor duração da bateria .

Nos próximos anos, estima-se que serão vendidos meio bilhão de laptops com capacidade de IA e que, até 2027, eles representarão mais da metade de todas as remessas de PCs . Está claro por que a Microsoft e a indústria de PCs em geral estão investindo tanto na IA. Mas quando se trata dos produtos que temos hoje, é difícil dizer que eles são tão essenciais quanto a Microsoft, a Intel, a AMD e a Qualcomm querem que você acredite.

Estabelecendo as bases

No entanto, ainda é importante analisar o porquê desta situação. Temos um problema clássico do ovo e da galinha com PCs de IA, e mesmo com a introdução do Copilot+ e o atraso do Recall, isso não mudou. Intel, AMD e Qualcomm estão tentando estabelecer as bases para aplicativos de IA que existirão no futuro, quando, esperançosamente, eles forem tão integrados na forma como usamos os PCs que nem sequer pensamos em ter um NPU. Não é uma ideia maluca – a Apple vem fazendo exatamente isso há anos, e o Apple Intelligence parece a progressão natural disso.

Porém, não é onde estamos agora, então, se você está investindo em um PC com IA, precisa se preparar para as consequências de ser um dos primeiros a adotá-lo. Não há muitos aplicativos que possam aproveitar seu NPU, a menos que você realmente pesquise, e mesmo em aplicativos com recursos de IA locais, eles preferem rodar em sua GPU. Isso sem mencionar algumas mudanças na meta que já vimos com o Copilot + e a onda inicial de NPUs da AMD e Intel.

Não tenho dúvidas de que chegaremos lá – simplesmente há muito dinheiro sendo investido na IA neste momento para que ela não se torne um pilar dos PCs. Ainda estou esperando para ver quando será realmente tão essencial quanto fomos levados a acreditar.