Qualcomm afirma que seus novos chips são 4,5 vezes mais rápidos em IA do que rivais
A Qualcomm acaba de anunciar dois novos processadores poderosos que se destacam em IA generativa, um para laptops e outro para telefones. À medida que as aplicações potenciais para a inteligência artificial continuam a expandir-se de texto para imagens, vídeo e muito mais, o processamento mais rápido no seu próprio dispositivo está a tornar-se mais importante.
O Snapdragon X Elite é o novo processador para laptop da Qualcomm, apresentando o melhor desempenho de CPU da categoria para laptops Windows e velocidade de GPU impressionante. Para telefones, o Snapdragon 8 Gen 3 supera a geração anterior com velocidade 30% maior e consome 20% menos energia da bateria.
As especificações de CPU e GPU são importantes, mas com seu último lançamento de chips, a Qualcomm enfatizou o poder de processamento de IA de seus chips mais recentes. Com esse desempenho aprimorado, a Qualcomm otimizou vários modelos generativos de IA para rodar localmente em laptops e telefones Snapdragon – e suas reivindicações contra Intel, AMD e Apple são impressionantes.
Então, quão rápido é na IA? Bem, de acordo com a Qualcomm, os novos chips Snapdragon X Elite fornecem 45 TOPS (trilhões de operações por segundo) em testes de benchmark INT4 AI e 30 tokens por segundo no modelo avançado Llama 2 AI da Meta . A Qualcomm diz que isso é 4,5 vezes mais rápido que os concorrentes. Alega-se que o Snapdragon 8 Gen 3 processa 20 tokens por segundo, fornece segmentação em tempo real para separar objetos em uma imagem para processamento avançado de fotos e executa difusão estável para geração de imagens em menos de um segundo.
O Snapdragon X Elite também é capaz de executar modelos de IA generativos de 13 bilhões de parâmetros no dispositivo. Para telefones, modelos de 10 bilhões de parâmetros podem rodar no Snapdragon 8 Gen 3. Durga Malladi, vice-presidente sênior e gerente geral de planejamento de tecnologia e soluções de ponta da Qualcomm, diz que o Snapdragon 8 Gen 3 é o primeiro a suportar multimodal (imagens , mensagens de texto e muito mais) em telefones.
Além do desempenho bruto, a Qualcomm afirma que sua IA no dispositivo ajuda a manter as consultas e os resultados seguros, garantindo a privacidade do usuário. Como suas selfies, fotos e vídeos pessoais, voz e texto são usados com os novos aplicativos de IA multimodais , sua biometria e dados pessoais estarão potencialmente em risco se você fizer upload para IA baseada em nuvem.
Embora a IA baseada na nuvem esteja enfrentando as dificuldades crescentes da rápida adoção, bem como as dificuldades para expandir com rapidez suficiente, o processamento local de IA pode oferecer menor latência, menor uso de energia e menor custo.
A Qualcomm explicou que tudo isso é possível devido à sinergia da tecnologia. Vários dos modelos de IA mais populares foram otimizados para processadores Snapdragon e fazem uso de CPU, GPU, NPU (processador neural) e hub de detecção trabalhando juntos para fornecer resultados significativamente mais rápidos do que a geração anterior. Os novos chips também suportam memória LPDDR5X super rápida para remover gargalos de processamento.
À medida que a demanda por IA aumenta, o Snapdragon X Elite da Qualcomm para laptops e o Snapdragon 8 Gen 3 para telefones estão prontos para tornar a geração de imagens mais rápida, o processamento de texto mais rápido e ambos mais seguros, permitindo o processamento no dispositivo. Será interessante ver o que os primeiros laptops e telefones lançados com os novos chips da Qualcomm podem fazer com esses recursos aprimorados.
