Durante sua participação na MWC 2024, além de estrear sua própria plataforma de modelos de IA, a Qualcomm
demonstrou pela primeira vez um Grande Modelo Multimodal (LMM) rodando de forma nativa em um computador equipado com processador Snapdragon. A gigante também aproveitou a oportunidade para destacar as capacidades do Snapdragon X Elite
, nova plataforma da empresa para PCs, que seria até três vezes superior ao recente Intel Core Ultra 7
em geração de imagens com IA.

Os LMMs são tidos como o próximo passo da evolução de IA generativa, por contar com a capacidade de receber, interpretar e responder comandos com múltiplos tipos de mídia, incluindo áudio, texto e imagens, o que dá a eles o nome de “multimodal” — o Gemini do Google
é um dos exemplos mais recentes e populares desse tipo de tecnologia
. Apesar de não serem novos, esses modelos de linguagem eram executados até então somente na nuvem, em virtude da maior capacidade de processamento que exigem.

Na demonstração feita pela Qualcomm, um laptop equipado com processador Snapdragon quebrou essa barreira ao executar localmente um LMM com mais de 7 bilhões de parâmetros. Segundo a marca, a máquina permitiu ao programa receber inputs de áudio e texto, e oferecer uma conversação intuitiva a uma taxa de tokens (usada para medir a velocidade com que um modelo é executado) “responsiva”, apesar do número preciso não ter sido divulgado.

–
Siga o Canaltech no Twitter
e seja o primeiro a saber tudo o que acontece no mundo da tecnologia.
–

A solução da Qualcomm não apenas garantiria um baixo consumo de energia, em virtude da execução na Unidade de Processamento Neural (NPU) com total otimização, como ainda ofereceria muito mais segurança, confiabilidade, personalização e até redução de custos, já que não precisa acessar servidores para executar os códigos. A gigante não detalhou quando veríamos soluções baseadas na execução local, mas o teste prova que a evolução está ocorrendo em ritmo acelerado.

Snapdragon X Elite supera Intel em IA

Paralelo a isso, a companhia também deu uma nova amostra do poder do Snapdragon X Elite, nova solução da marca destinada a PCs. O foco da vez foram as capacidade de Inteligência Artificial, em um comparativo com um notebook equipado com o Intel Core Ultra 7 155H
, solução rival da Intel
lançada há poucas semanas, e os resultados surpreendem pela grande diferença de desempenho.

Ambos os aparelhos foram colocados para executar o plugin do Stable Diffusion, modelo de linguagem
especializado na geração de imagens, no GIMP
, programa de código aberto similar ao Photoshop da Adobe
. Enquanto o Core Ultra 7 da Intel levou pouco mais de 22 segundos para concluir a tarefa, que usou 100% da capacidade da NPU dos dois processadores, o X Elite levou apenas 7 segundos — diferença gritante de mais de três vezes.

Observar as fichas técnicas já fornece uma boa explicação para o resultado: mesmo que represente um salto significativo de processamento de IA para a Intel, a NPU do Core Ultra 7 pode executar 10 TOPS (Trilhões de Operações por Segundo), enquanto a solução equivalente da Qualcomm atinge respeitáveis 45 TOPS. Os números sobem, respectivamente, para 34 TOPS e 78 TOPS quando há uso combinado da CPU
, GPU e NPU.

Prometendo “revolucionar” o mercado de PCs, o Snapdragon X Elite está previsto para estrear em meados de 2024, devendo entregar desempenho que supera AMD
, Intel e até mesmo a linha Apple
Silicon, incluindo o recente Apple M3
. A conquista seria obtida através dos núcleos personalizados Oryon, que também garantiriam altíssima eficiência energética. Apesar de ainda não conhecermos os laptops que apostarão na novidade, nomes de peso como Samsung
e Honor
confirmaram que utilizarão a plataforma.

Leia a matéria no Canaltech
.

Trending no Canaltech: