sexta-feira, 19 de abril de 2024
Campo Grande
29°C

Rádio SOUCG

Rodar a IA Copilot localmente exigirá NPUs de 40 TOPS, diz Intel

Daniel Trefilio

Rodar a IA Copilot localmente exigirá NPUs de 40 TOPS, diz Intel

Segundo Todd Lewellen, VP do Client Computing Group da Intel
, AI PCs
vão precisar de NPUs com desempenho de pelo menos 40 trilhões de operações por segundo (TOPS) para rodar o Windows Copilot
localmente. Essa é a primeira vez que alguma fabricante delimita uma métrica clara de desempenho para uma operação local de Inteligência Artificial.

Até o momento, todo o processamento do assistente de IA da Microsoft
é executado remotamente, cenário que ainda deve permanecer verdadeiro por algum tempo, uma vez que as NPUs atuais ficam bem abaixo desse requisito.

“Haverá uma evolução continuada, na qual vamos avançar para a próxima geração de AI PCs com o requisito mínimo de 40 TOPS na NPU. Nós temos nosso produto de próxima geração que se enquadra nessa categoria”, disse o executivo.


Baixe nosso aplicativo para iOS
e Android
e acompanhe em seu smartphone as principais notícias de tecnologia em tempo real.

AI PCs de próxima geração

Para fins de comparação, o desempenho total estimado dos novos processadores Meteor Lake
é de 34 TOPS, sendo que 18 são da GPU e apenas 11 são da NPU. No caso das APUs Hawk Point da AMD
, o cenário é um pouco melhor, com NPUs de 16 TOPS e desempenho total de 39 TOPS.

Por outro lado, as novas gerações estão relativamente próximas de executar tarefas mais robustas de inferência totalmente offline. A Intel afirmou que as APUs Lunar, previstas para o final de 2024, terão desempenho de IA três vezes superior ao dos chips Meteor Lake
, e vão contar com NPUs Intel de terceira geração.

Não está claro quanto desse desempenho será exclusivamente das NPUs, mas é seguro assumir que, mesmo que não entreguem sozinhas os 40 TOPS para um assistente de IA 100% local, em alguns meses já estaremos bem mais próximos dessa realidade.

Leia a matéria no Canaltech
.

Trending no Canaltech:

Fonte

Enquete

O que falta para o centro de Campo Grande ter mais movimento?

Últimas