Visando os esforços no ramo da inteligência artificial, a Apple
lançou uma família de LLM (grande modelo de linguagem) de código aberto que recebeu o nome de OpenELM. A empresa de Cupertino destaca que durante os testes, a ferramenta ofereceu um desempenho parecido com outros modelos de linguagem aberta, porém, com uma quantidade menor de treinamento.

Apenas 1 bilhão de parâmetros

Segundo a Maçã, a OpenELM pode ser descrita como “uma família de modelos de linguagem eficientes de código aberto”. A Big Tech também explicou um pouco dos destaques da tecnologia
e apontou que se trata de “um modelo de linguagem aberta de última geração”.

“OpenELM usa uma estratégia de escalonamento em camadas para alocar parâmetros com eficiência dentro de cada camada do modelo do transformador, levando a maior precisão”, ressalta a Apple. “Por exemplo, com um orçamento de parâmetros de aproximadamente um bilhão, o OpenELM apresenta uma melhoria de 2,36% na precisão em comparação com o OLMo (do instituto de pesquisas Allen Institute for AI), ao mesmo tempo que requer 2x menos tokens de pré-treinamento”, finaliza.

–
CT no Flipboard
: você já pode assinar gratuitamente as revistas Canaltech no Flipboard do iOS e Android e acompanhar todas as notícias em seu agregador de notícias favorito.
–

Para efeito de comparação, o Phi 3 Mini da Microsoft
é considerado um modelo de IA de menor escala e trabalha com uma medida de 3,8 bilhões de parâmetros.

OpenELM trabalha com estrutura completa

Ainda sobre a família de grandes modelos de linguagem que a Apple lançou, a companhia afirmou que o OpenELM se “diferencia das práticas de projetos anteriores que fornecem apenas código de inferência e pré-treinamento em conjuntos de dados privados”.

“Nosso lançamento inclui a estrutura completa para treinamento e avaliação do modelo de linguagem em conjuntos de dados disponíveis publicamente, incluindo registros de treinamento, vários pontos de verificação e configurações de pré-treinamento”, destaca a Apple.

“Também lançamos código para converter modelos para a biblioteca MLX para inferência e ajuste fino em dispositivos Apple. Esta versão abrangente visa capacitar e fortalecer a comunidade de pesquisa aberta, abrindo caminho para futuros empreendimentos de pesquisa aberta”, concluiu a empresa de Cupertino.

WWDC pode apresentar iOS com IA própria

Mesmo ainda sem confirmação, o principal evento da Apple no ano deve ocorrer no mês de junho deste ano. O WWDC 24 pode trazer novidades de aparelhos, mas os burburinhos apontam que a Big Tech deve finalmente apresentar a sua própria inteligência artificial no iOS 18
. Se a família de LLM
OpenELM vai marcar presença na festa, apenas o tempo dirá.

Leia a matéria no Canaltech
.

Trending no Canaltech: