Finalmente, um kit de desenvolvimento para projetar aplicativos de IA móveis no dispositivo está aqui: LEAP da Liquid AI

A Liquid AI, startup formada por ex-pesquisadores do Instituto de Tecnologia de Massachusetts (MIT) para desenvolver novas arquiteturas de modelos de IA além dos amplamente utilizados " Transformers ", anunciou hoje o lançamento do LEAP , também conhecido como "Liquid Edge AI Platform", um kit de desenvolvimento de software (SDK) multiplataforma projetado para facilitar aos desenvolvedores a integração de modelos de linguagem simples (SLMs) diretamente em aplicativos móveis.

Junto com o LEAP, a empresa também lançou o Apollo , um aplicativo iOS complementar para testar esses modelos localmente, promovendo a missão da Liquid AI de habilitar IA eficiente e preservadora de privacidade em hardware do consumidor.

O LEAP SDK chega em um momento em que muitos desenvolvedores buscam alternativas aos serviços de IA somente na nuvem devido a preocupações com latência, custo, privacidade e disponibilidade offline.

O LEAP aborda essas necessidades de frente com uma abordagem local que permite que pequenos modelos sejam executados diretamente no dispositivo , reduzindo a dependência da infraestrutura de nuvem.

O LEAP foi projetado para desenvolvedores que desejam construir com IA, mas podem não ter grande experiência em aprendizado de máquina.

De acordo com a Liquid AI, o SDK pode ser adicionado a um projeto iOS ou Android com apenas algumas linhas de código, e chamar um modelo local deve ser tão familiar quanto interagir com uma API de nuvem tradicional.

“Nossa pesquisa mostra que os desenvolvedores estão indo além da IA somente na nuvem e buscando parceiros confiáveis para ajudá-los a desenvolver no dispositivo”, disse Ramin Hasani, cofundador e CEO da Liquid AI, em uma publicação de blog anunciando a novidade hoje no site da Liquid . “O LEAP é a nossa resposta — uma plataforma de implantação flexível e ponta a ponta, construída do zero para tornar a IA de ponta, poderosa, eficiente e privada, verdadeiramente acessível.”

Uma vez integrados, os desenvolvedores podem selecionar um modelo da biblioteca de modelos LEAP integrada, que inclui modelos compactos de até 300 MB — leves o suficiente para telefones modernos com apenas 4 GB de RAM (!!) ou mais.

O SDK lida com inferência local, otimização de memória e compatibilidade de dispositivos, simplificando o processo típico de implantação de ponta.

O LEAP é independente de sistema operacional e modelo por natureza. No lançamento, ele oferece suporte para iOS e Android e oferece compatibilidade com os Liquid Foundation Models (LFMs) da Liquid AI, bem como com muitos modelos pequenos populares de código aberto.

Além da execução do modelo, o LEAP se posiciona como uma plataforma completa para descobrir, adaptar, testar e implantar SLMs para uso de ponta.

Os desenvolvedores podem navegar por um catálogo de modelos selecionados com várias opções de quantização e pontos de verificação, permitindo que eles adaptem o desempenho e o consumo de memória às restrições do dispositivo de destino.

A Liquid AI enfatiza que modelos grandes tendem a ser generalistas, enquanto modelos pequenos costumam ter melhor desempenho quando otimizados para um conjunto restrito de tarefas. O sistema unificado do LEAP é estruturado em torno desse princípio, oferecendo ferramentas para iteração e implantação rápidas em ambientes móveis do mundo real.

O SDK também vem com uma comunidade de desenvolvedores hospedada no Discord, onde a Liquid AI oferece horário de atendimento, suporte, eventos e competições para incentivar a experimentação e o feedback.

Para complementar o LEAP, a Liquid AI também lançou o Apollo , um aplicativo iOS gratuito que permite que desenvolvedores e usuários interajam com modelos compatíveis com o LEAP em um ambiente local e offline.

Originalmente como uma startup de aplicativo móvel separada que permitia aos usuários conversar com LLMs de forma privada no dispositivo , adquirida pela Liquid no início deste ano, a Apollo foi reconstruída para dar suporte a toda a biblioteca de modelos LEAP.

O Apollo foi projetado para experimentação com baixo atrito — os desenvolvedores podem "verificar a vibração" do tom, da latência ou do comportamento de saída de um modelo diretamente em seus celulares antes de integrá-lo a um aplicativo de produção. O aplicativo funciona totalmente offline, preservando a privacidade do usuário e reduzindo a dependência da computação em nuvem.

Seja usado como uma ferramenta de desenvolvimento leve ou um assistente privado de IA, o Apollo reflete o esforço mais amplo da Liquid AI para descentralizar o acesso e a execução da IA.

O lançamento do LEAP SDK se baseia no anúncio do LFM2 feito pela Liquid AI em 10 de julho , sua família de modelos de base de segunda geração projetada especificamente para cargas de trabalho em dispositivos.

Os modelos LFM2 vêm em tamanhos de parâmetros de 350M, 700M e 1,2B e são competitivos com modelos maiores em velocidade e precisão em diversas tarefas de avaliação.

Esses modelos formam a espinha dorsal da biblioteca de modelos LEAP e são otimizados para inferência rápida em CPUs, GPUs e NPUs.

Atualmente, o LEAP é gratuito para uso sob uma licença de desenvolvedor que inclui o SDK principal e a biblioteca de modelos.

A Liquid AI observa que os recursos empresariais premium serão disponibilizados sob uma licença comercial separada no futuro, mas que já está aceitando consultas de clientes empresariais por meio do formulário de contato do seu site.

Os modelos LFM2 também são gratuitos para uso acadêmico e comercial por empresas com receita inferior a US$ 10 milhões, sendo que organizações maiores precisam entrar em contato com a empresa para obter o licenciamento.

Os desenvolvedores podem começar visitando o site do LEAP SDK , baixando o Apollo na App Store ou ingressando na comunidade de desenvolvedores do Liquid AI no Discord.