Finalmente è arrivato un kit di sviluppo per la progettazione di app di intelligenza artificiale per dispositivi mobili: LEAP di Liquid AI

Liquid AI, la startup fondata da ex ricercatori del Massachusetts Institute of Technology (MIT) per sviluppare nuove architetture di modelli di intelligenza artificiale che vadano oltre i diffusi " Transformers ", ha annunciato oggi il rilascio di LEAP , ovvero "Liquid Edge AI Platform", un kit di sviluppo software (SDK) multipiattaforma progettato per semplificare l'integrazione di modelli di linguaggio piccolo (SLM) direttamente nelle applicazioni mobili da parte degli sviluppatori.

Oltre a LEAP, l'azienda ha anche presentato Apollo , un'app iOS complementare per testare questi modelli in locale, promuovendo così la missione di Liquid AI di abilitare un'intelligenza artificiale efficiente e rispettosa della privacy su hardware consumer.

LEAP SDK arriva in un momento in cui molti sviluppatori sono alla ricerca di alternative ai servizi di intelligenza artificiale basati solo sul cloud, a causa di preoccupazioni relative a latenza, costi, privacy e disponibilità offline.

LEAP risponde direttamente a queste esigenze con un approccio local-first che consente l'esecuzione di piccoli modelli direttamente sul dispositivo , riducendo la dipendenza dall'infrastruttura cloud.

LEAP è progettato per gli sviluppatori che desiderano creare applicazioni con l'intelligenza artificiale, ma potrebbero non avere competenze approfondite nell'apprendimento automatico.

Secondo Liquid AI, l'SDK può essere aggiunto a un progetto iOS o Android con solo poche righe di codice e la chiamata a un modello locale dovrebbe risultare familiare quanto l'interazione con una tradizionale API cloud.

"La nostra ricerca dimostra che gli sviluppatori stanno andando oltre l'intelligenza artificiale basata esclusivamente sul cloud e sono alla ricerca di partner affidabili che li aiutino a sviluppare soluzioni su dispositivi", ha affermato Ramin Hasani, co-fondatore e CEO di Liquid AI, in un post sul blog che annunciava la notizia oggi sul sito web di Liquid . "LEAP è la nostra risposta: una piattaforma di distribuzione flessibile ed end-to-end, costruita da zero per rendere l'intelligenza artificiale edge potente, efficiente e privata realmente accessibile".

Una volta integrato, gli sviluppatori possono selezionare un modello dalla libreria di modelli LEAP integrata, che include modelli compatti da appena 300 MB, sufficientemente leggeri per i telefoni moderni con almeno 4 GB di RAM (!!) e oltre.

L'SDK gestisce l'inferenza locale, l'ottimizzazione della memoria e la compatibilità dei dispositivi, semplificando il tipico processo di distribuzione edge.

LEAP è progettato in modo indipendente dal sistema operativo e dal modello. Al momento del lancio, supporta sia iOS che Android e offre compatibilità con i Liquid Foundation Models (LFM) di Liquid AI, nonché con molti modelli open source di piccole dimensioni.

Oltre all'esecuzione del modello, LEAP si posiziona come una piattaforma completa per la scoperta, l'adattamento, il test e l'implementazione di SLM per l'uso edge.

Gli sviluppatori possono consultare un catalogo di modelli selezionati con varie opzioni di quantizzazione e checkpoint, che consentono loro di adattare le prestazioni e l'ingombro della memoria ai vincoli del dispositivo di destinazione.

L'intelligenza artificiale liquida sottolinea che i modelli di grandi dimensioni tendono ad essere generalisti, mentre i modelli di piccole dimensioni spesso offrono prestazioni migliori se ottimizzati per un insieme ristretto di attività. Il sistema unificato di LEAP è strutturato attorno a questo principio, offrendo strumenti per una rapida iterazione e implementazione in ambienti mobili reali.

L'SDK è inoltre dotato di una community di sviluppatori ospitata su Discord, dove Liquid AI offre orari di ufficio, supporto, eventi e concorsi per incoraggiare la sperimentazione e il feedback.

Per integrare LEAP, Liquid AI ha rilasciato anche Apollo , un'app iOS gratuita che consente a sviluppatori e utenti di interagire con modelli compatibili con LEAP in un ambiente locale e offline.

Originariamente un'app mobile separata che consentiva agli utenti di chattare privatamente con gli LLM sul dispositivo , acquisita da Liquid all'inizio di quest'anno, Apollo è stata riprogettata per supportare l'intera libreria di modelli LEAP.

Apollo è progettato per una sperimentazione a basso attrito: gli sviluppatori possono "controllare" il tono, la latenza o il comportamento dell'output di un modello direttamente sui loro telefoni prima di integrarlo in un'app di produzione. L'app funziona completamente offline, preservando la privacy degli utenti e riducendo la dipendenza dal cloud computing.

Sia che venga utilizzato come strumento di sviluppo leggero o come assistente AI privato, Apollo riflette l'impegno più ampio di Liquid AI nel decentralizzare l'accesso e l'esecuzione dell'AI.

Il rilascio dell'SDK LEAP si basa sull'annuncio del 10 luglio da parte di Liquid AI di LFM2 , la sua famiglia di modelli di base di seconda generazione progettata specificamente per carichi di lavoro su dispositivo.

I modelli LFM2 sono disponibili con dimensioni di parametri pari a 350M, 700M e 1,2B e si confrontano in modo competitivo con modelli più grandi in termini di velocità e precisione in diverse attività di valutazione.

Questi modelli costituiscono la struttura portante della libreria di modelli LEAP e sono ottimizzati per un'inferenza rapida su CPU, GPU e NPU.

Attualmente LEAP è gratuito e può essere utilizzato tramite una licenza per sviluppatori che include l'SDK principale e la libreria di modelli.

Liquid AI sottolinea che in futuro le funzionalità aziendali premium saranno rese disponibili con una licenza commerciale separata, ma che sta già accettando richieste da parte dei clienti aziendali tramite il modulo di contatto del suo sito web.

I modelli LFM2 sono gratuiti anche per uso accademico e commerciale da parte di aziende con un fatturato inferiore a 10 milioni di dollari; le organizzazioni più grandi sono tenute a contattare l'azienda per ottenere la licenza.

Gli sviluppatori possono iniziare visitando il sito web di LEAP SDK , scaricando Apollo dall'App Store o unendosi alla community di sviluppatori di Liquid AI su Discord.