Por fin, ya está aquí un kit de desarrollo para diseñar aplicaciones de IA móviles en el dispositivo: LEAP de Liquid AI

Liquid AI, la startup formada por ex investigadores del Instituto Tecnológico de Massachusetts (MIT) para desarrollar nuevas arquitecturas de modelos de IA más allá de los ampliamente utilizados " Transformers ", anunció hoy el lanzamiento de LEAP , también conocido como "Liquid Edge AI Platform", un kit de desarrollo de software (SDK) multiplataforma diseñado para facilitar a los desarrolladores la integración de modelos de lenguaje pequeños (SLM) directamente en aplicaciones móviles.

Junto con LEAP, la empresa también presentó Apollo , una aplicación complementaria de iOS para probar estos modelos localmente, lo que promueve la misión de Liquid AI de permitir una IA eficiente y que preserve la privacidad en el hardware del consumidor.

El SDK LEAP llega en un momento en el que muchos desarrolladores buscan alternativas a los servicios de IA exclusivos de la nube debido a preocupaciones sobre la latencia, el costo, la privacidad y la disponibilidad sin conexión.

LEAP aborda esas necesidades directamente con un enfoque local que permite que modelos pequeños se ejecuten directamente en el dispositivo , lo que reduce la dependencia de la infraestructura de la nube.

LEAP está diseñado para desarrolladores que desean construir con IA pero quizás no tengan una gran experiencia en aprendizaje automático.

Según Liquid AI, el SDK se puede agregar a un proyecto de iOS o Android con solo unas pocas líneas de código, y llamar a un modelo local está pensado para que resulte tan familiar como interactuar con una API de nube tradicional.

“Nuestra investigación muestra que los desarrolladores están yendo más allá de la IA exclusiva en la nube y buscan socios de confianza que les ayuden a desarrollar en sus dispositivos”, declaró Ramin Hasani, cofundador y director ejecutivo de Liquid AI, en una entrada de blog que anuncia la noticia hoy en el sitio web de Liquid . “LEAP es nuestra respuesta: una plataforma de implementación flexible e integral, diseñada desde cero para que la IA perimetral, potente, eficiente y privada sea realmente accesible”.

Una vez integrado, los desarrolladores pueden seleccionar un modelo de la biblioteca de modelos LEAP incorporada, que incluye modelos compactos de tan solo 300 MB, lo suficientemente livianos para teléfonos modernos con tan solo 4 GB de RAM (!!) y más.

El SDK maneja la inferencia local, la optimización de la memoria y la compatibilidad de dispositivos, simplificando el proceso típico de implementación de borde.

LEAP es independiente del sistema operativo y del modelo por diseño. En su lanzamiento, es compatible con iOS y Android, y ofrece compatibilidad con los Modelos de Cimentación Líquida (LFM) de Liquid AI, así como con muchos modelos pequeños populares de código abierto.

Más allá de la ejecución del modelo, LEAP se posiciona como una plataforma todo en uno para descubrir, adaptar, probar e implementar SLM para uso en el borde.

Los desarrolladores pueden explorar un catálogo de modelos seleccionados con varias opciones de cuantificación y puntos de control, lo que les permite adaptar el rendimiento y el uso de memoria a las limitaciones del dispositivo de destino.

La IA líquida enfatiza que los modelos grandes tienden a ser generalistas, mientras que los modelos pequeños suelen funcionar mejor cuando se optimizan para un conjunto reducido de tareas. El sistema unificado de LEAP se estructura en torno a este principio, ofreciendo herramientas para una rápida iteración e implementación en entornos móviles reales.

El SDK también viene con una comunidad de desarrolladores alojada en Discord, donde Liquid AI ofrece horas de oficina, soporte, eventos y competencias para fomentar la experimentación y la retroalimentación.

Para complementar LEAP, Liquid AI también lanzó Apollo , una aplicación gratuita para iOS que permite a los desarrolladores y usuarios interactuar con modelos compatibles con LEAP en un entorno local y fuera de línea.

Apollo, que originalmente era una aplicación móvil independiente que permitía a los usuarios chatear con LLM de forma privada en sus dispositivos (que Liquid adquirió a principios de este año), ha sido reconstruido para soportar toda la biblioteca de modelos LEAP.

Apollo está diseñado para una experimentación fluida: los desarrolladores pueden comprobar la vibración, la latencia o el comportamiento de salida de un modelo directamente en sus teléfonos antes de integrarlo en una aplicación de producción. La aplicación funciona completamente sin conexión, lo que preserva la privacidad del usuario y reduce la dependencia de la computación en la nube.

Ya sea que se utilice como una herramienta de desarrollo liviana o un asistente de IA privado, Apollo refleja el impulso más amplio de Liquid AI para descentralizar el acceso y la ejecución de la IA.

El lanzamiento del SDK de LEAP se basa en el anuncio del 10 de julio de LFM2 por parte de Liquid AI , su familia de modelos básicos de segunda generación diseñada específicamente para cargas de trabajo en el dispositivo.

Los modelos LFM2 vienen en tamaños de parámetros de 350M, 700M y 1.2B, y compiten con modelos más grandes en velocidad y precisión en varias tareas de evaluación.

Estos modelos forman la columna vertebral de la biblioteca de modelos LEAP y están optimizados para una inferencia rápida en CPU, GPU y NPU.

Actualmente, LEAP se puede utilizar de forma gratuita bajo una licencia de desarrollador que incluye el SDK principal y la biblioteca de modelos.

Liquid AI señala que las funciones empresariales premium estarán disponibles bajo una licencia comercial separada en el futuro, pero que ya está recibiendo consultas de clientes empresariales a través del formulario de contacto de su sitio web.

Los modelos LFM2 también son gratuitos para uso académico y comercial por parte de empresas con ingresos inferiores a 10 millones de dólares; las organizaciones más grandes deben comunicarse con la empresa para obtener la licencia.

Los desarrolladores pueden comenzar visitando el sitio web LEAP SDK , descargando Apollo de la App Store o uniéndose a la comunidad de desarrolladores de Liquid AI en Discord.