Probó con un procesador de 1997 y demostró que sólo 128 MB de RAM son suficientes para aprovechar el poder de la IA
No hay ninguna duda de que la Inteligencia Artificial es la tecnología más potente del momento, y tal y como nos habían contado, una de las más demandantes energéticamente hablando ya que para dotar a la IA con la potencia que necesita se requieren máquinas superpotentes.
Pero parece que esto es más bien un mito o por lo menos eso demuestra el experimento realizado por EXO Labs, una empresa fundada por Andrej Karpathy (una figura reconocida en el campo de la IA), en colaboración con investigadores de la Universidad de Oxford.
Esto es porque los investigadores lograron ejecutar un modelo moderno de IA en un ordenador de 1997, equipada con un procesador Pentium II y 128 MB de RAM. Este logro no solo cuestiona nuestras suposiciones sobre los requisitos de la IA, sino que también abre la puerta a una democratización tecnológica sin precedentes, es decir, no hacen falta equipos superpotentes para hacer funcionar esta tecnología.
A pesar de que a primera vista, este ordenador parece completamente inadecuado para las exigencias de la IA actual, esta máquina logró funcionar (mucho más lenta que un modelo de hoy en día), gracias al uso de BitNet, una revolucionaria arquitectura de red neuronal que simplifica los procesos que tiene que hacer la IA, lo que permite poder ejecutar esta tecnología en dispositivos más modestos o antiguos.
LLM running on Windows 98 PC 26 year old hardware with Intel Pentium II CPU and 128MB RAM.
Uses llama98.c, our custom pure C inference engine based on @karpathy llama2.c
Code and DIY guide ? pic.twitter.com/pktC8hhvva
Más allá de este logro informático, este experimento tiene un fin social, ya que uno de los mayores impedimentos de la adopción masiva de esta tecnología es su alto coste en términos de equipos costosos y alta demanda energética. Pero la solución de BitNet permite ejecutar modelos avanzados en hardware existente o de generaciones anteriores, el acceso a la IA podría extenderse mucho más allá de los laboratorios de investigación y las empresas tecnológicas, sobre todo en países en desarrollo donde los recursos informáticos modernos a veces son escasos y costosos.
Además, desde un punto de vista ecológico, reutilizar equipos antiguos para tareas avanzadas limitaría la producción de residuos electrónicos y reduciría la huella de carbono asociada con la fabricación de nuevos equipos.
eleconomista
