Hij testte het met een processor uit 1997 en toonde aan dat slechts 128 MB RAM voldoende is om de kracht van AI te benutten.


Er bestaat geen twijfel over dat kunstmatige intelligentie (AI) de krachtigste technologie is die er vandaag de dag beschikbaar is. En, zoals we hebben gehoord, ook een van de meest energie-intensieve technologieën. Om AI van de benodigde kracht te voorzien, zijn namelijk superkrachtige machines nodig.
Maar dat lijkt meer een mythe te zijn, of dat is in ieder geval wat blijkt uit het experiment dat werd uitgevoerd door EXO Labs, een bedrijf opgericht door Andrej Karpathy (een bekend figuur in de AI-wereld), in samenwerking met onderzoekers van de Universiteit van Oxford.
Dat komt doordat de onderzoekers er in slaagden een modern AI-model te draaien op een computer uit 1997, uitgerust met een Pentium II-processor en 128 MB RAM . Deze prestatie zet niet alleen onze aannames over de vereisten van AI op losse schroeven , maar opent ook de deur naar een ongekende technologische democratisering . Dit betekent dat er geen superkrachtige computers meer nodig zijn om deze technologie uit te voeren.
Ook al lijkt deze computer op het eerste gezicht totaal niet geschikt voor de eisen van de hedendaagse AI , toch presteert deze machine (veel langzamer dan een modern model) dankzij de toepassing van BitNet, een revolutionaire neurale netwerkarchitectuur die de processen van AI vereenvoudigt, waardoor deze technologie op kleinere of oudere apparaten kan draaien.
LLM draait op een Windows 98 PC van 26 jaar oud met Intel Pentium II CPU en 128 MB RAM.
Maakt gebruik van llama98.c, onze aangepaste pure C-inferentie-engine gebaseerd op @karpathy llama2.c
Code en doe-het-zelfgids? pic.twitter.com/pktC8hhvva
Naast deze prestatie op computergebied dient dit experiment ook een sociaal doel. De grootste obstakels voor brede acceptatie van deze technologie zijn namelijk de hoge kosten, in de vorm van dure apparatuur en het hoge energieverbruik. Maar de oplossing van BitNet maakt het mogelijk om geavanceerde modellen te draaien op bestaande of oudere hardware , waardoor de toegang tot AI mogelijk veel verder reikt dan alleen onderzoekslaboratoria en technologiebedrijven, met name in ontwikkelingslanden waar moderne computerbronnen soms schaars en duur zijn.
Vanuit ecologisch oogpunt zou het hergebruiken van oude apparatuur voor geavanceerde taken de productie van elektronisch afval beperken en de CO2-voetafdruk die gepaard gaat met de productie van nieuwe apparatuur verkleinen .
eleconomista