AMD lanceert Instinct MI350 GPU's om generatieve AI-modellen te versnellen

De nieuwe GPU's van AMD voor AI-workloads

Tijdens het Advancing AI 2025-evenement introduceerde AMD de Instinct MI350-serie grafische processoren.

Deze nieuwe generatie, gebaseerd op de CDNA 4-architectuur en een 3-nanometer-procesknooppunt, bestaat uit de modellen MI350X en MI355X.

Beide modellen beschikken over 288 GB HBM3E-geheugen en een bandbreedte van 8 TB/s, waardoor modellen met maximaal 520 miljard parameters op één GPU kunnen worden verwerkt. De MI355X behaalt tot 20 PFLOP's met een FP4- en FP6-precisie, met een stroomverbruik tot 1400 W.

Vergeleken met het model MI300X levert de nieuwe serie tot 4 keer betere prestaties bij inferentietaken en tot 3,5 keer betere prestaties bij trainingsmodellen zoals Llama 3.1 en DeepSeek R1.

Dit wordt mogelijk gemaakt door verbeteringen in rekeneenheden, een grotere geheugenbandbreedte en nieuwe gegevenstypen zoals FP4, FP6 en FP8.

Architectuur geoptimaliseerd voor efficiëntie en schaalbaarheid

De MI350's zijn gebouwd met een chipletarchitectuur bestaande uit een 3nm compute die (XCD) en twee 6nm input/output dies (IOD), verbonden via hybride 3D-packagingtechnologie. Ze integreren ook de vierde generatie Infinity Fabric en 256 rekeneenheden.

Het ontwerp ondersteunt GPU-partitionering voor meerdere belastingen en is klaar om te draaien op infrastructuren met maximaal acht gelijktijdige instanties.