Microsoft ha presentato Maia 300, il nuovo chip AI pensato per i carichi di inferenza più pesanti e per le infrastrutture di grandi dimensioni. Il dato che colpisce subito è la dotazione di memoria: 288 GB di HBM4 con una banda passante di 18 TB/s, una combinazione che punta chiaramente ai modelli che richiedono molta capacità e velocità di accesso.
La piattaforma sarà realizzata con processo TSMC N2P e rientra nella strategia di Microsoft per espandere l’hardware proprietario nei data center. Il debutto operativo è previsto nel 2027, con un posizionamento che mette al centro densità di calcolo, memoria molto ampia e scalabilità a livello rack e cluster.
Maia 300 punta su chiplet, HBM4 e calcolo FP4
Maia 300 adotta una progettazione multi-chiplet: la parte di calcolo principale usa il nodo TSMC N2P a 2 nm, affiancata da chip dedicati per memoria e I/O. Sul fronte delle prestazioni, Microsoft indica una potenza fino a 13,8 PFLOPS in FP4 e 6,9 PFLOPS in FP8, numeri che collocano il prodotto nella fascia alta degli acceleratori per intelligenza artificiale.
Il consumo dichiarato del SoC è di 950 W, superiore ai 750 W del precedente Maia 200. È un incremento importante, ma coerente con il salto di ambizione del nuovo modello: più memoria, più banda e una struttura pensata per sostenere carichi AI dove il collo di bottiglia non è solo il calcolo puro, ma anche la capacità di alimentare rapidamente il modello con grandi volumi di dati.
Memoria e interconnessione sono il vero punto chiave del nuovo acceleratore
Il pacchetto integra 8 stack HBM4 per una capacità complessiva di 288 GB e una banda di 18 TB/s. È una configurazione che rende Maia 300 particolarmente adatto all’inferenza AI ad alta richiesta di memoria, uno scenario sempre più centrale con modelli di grandi dimensioni e finestre di contesto estese.
Anche la connettività tra acceleratori è stata progettata per scenari su larga scala. La banda dell’interconnessione bidirezionale arriva a 3,2 TB/s e si appoggia a un’architettura di rete a due livelli basata su Ethernet. Sul piano dell’integrazione, un singolo rack può ospitare fino a 96 chip Maia 300, mentre la configurazione massima indicata arriva a cluster con 12.000 acceleratori.
