Meta ha presentato Vistara, una soluzione proprietaria pensata per riutilizzare la memoria DDR4 recuperata da vecchi server all’interno di nuove macchine basate su DDR5. L’obiettivo e ridurre l’acquisto di nuovo hardware, aumentare la capacita di memoria disponibile e contenere costi e consumi in uno scenario in cui la memoria resta una risorsa critica.
Il sistema e gia in produzione su scala molto ampia e viene usato in diversi carichi di lavoro, dall’inferenza AI al caching distribuito. I numeri comunicati da Meta sono rilevanti: nei sistemi di inferenza machine learning disaggregata il fabbisogno di server puo calare fino al 25%.
Come funziona Vistara e perche Meta punta sul riuso della DDR4
L’idea alla base di Vistara e semplice: la vita utile prevista di un server e in genere di 3-5 anni, mentre i moduli di memoria possono continuare a essere usati per 7-10 anni. Meta estrae quindi i DIMM DDR4 dai server dismessi e li collega a nuove piattaforme che usano DDR5, creando un pool di memoria condivisa tramite una soluzione CXL sviluppata internamente.
Per farlo Meta ha progettato un ASIC proprietario compatibile con CXL 2.0 e 1.1, collegato tramite interfaccia PCIe Gen5 x16. In questo modo la DDR4 viene bridgeata verso il processore host, evitando i limiti di molte soluzioni CXL tradizionali, che spesso integrano DRAM e controller nello stesso pacchetto, non permettono il riuso dei DIMM e non supportano direttamente la DDR4.
- Riutilizzo di moduli DDR4 provenienti da server dismessi.
- Integrazione con nuove piattaforme che usano DDR5 come memoria locale.
- Uso di una soluzione CXL proprietaria per costruire memoria espansa e condivisa.
- Riduzione della necessita di acquistare nuova memoria in un contesto di disponibilita limitata e costi elevati.
Dall’hardware ai risultati: dove Vistara viene usato e quali vantaggi porta
Meta ha installato questa architettura in sistemi chiamati MemServer. Ogni unita adotta un processore AMD Turin con 158 core e 316 thread, usa memoria DDR5 locale e aggiunge 256 GB di DDR4 tramite il chip Vistara. La scheda CXL viene montata in uno slot dedicato nella parte posteriore del telaio, con raffreddamento mirato tramite ventole ad alta portata.
La piattaforma e gia stata portata in produzione su milioni di server nei data center Meta. Gli impieghi indicati includono inferenza machine learning disaggregata, big data, database, cache distribuite e sistemi di build CI/CD. Nei test riportati, l’inferenza AI e l’area dove il vantaggio infrastrutturale emerge con piu chiarezza, grazie alla possibilita di ridurre il numero complessivo di server necessari.
- Una singola unita MemServer combina DDR5 locale e 256 GB di DDR4 collegata via Vistara.
- Il sistema e gia distribuito su milioni di server in ambienti hyperscale.
- Nei carichi di inferenza machine learning disaggregata il numero di server richiesti puo diminuire fino al 25%.
- Nel caching distribuito la latenza media puo ridursi del 29%.
