OpenAI ha spiegato come sta aggiornando Habitat, la piattaforma di storage online che sostiene una parte rilevante dell’infrastruttura dietro ChatGPT e altri servizi del gruppo. Il passaggio chiave è la migrazione da Python a Rust, scelta che ha già portato il nuovo sistema a gestire il 95% delle richieste di produzione con un netto salto di efficienza.
I numeri aiutano a capire la scala del progetto: Habitat supera i 70 milioni di richieste al secondo, serve oltre 1 miliardo di utenti ogni settimana e gestisce più di 500 PB di dati. In questo contesto, ridurre consumo di CPU, memoria e latenza non è solo un miglioramento tecnico, ma un passaggio necessario per sostenere la crescita della piattaforma.
Habitat è diventato un servizio centrale per l’infrastruttura OpenAI
Habitat era nato come libreria Python che dialogava con Azure Cosmos DB e permetteva ai team prodotto di leggere e scrivere dati senza dover gestire direttamente il database. Nel tempo si è evoluto in un sistema di storage distribuito capace di occuparsi di identificazione dei tipi di dato, instradamento delle richieste, autorizzazioni, cifratura, serializzazione e gestione del pool di connessioni.
Con l’aumento del numero di prodotti e del volume dei dati, il modello basato su libreria condivisa ha però mostrato limiti pratici. Ogni modifica richiedeva il coordinamento del deploy su decine di servizi, con maggiore complessità operativa e più rischio di errori. Per questo OpenAI ha trasformato Habitat in un servizio indipendente, così da centralizzare aggiornamenti, monitoraggio e funzioni di piattaforma.
Questa scelta porta anche vantaggi sul fronte della sicurezza. Un punto di controllo unico consente di applicare in modo più coerente policy di accesso, log di audit e permessi sulle risorse di storage, riducendo il rischio di accessi non autorizzati ai dati degli utenti da parte di componenti esterni, interni o intermediari software.
Perché OpenAI ha lasciato Python e quali risultati ha ottenuto con Rust
OpenAI aveva inizialmente scelto Python per privilegiare stabilità e velocità di sviluppo, ma nei carichi ad alta concorrenza sono emersi i classici limiti del linguaggio in termini di overhead CPU, consumo di memoria e latenza di rete, soprattutto nelle code più lente delle richieste.
Un intervento interessante ha riguardato anche il riuso delle connessioni. Il comportamento predefinito del client aiohttp seguiva una logica LIFO, ciòè ultimo entrato primo uscito, che poteva finire per concentrare il traffico sugli stessi processi più lenti. Passando a una logica FIFO, quindi primo entrato primo uscito, OpenAI ha migliorato la distribuzione del carico.
La svolta vera è arrivata nel secondo trimestre del 2026, quando Habitat è stato riscritto completamente in Rust da due ingegneri con il supporto di Codex e GPT-5.5. I dati condivisi parlano di efficienza CPU migliorata di 6 volte e di efficienza della memoria migliorata di 15 volte, insieme a una riduzione sia della latenza media sia di quella di coda.
Un’architettura più controllata anche per query e analisi dei dati
Habitat espone inoltre un’API NoSQL volutamente limitata, così da impedire ai client di eseguire query SQL non controllate, join complesse o scansioni estese dei dati. Per gli scenari che richiedono interrogazioni più sofisticate, OpenAI usa il rilevamento delle modifiche ai dati per sincronizzare in tempo reale o quasi reale le informazioni verso Rockset, piattaforma destinata ad analisi offline e ricerca.
Il quadro che emerge è quello di un’infrastruttura costruita per tenere insieme scala, affidabilità e controllo operativo. OpenAI ha già anticipato che tornerà sull’argomento con approfondimenti dedicati all’espansione del livello di storage su Azure Cosmos DB e all’ottimizzazione dell’affidabilità multi-tenant e delle prestazioni in lettura su volumi ormai molto elevati.
