Axera ha presentato la nuova serie AX8860, una famiglia di chip AI ad alta potenza pensata come base di calcolo per portare i grandi modelli su edge e dispositivi locali.
Il chip integra una CPU Arm Cortex-A55 a 16 core e una NPU proprietaria, con una potenza di calcolo mista fino a 256 TOPS in precisione ibrida e supporto nativo FP4 senza sparse optimization.
AX8860 punta su memoria interconnessione e scalabilità
Sul piano tecnico, AX8860 può essere equipaggiato con fino a 128 GB di memoria LPDDR5X e raggiunge una banda di 273 GB/s su bus a 256 bit. Il chip è realizzato con processo produttivo a 6 nm e supporta interconnessione PCIe 5.0, elementi che lo posizionano in una fascia decisamente ambiziosa per l’esecuzione locale di modelli di grandi dimensioni.
Axera ha già previsto più fattori di forma. Si parte da un modulo dedicato con TDP da 40 W, si passa a una scheda PCIe single-slot con connettore Gen5x4 e ventola ausiliaria, fino ad arrivare a una soluzione a quattro chip su singolo slot, raffreddata da quattro ventole e grande dissipatore, alimentata tramite connettore standard 8-pin.
Prestazioni dichiarate sopra DGX Spark in alcuni scenari, con prezzo più aggressivo
Uno degli aspetti più interessanti riguarda il confronto diretto con NVIDIA DGX Spark. Sul modello Qwen 27B, Axera dichiara un vantaggio del 25% nella fase di prefill e del 30% nella decode, due metriche molto rilevanti quando si valuta la reattività reale di un sistema di inferenza. Va letto come un confronto limitato a scenari specifici, ma è comunque un segnale importante sul posizionamento del prodotto.
La scalabilità multi-chip è un altro tassello chiave. AX8860 supporta interfacce di rete da 256 Gbps: con due chip si arriva a 512 TOPS, mentre con quattro chip la soglia dichiarata sale a 1024 TOPS, con un’efficienza di espansione intorno all’80%. Insieme al chip, Axera ha presentato anche il modulo Yuanxi A256S, oltre a schede e server di inferenza della stessa famiglia.
Compatibilità software ampia e strategia orientata al valore
Dal lato software, AX8860 supporta framework diffusi come vLLM, SGLang e PyTorch, con compatibilità pronta all’uso per formati modello come ONNX e Hugging Face. È inoltre dichiarata la compatibilità con le API in stile OpenAI, affiancata da una toolchain completa per quantizzazione, conversione, compilazione, profiling e debug.
Sul prezzo non c’è ancora un listino completo, ma Sipeed indica che i sistemi completi basati su AX8860 costeranno circa la metà di DGX Spark. Come riferimento, il sistema NVIDIA parte da 4.999 dollari, ciòè circa 4.600 euro, nella versione da 64 GB, mentre il modello da 128 GB arriva a 6.950 dollari, circa 6.400 euro.
