Apple starebbe valutando una nuova strada per spingere l’AI locale su iPhone: portare modelli più grandi direttamente sul dispositivo, senza dipendere in modo pesante dal cloud.
L’elemento più interessante è il test già completato con Qwen 3.6 da 27 miliardi di parametri, eseguito per intero su iPhone 17 Pro. Se i risultati venissero confermati su larga scala, Apple potrebbe ottenere un salto concreto nelle prestazioni di inferenza on-device, con vantaggi evidenti in velocità, efficienza energetica e privacy.
Apple studia PrismML per far girare modelli AI più grandi direttamente su iPhone
La valutazione in corso riguarda la possibilità di usare la tecnologia PrismML per eseguire modelli linguistici di dimensioni superiori direttamente su iPhone. L’obiettivo è chiaro: aumentare la capacità dell’AI locale senza richiedere hardware molto più potente o un ricorso costante all’elaborazione remota.
Per Apple è un tema strategico, perché l’esecuzione on-device resta una delle leve più importanti per differenziare l’esperienza utente. Un modello più grande che gira in locale può migliorare reattività, riservatezza dei dati e continuità d’uso anche in assenza di connessione stabile.
- PrismML è una startup derivata dal Caltech.
- La società lavora su una tecnologia di compressione nativa a 1 bit per i modelli AI.
- Apple starebbe esaminando questa soluzione per migliorare l’inferenza locale su iPhone.
La compressione a 1 bit di PrismML punta a ridurre memoria, consumi e tempi di risposta
Il cuore della proposta PrismML è una compressione che porta il modello a circa 1/14 delle dimensioni della versione a piena precisione, con un taglio dell’uso di memoria superiore al 90%. In pratica, il sistema usa pesi rappresentati solo con -1 e +1, affiancati da fattori di scala per gruppi, così da contenere il costo computazionale senza affidarsi ai metodi classici di quantizzazione.
Sul piano teorico, i vantaggi dichiarati sono molto forti: precisione vicina a quella dei modelli FP16, velocità di inferenza fino a 8 volte superiore e consumi ridotti del 75-80%. Sono numeri da leggere con prudenza, però spiegano bene perché Apple possa essere interessata a questa soluzione, soprattutto in uno scenario in cui l’AI generativa deve convivere con batteria, temperatura e limiti di memoria.
- Dimensioni del modello ridotte a circa un quattordicesimo rispetto alla versione full precision.
- Uso della memoria ridotto di oltre il 90%.
- Velocità di inferenza dichiarata fino a 8 volte superiore.
- Consumo energetico indicato in calo tra 75% e 80%.
Il test con Qwen 3.6 su iPhone 17 Pro mostra perché questa soluzione merita attenzione
Il fatto che PrismML abbia già alleggerito Qwen 3.6, un grande modello open source di Alibaba con 27 miliardi di parametri, e lo abbia eseguito integralmente su iPhone 17 Pro rende la notizia molto concreta. Non si parla quindi solo di teoria sulla compressione, ma di un caso d’uso che tocca direttamente la possibilità di portare AI più ambiziosa su uno smartphone.
Per chi segue il lato prodotto, il punto più importante è questo: Apple continua a cercare soluzioni per rafforzare l’intelligenza artificiale locale senza compromettere autonomia e fluidità. Se il lavoro con PrismML dovesse progredire, potrebbe tradursi in assistenti più capaci, funzioni offline più evolute e tempi di risposta migliori nelle future generazioni di iPhone.
- Qwen 3.6 è indicato con 27 miliardi di parametri.
- Il modello è stato riportato come eseguito completamente su iPhone 17 Pro.
- L’interesse di Apple sarebbe legato al miglioramento delle prestazioni di inferenza dei modelli locali.
