OpenAI ha aggiornato le difese contro la cosiddetta distillazione avversaria, una tecnica usata per estrarre capacità da modelli avanzati e trasferirle ad altri sistemi meno protetti.
Nei test di sicurezza condotti in modalità black box, il tasso di successo nell’estrazione dei contenuti di ragionamento è crollato in modo netto. Per le richieste precedenti si passa dal 54,0% allo 0,2%, mentre per le richieste correnti il valore scende dal 22,9% allo 0,9%.

OpenAI riduce drasticamente l’estrazione della catena di pensiero
La distillazione avversaria consiste nell’usare senza autorizzazione gli output di un modello di frontiera per addestrarne un altro con capacità simili, ma senza lo stesso livello di salvaguardie. Il problema non è solo commerciale: OpenAI collega questo rischio anche al trasferimento di competenze sensibili in aree come cybersicurezza e biologia verso modelli con limiti di sicurezza più deboli.
Per misurare la tenuta del sistema, l’azienda ha eseguito test adattivi con sei modelli di attacco, simulando tentativi di recupero di contenuti di ragionamento protetti sia da richieste passate sia dalla conversazione in corso. Il salto rispetto alle difese precedenti è molto ampio e suggerisce che le nuove contromisure non agiscano su un singolo punto, ma su più livelli della pipeline di inferenza e controllo.
Le nuove difese uniscono addestramento, classificatori e vincoli API
La protezione introdotta da OpenAI combina più strumenti. Da un lato c’è l’addestramento avversario, che serve a far riconoscere al modello le richieste mirate all’estrazione del ragionamento e a rifiutarle. Dall’altro entrano in gioco classificatori in input e output, pensati per individuare sia i tentativi di attacco sia eventuali fughe di contenuti sensibili.
Un altro passaggio tecnico rilevante riguarda l’API. GPT-6.2 Astra e GPT-6.2 Sol associano i contenuti di ragionamento protetti alla cronologia che li ha generati: se un messaggio precedente viene modificato, il sistema scarta il ragionamento derivato da quel contesto.
Controlli più severi anche sugli account e sul riuso non autorizzato
OpenAI afferma di intervenire ogni settimana contro account coinvolti in attività di distillazione non autorizzata, con volumi che vanno da migliaia a decine di migliaia di profili bloccati. Dall’estate l’attività di enforcement sarebbe aumentata sensibilmente, con indagini dedicate anche a reti coordinate di estrazione su larga scala.
L’azienda condivide inoltre indicatori di attacco con altri fornitori di modelli per facilitare il rilevamento degli abusi. Sul piano della ricerca interna, OpenAI segnala che i modelli studente supervisionati con la traccia completa del ragionamento del modello docente tendono a trasferire meglio capacità avanzate, in particolare sul fronte cyber, rispetto all’addestramento basato solo su risposta finale.



