OpenAI rafforza la protezione di GPT-6.2 Astra e Sol contro la distillazione

OpenAI ha aggiornato le difese contro la cosiddetta distillazione avversaria, una tecnica usata per estrarre capacità da modelli avanzati e trasferirle ad altri sistemi meno protetti.

Nei test di sicurezza condotti in modalità black box, il tasso di successo nell’estrazione dei contenuti di ragionamento è crollato in modo netto. Per le richieste precedenti si passa dal 54,0% allo 0,2%, mentre per le richieste correnti il valore scende dal 22,9% allo 0,9%.

OpenAI 公布反蒸馏防护进展:GPT-6.2 Astra 思考链提取成功率从 54% 降至 0.2%

OpenAI riduce drasticamente l’estrazione della catena di pensiero

La distillazione avversaria consiste nell’usare senza autorizzazione gli output di un modello di frontiera per addestrarne un altro con capacità simili, ma senza lo stesso livello di salvaguardie. Il problema non è solo commerciale: OpenAI collega questo rischio anche al trasferimento di competenze sensibili in aree come cybersicurezza e biologia verso modelli con limiti di sicurezza più deboli.

Per misurare la tenuta del sistema, l’azienda ha eseguito test adattivi con sei modelli di attacco, simulando tentativi di recupero di contenuti di ragionamento protetti sia da richieste passate sia dalla conversazione in corso. Il salto rispetto alle difese precedenti è molto ampio e suggerisce che le nuove contromisure non agiscano su un singolo punto, ma su più livelli della pipeline di inferenza e controllo.

Le nuove difese uniscono addestramento, classificatori e vincoli API

La protezione introdotta da OpenAI combina più strumenti. Da un lato c’è l’addestramento avversario, che serve a far riconoscere al modello le richieste mirate all’estrazione del ragionamento e a rifiutarle. Dall’altro entrano in gioco classificatori in input e output, pensati per individuare sia i tentativi di attacco sia eventuali fughe di contenuti sensibili.

Un altro passaggio tecnico rilevante riguarda l’API. GPT-6.2 Astra e GPT-6.2 Sol associano i contenuti di ragionamento protetti alla cronologia che li ha generati: se un messaggio precedente viene modificato, il sistema scarta il ragionamento derivato da quel contesto.

Controlli più severi anche sugli account e sul riuso non autorizzato

OpenAI afferma di intervenire ogni settimana contro account coinvolti in attività di distillazione non autorizzata, con volumi che vanno da migliaia a decine di migliaia di profili bloccati. Dall’estate l’attività di enforcement sarebbe aumentata sensibilmente, con indagini dedicate anche a reti coordinate di estrazione su larga scala.

L’azienda condivide inoltre indicatori di attacco con altri fornitori di modelli per facilitare il rilevamento degli abusi. Sul piano della ricerca interna, OpenAI segnala che i modelli studente supervisionati con la traccia completa del ragionamento del modello docente tendono a trasferire meglio capacità avanzate, in particolare sul fronte cyber, rispetto all’addestramento basato solo su risposta finale.

Altre notizie da leggere

Condividi con i tuoi amici

Lascia una risposta

Il tuo indirizzo email non sarà pubblicato. I campi obbligatori sono contrassegnati *

Questo sito utilizza Akismet per ridurre lo spam. Scopri come vengono elaborati i dati derivati dai commenti.

Verified by ExactMetrics

Privacy e contenuti esterni

Puoi autorizzare i servizi esterni. Le nuove autorizzazioni si applicano subito; dopo una revoca la pagina viene ricaricata.

Leggi l'informativa sulla privacy