OpenAI ha pubblicato Privacy Filter, un modello da 1,5 miliardi di parametri pensato per individuare e mascherare i dati personali nei testi. Il progetto è disponibile in open source con licenza Apache 2.0 su Hugging Face e GitHub, quindi può essere scaricato, adattato e integrato anche in contesti commerciali.
L’idea è semplice ma utile: eseguire un filtro locale prima di inviare il testo a un modello cloud, così da ridurre l’esposizione di nomi, email, numeri di telefono, dati finanziari e altre informazioni sensibili. Il modello è pensato come livello di pre-filtraggio, non come strumento di anonimizzazione completa.
Privacy Filter punta su analisi del contesto e non su semplici regole
Rispetto ai filtri tradizionali basati su regole o corrispondenze testuali, Privacy Filter usa una comprensione più profonda del linguaggio per riconoscere le informazioni personali anche dentro testi non strutturati. In pratica, cerca di distinguere i dati davvero sensibili dal contenuto pubblico o innocuo, così da ridurre i falsi positivi.
OpenAI lo presenta come uno strumento utile nei flussi di lavoro più comuni: addestramento, indicizzazione, registrazione dei log e revisione dei contenuti. L’obiettivo è proteggere i dati sensibili senza bloccare inutilmente le informazioni che possono restare visibili.
- Supporta testi lunghi fino a 128.000 token.
- Usa un’architettura di classificazione bidirezionale dei token.
- È progettato per funzionare anche su dispositivi con risorse limitate, come notebook o browser.
- Ogni esecuzione attiva circa 50 milioni di parametri grazie a un design Mixture of Experts.
Riconosce otto categorie di informazioni personali e sensibili
Privacy Filter è stato addestrato per identificare otto classi di dati personali e sensibili: nomi, indirizzi, email, numeri di telefono, link URL, date, informazioni di conto e dati segreti come password e chiavi API. Questa copertura lo rende più utile di un filtro rigido limitato a pochi pattern.
Il modello lavora su testi non strutturati e può marcare o mascherare le porzioni rilevanti prima che il contenuto venga inoltrato a un LLM cloud. È proprio questo il suo punto di forza: limitare la circolazione di dati personali già nella fase iniziale del flusso.
- Nomi personali
- Indirizzi fisici
- Indirizzi email
- Numeri di telefono
- Link URL
- Date
- Numeri di conto e dati finanziari
- Password e chiavi API
Nei test supera il 96% di F1 e arriva al 97,43% sul dataset corretto
Nei test PII-Masking-300k, Privacy Filter ha ottenuto un punteggio F1 del 96%, con precisione al 94,04% e richiamo al 98,04%. Dopo la correzione di varie annotazioni mancanti presenti nel dataset originale, il punteggio è salito al 97,43%.
Per un modello di questo tipo conta molto l’equilibrio tra precisione e richiamo. OpenAI sottolinea infatti che il sistema può essere tarato con pochi dati aggiuntivi per spostare l’ago della bilancia verso una maggiore accuratezza o verso una maggiore copertura dei dati sensibili.
- F1 del 96% sul benchmark originale.
- F1 del 97,43% sul dataset corretto.
- Precisione fino al 96,79%.
- Richiamo fino al 98,08%.
