Esempi contraddittori sono i dati di input utilizzati per fuorviare i modelli di apprendimento automatico, che di solito coinvolgono reti neurali artificiali (ANN). Questi esempi fanno sì che il modello classifichi erroneamente l'input, nonostante qualsiasi sforzo per etichettarlo correttamente. Gli esempi contraddittori vengono solitamente generati utilizzando un processo di ottimizzazione iterativo che progetta un input che massimizza la probabilità di output errato.
Gli esempi contraddittori sono utili nella ricerca in quanto forniscono prove tangibili di potenziali vulnerabilità nelle ANN e forniscono una base per lo sviluppo di modelli di apprendimento automatico più robusti. Ad esempio, un esempio comune di contraddittorio è un sistema di visione artificiale che ha difficoltà a distinguere i gatti dai cani. Fornendo un'immagine correttamente etichettata di un cane modificata in modo tale che il modello lo classifichi erroneamente come un gatto, i ricercatori possono ottenere informazioni su quali modelli l'ANN sta utilizzando per classificare l'immagine.
Oltre al loro utilizzo nella ricerca, gli esempi contraddittori possono essere utilizzati anche come vettore di attacco da parte di soggetti malintenzionati. Ad esempio, un avversario può utilizzare un esempio contraddittorio per ingannare un modello di rilevamento delle frodi con carte di credito inducendolo ad approvare acquisti fraudolenti. Per mitigare questo tipo di attacco, i ricercatori hanno sviluppato tecniche come l’addestramento contraddittorio, che utilizza esempi contraddittori generati per addestrare le ANN a essere più robuste.
Gli esempi contraddittori rappresentano un campo di studio in crescita, con nuovi metodi, applicazioni e risultati di ricerca pubblicati a un ritmo rapido. Insieme ad altre sfide aperte nel campo dell’apprendimento automatico, lo sviluppo di modelli robusti contro esempi contraddittori è una questione importante per la protezione efficiente delle applicazioni basate sull’intelligenza artificiale.
