By 
Quali sono stati i risultati della Deepfake Detection Challenge e perché sono stati definiti, in parte, come deludenti?
Alcuni mesi fa, Facebook aveva organizzato un concorso per selezionare algoritmi di intelligenza artificiale efficaci per rilevare i video deepfake.
Al termine del contest, Facebook ha dichiarato di aver testato oltre 35.000 algoritmi, il migliore dei quali è risultato tuttavia accurato solo al 65%.
Facebook ha comunque dichiarato che i deepfake non sono attualmente “un grosso problema”.
L’idea alla base della Deepfake Detection Challenge era quella di trovare algoritmi in grado di rilevare video manipolati con l’intelligenza artificiale. I deepfake possono riuscire ad ingannare gli utenti se sono abbastanza realistici e il contenuto non è esageratamente falso.
Per questo motivo, i social network cercano di ridurne la diffusione. Ma per la quantità dei video pubblicati ogni giorno, è praticamente impossibile farlo manualmente. Da qui la necessità di realizzare algoritmi che automatizzino il processo di rilevamento.
Deepfake Detection Challenge: i risultati
Il modello più efficace è risultato quello scritto da Selim Seferbekov, un informatico che vive in Bielorussia e lavora per Mapbox del gruppo Foundry.
I suoi algoritmi sono stati in grado di identificare i deepfake con una precisione fino all’82,56% dei video con i quali si era precedentemente allenato.
Tuttavia, quando gli sono state offerte immagini nuove e mai viste prima, la precisione è scesa al 65,18%. L’algoritmo vincente sarà pubblicato in modalità open source in modo che altri ricercatori possano usarlo e migliorarlo.
Come scrive Biometric Update, è da notare che il terzo miglior punteggio è stato quello di NtechLab, una società di riconoscimento facciale russa. NtechLab suscitò polemiche in passato per aver creato un’app di incontri che incoraggiava gli utenti a scattare foto di chiunque fosse in vista per confrontare la foto con i database dei social media.
In Italia, come anche in Spagna, gli algoritmi di deepfake sono stati utilizzati per fare satira politica. Il rischio principale è tuttavia che i deepfake vengano utilizzati in ambito politico per screditare tutte le forme di informazione e conoscenza.
Qui puoi trovare altri articoli sul tema Algoritmi del web che possono essere di tuo interesse.
Commenti