Facebook ha sviluppato un'intelligenza artificiale che vuole identificare le immagini deepfake e quindi rintracciare i loro creatori. Un deepfake consiste in un video in cui la voce e il viso di una persona vengono modificati da un software di intelligenza artificiale, facendo apparire autentico il video alterato. Questa tecnica è usata principalmente con personaggi pubblici. Facebook analizza le somiglianze tra una raccolta di diversi deepfake per vedere se hanno un'origine condivisa, cercando modelli unici come piccoli granelli di rumore o piccole stranezze nello spettro dei colori di un'immagine.
Identificando le impronte digitali minori in un'immagine, L'intelligenza artificiale di Facebook può discernere i dettagli di come è stata progettata la rete neurale che ha creato l'immagine, come la dimensione del modello o il modo in cui è stato addestrato. Come potremmo, solo guardando una foto, sapere quanti strati ha una rete neurale profonda o su quale funzione di perdita è stata addestrata? afferma Tal Hassner, leader della scienza applicata dell'intelligenza artificiale di Facebook.
La complessità dell'intelligenza artificiale
Hassner e i suoi colleghi hanno testato l'intelligenza artificiale su un database di 100,000 immagini deepfake generate da 100 diversi modelli generativi che producono 1,000 immagini ciascuno. Alcune di queste immagini sono state utilizzate per addestrare il modello, mentre altre sono state conservate e presentate al modello come immagini di origine sconosciuta.
Ciò ha aiutato a testare l'intelligenza artificiale sul suo obiettivo finale. "Quello che stiamo facendo è guardare una foto e cercare di stimare quale sia il design del modello generativo che l'ha creata, anche se non abbiamo mai visto quel modello prima", afferma Hassner. Ha rifiutato di condividere quanto preciso? le stime dell'intelligenza artificiale erano, ma dice "siamo molto meglio che casuali".
Un passo avanti per la tecnologia
"È un grande passo avanti per le impronte digitali", afferma Nina Schick, autrice del libro Deep Fakes and the Infocalypse. Ma lei sottolinea, come Hassner e i suoi colleghi, che l'intelligenza artificiale funziona solo con immagini che sono state totalmente artificiale generati, mentre molti deepfake sono video creati incollando una faccia al corpo di qualcun altro.
Schick si chiede anche quanto sarebbe efficace l'intelligenza artificiale al di fuori delle impostazioni di laboratorio, trovando deepfake in natura . "Il tipo di modelli di rilevamento del volto che vediamo sono generalmente basati su set di dati accademici e implementati in ambienti controllati", afferma Schick.
Hassner ha rifiutato di parlare di come Facebook avrebbe usato la sua nuova intelligenza artificiale, ma afferma che questo tipo di lavoro è un gioco del gatto col topo contro le persone che creano deepfake. "Stiamo sviluppando modelli di identificazione migliori, mentre altri stanno sviluppando modelli generativi sempre migliori", afferma Hassner. “Non ho dubbi che a un certo punto ci sarà un metodo questo ci ingannerà completamente". Sebbene Facebook a volte causi problemi, non c'è dubbio che stia facendo un ottimo lavoro nell'individuare i deepfake.
