Facebook desenvolveu uma inteligência artificial que deseja identificar imagens deepfake e, em seguida, rastrear seus criadores. Um deepfake consiste em um vídeo no qual a voz e o rosto de uma pessoa são alterados por um software de inteligência artificial, fazendo com que o vídeo alterado pareça autêntico. Esta técnica é usada principalmente com figuras públicas. O Facebook analisa as semelhanças entre uma coleção de deepfakes diferentes para ver se eles têm uma origem compartilhada, procurando padrões únicos, como pequenos pontos de ruído ou pequenas esquisitices no espectro de cores de uma imagem.
Ao identificar pequenas impressões digitais em uma imagem, Inteligência artificial do Facebook pode discernir detalhes de como a rede neural que criou a imagem foi projetada, como o tamanho do modelo ou como ele foi treinado. Como poderíamos, apenas olhando para uma foto, saber quantas camadas uma rede neural profunda tem ou em que função de perda ela foi treinada? diz Tal Hassner, líder de ciência aplicada de IA do Facebook.
A complexidade da inteligência artificial
Hassner e seus colegas testaram a inteligência artificial em um banco de dados de 100,000 imagens deepfake geradas por 100 modelos generativos diferentes que fazem 1,000 imagens cada. Algumas dessas imagens foram usadas para treinar o modelo, enquanto outras foram retidas e apresentadas ao modelo como imagens de origem desconhecida.
Isso ajudou a testar a inteligência artificial em seu objetivo final. “O que estamos fazendo é olhar para uma foto e tentar estimar qual é o design do modelo generativo que a criou, mesmo que nunca tenhamos visto esse modelo antes”, diz Hassner. Ele se recusou a compartilhar quão preciso as estimativas de inteligência artificial eram, mas dizem que "somos muito melhores do que aleatórios".
Um passo em frente para a tecnologia
“É um grande passo para a impressão digital”, diz Nina Schick, autora do livro Deep Fakes and the Infocalypse. Mas ela aponta, como Hassner e seus colegas, que a IA só funciona com imagens que foram totalmente artificialmente gerado, enquanto muitos deepfakes são vídeos criados pela colagem de um rosto no corpo de outra pessoa.
Schick também se pergunta o quão eficaz a IA seria fora dos ambientes de laboratório, encontrando deepfakes na natureza . “Os tipos de modelos de detecção de rosto que vemos são geralmente baseados em conjuntos de dados acadêmicos e implementados em ambientes controlados”, diz Schick.
Hassner se recusou a falar sobre como o Facebook usaria sua nova IA, mas diz que esse tipo de trabalho é um jogo de gato e rato contra pessoas que criam falsificações. “Estamos desenvolvendo melhores modelos de identificação, enquanto outros estão desenvolvendo modelos gerativos cada vez melhores”, diz Hassner. “Não tenho dúvidas de que em algum momento haverá um método isso vai nos enganar completamente. ” Embora às vezes o Facebook cause problemas, não há dúvida de que está fazendo um ótimo trabalho na localização de deepfakes.
