Facebook on kehittänyt tekoälyn, joka haluaa tunnistaa syväväärennetyt kuvat ja jäljittää niiden tekijät. Syväväärennös koostuu videosta, jossa tekoälyohjelmisto muuttaa henkilön äänen ja kasvot, jolloin muutettu video näyttää aito. Tätä tekniikkaa käytetään enimmäkseen julkisten henkilöiden kanssa. Facebook analysoi erilaisten syväväärennösten joukon yhtäläisyyksiä nähdäkseen, onko niillä yhteinen alkuperä, ja etsii ainutlaatuisia kuvioita, kuten pieniä kohinaa tai pieniä oudot kuvan värispektrissä.
Tunnistamalla pienet sormenjäljet kuvassa, Facebookin tekoäly osaa erottaa yksityiskohdat siitä, miten kuvan luonut hermoverkko suunniteltiin, kuten mallin koko tai miten se koulutettiin. Kuinka voisimme vain valokuvaa katsomalla tietää, kuinka monella kerroksella syvä hermoverkko on tai mihin menetystoimintoon se koulutettiin? sanoo Tal Hassner, Facebookin tekoälyn soveltavan tieteen johtaja.
Tekoälyn monimutkaisuus
Hassner ja hänen kollegansa testasivat tekoälyä tietokannassa, jossa on 100,000 100 syväväärennettyä kuvaa, jotka on luotu 1,000 eri generatiivisella mallilla, joista kukin tekee XNUMX kuvaa. Joitakin näistä kuvista käytettiin mallin kouluttamiseen, kun taas toiset säilytettiin ja esitettiin mallille tuntemattoman alkuperän kuvina.
Se auttoi testaamaan tekoälyä sen lopullisessa tavoitteessa. "Me teemme katsomalla valokuvaa ja yrittämällä arvioida, mikä on sen luovan generatiivisen mallin suunnittelu, vaikka emme ole koskaan nähneet sitä mallia aiemmin", Hassner sanoo. Hän kieltäytyi jakamasta kuinka tarkka tekoälyn arviot olivat, mutta sanoo "olemme paljon parempia kuin satunnaiset".
Askel eteenpäin tekniikan suhteen
"Se on iso askel eteenpäin sormenjälkien ottamisessa", sanoo Deep Fakes and the Infocalypse -kirjan kirjoittaja Nina Schick. Mutta hän huomauttaa, kuten Hassner ja hänen kollegansa, että tekoäly toimii vain kuvilla, jotka ovat olleet täysin keinotekoisesti luotu, kun taas monet syväväärennökset ovat videoita, jotka on luotu liimaamalla kasvot jonkun toisen kehoon.
Schick ihmettelee myös, kuinka tehokas tekoäly olisi laboratorioasetusten ulkopuolella, löytää syviä väärennöksiä luonnossa . "Kasvojentunnistustyypit, jotka näemme, perustuvat yleensä akateemiseen aineistoon ja toteutetaan valvotuissa ympäristöissä", Schick sanoo.
Hassner kieltäytyi puhumasta siitä, kuinka Facebook käyttää uutta tekoälyään, mutta sanoo, että tällainen työ on kissa- ja hiiripeli ihmisiä, jotka luovat syviä väärennöksiä. "Kehitämme parempia tunnistemalleja, kun taas toiset kehittävät yhä parempia generatiivisia malleja", Hassner sanoo. ”Epäilen jossakin vaiheessa tulee olemaan menetelmä se huijaa meitä täysin. " Vaikka Facebook aiheuttaa joskus ongelmia, ei ole epäilystäkään siitä, että se tekee hyvää työtä löytääkseen väärennöksiä.
