Useita yrityksiä mukaan lukien Microsoft і Facebook, ja jopa Etelä-Kalifornian yliopiston tutkijat kehittävät teknologioita syväväärennösten torjumiseksi ja niiden leviämisen estämiseksi keltaisen median ja väärän tiedon välityksellä. Ryhmä tutkijoita onnistui kuitenkin huijaamaan heidät.
Kalifornian yliopiston San Diegon tietojenkäsittelytieteilijät varoittivat, että olemassa olevia syväväärennösten havaitsemisjärjestelmiä on edelleen mahdollista huijata lisäämällä jokaiseen videoruutuun "kilpailevia esimerkkejä" kutsuttuja syöttötietoja. Tutkijat esittelivät havaintojaan WACV 2021 Computer Vision -konferenssissa, joka pidettiin verkossa viime kuussa.
Kilpailevat esimerkit ovat hieman muunneltuja syötteitä, jotka saavat tekoälyjärjestelmät, kuten koneoppimismallit, tekemään virheitä. Lisäksi tiimi osoitti, että hyökkäys toimii edelleen videon pakkaamisen jälkeen. Yllä olevassa videossa tutkijat osoittavat, että XceptionNet, syväväärennösten ilmaisin, merkitsee heidän kilpailevan videonsa "todelliseksi".
Useimmat näistä ilmaisimista toimivat seuraamalla kasvoja videossa ja lähettämällä rajatut kasvotiedot neuroverkkoon analysoitavaksi. Neuraaliverkko analysoi sitten nämä tiedot ja löytää elementtejä, jotka yleensä toistuvat huonosti syvässä väärennöksissä, kuten välkkyminen.
Lisäämällä kilpailevia esimerkkejä tutkijat havaitsivat, että he voivat huijata nämä syvän väärennösilmaisimet uskomaan, että videot olivat todellisia.
He toteavat lehdessä, että "jotta näitä syväväärennösilmaisimia voitaisiin käyttää käytännössä, on tärkeää arvioida ne mukautuvaa vastustajaa vastaan, joka on tietoinen tästä suojasta ja yrittää tarkoituksella murtaa sen. Osoitamme, että nykyaikaiset syvän väärennösten tunnistusmenetelmät voidaan helposti ohittaa, jos hyökkääjä on täysin tai jopa osittain tietoinen ilmaisimesta."
Kuten nämä tutkijat ovat osoittaneet, disinformaation torjumiseksi kehitetyt automaatiotekniikat eivät ehkä vielä ole tehtäviensä tasalla.
Lue myös: