Tekoälyn luoma valokuva "räjähdyksestä" lähellä Pentagonia levisi viruksena Twitter

Äskettäin sisään Twitter ilmestyi valokuva, joka, kuten kuvaus sanoi, kuvasi räjähdystä, joka tapahtui lähellä Pentagonia. Tästä johtuen markkinoilla tapahtui jopa lyhytaikainen pudotus - S&P 500 -indeksi laski 0,29%, mutta sen jälkeen, kun kuva paljastui väärennökseksi, indeksi toipui. Kuvan julkaisi vahvistettu Bloomberg Feed -tili, joka sinisestä valintamerkkistään huolimatta ei ole sidoksissa Bloomberg-mediayhtiöön.

Kuva tunnistettiin nopeasti väärennökseksi. Ilmeisesti se on luotu tekoälyn avulla. Mutta ennen kuin nämä yksityiskohdat ilmestyivät, disinformaatiota oli jo levitetty useilla tileillä, mukaan lukien roskat Russia Today (no, kuka epäili).

Väärennetyssä kuvassa näkyy suuri musta savupilvi rakennuksen vieressä, joka muistuttaa epämääräisesti Pentagonia ja siihen liittyvää tekstiä. Tarkemmin tarkasteltuna paikallisviranomaiset vahvistivat, että kuva ei ollut tarkka esitys Pentagonista, ja epäselvät aidanpylväät ja rakennuksen pylväät näyttivät melko huolimattomalta kuvalta, joka on luotu käyttämällä tekoälymallia, kuten Stable Diffusion.

Bloomberg väärennetty tili ennen Twitter esti sen, sillä oli kymmeniä tuhansia twiittejä, mutta yhteensä alle 1 000 seuraajaa, ja on epäselvää, kuka sen johti ja mitkä motiivit valekuvan levittämisessä olivat. Bloomberg Feedin lisäksi muita vääriä sanomia levittäneitä tilejä ovat Walter Bloomberg ja Breaking Market News, jotka eivät myöskään ole sidoksissa todelliseen Bloomberg-yritykseen.

Tapaus nosti esiin mahdollisia uhkia, joita tekoälyn tuottamat kuvat voivat aiheuttaa sosiaalisessa mediassa, jossa todentamatonta tietoa jaetaan hätäisesti, sekä maksulliseen varmennusjärjestelmään. Twitter. Maaliskuussa Midjourneylla luodut väärennetyt kuvat Donald Trumpin pidätyksestä levisivät virukseen, ja vaikka niitä kutsuttiin heti väärennöksiksi, ne näyttivät erittäin realistisilta. Myös tekoälyn luomat kuvat paavi Franciscussta valkoisessa untuvatakissa joutuivat harhaan.

"BloombergFeed" -tili on nyt estetty.

Mutta tästä tulee vain lyö-myyräpeli.

Väärennetyt tekoälykuvat + vahvistetut valeuutiset Twitter tili + valtamedia, joka ei tarkista oloaances = resepti katastrofiin digitaalisessa yhteiskunnassamme.

Tämä ei hidasta. kuva.twitter.com/ZeboVgVm4Z

- Lorenzo Green 〰️ (@mrgreen) Voi 23, 2023

Paavi untuvatakissa on yksi asia, mutta räjähdys Yhdysvaltain puolustusministeriön päämajassa on aivan eri asia. Seuraukset voivat olla vakavia, kuten samat osakemarkkinat todistavat. Dow Jones Industrial Average putosi 85 pistettä neljässä minuutissa twiitin leviämisen jälkeen, mutta toipui nopeasti.

Suuri osa väärennettyä twiittiä ympäröivästä hämmennystä teki mahdolliseksi muutoksilla Twitter Elon Muskin aikana. Hän erotti monet sisällönvalvojat ja suurelta osin automatisoi tilin vahvistusprosessin siirtämällä sen järjestelmään, jossa kuka tahansa voi maksaa sinisestä shekistä. Kriitikot sanovat, että käytäntö tekee alustasta alttiimman väärälle tiedolle.

Vaikka viranomaiset tunnistivatkin suhteellisen nopeasti räjähdyksen valokuvan väärennökseksi, kuvien synteesimallien, kuten Midjourney ja Stable Diffusion, saatavuus tarkoittaa, että väärennösten vakuuttaminen ei enää vaadi taiteellisuutta, mikä jättää tilaa disinformaatiolle. Väärennösten luomisen helppous yhdistettynä esimerkiksi alustojen viraaliseen luonteeseen Twitter, tarkoittaa, että väärä tieto voi levitä nopeammin kuin se voidaan varmistaa.

Tässä tapauksessa kuvan ei välttämättä tarvitse olla korkealaatuista negatiivisen vaikutuksen luomiseksi. Asiantuntijat sanovat, että kun ihmiset haluavat uskoa jotain, he menettävät valppautensa eivätkä tarkista tietojen todenperäisyyttä.

Lue myös:

• Metan kieli tekoäly tunnistaa yli 4 kieltä
• Adobe lisää tekoälypohjaisen Generative Fill -muokkauksen Photoshopiin