Tiistaina Meta ilmoitti suunnitelmastaan aloittaa tekoälyn luomien kuvien merkitseminen muilta yrityksiltä, kuten OpenAI:lta ja Googlelta. Muutoksen tavoitteena on lisätä läpinäkyvyyttä alustoilla, kuten Facebook, Instagram ja säikeet kertomalla käyttäjille, että heidän katsomansa sisältö on syntetisoitua digitaalista mediaa eikä aitoa valokuvaa tai videota.
Metan ratkaisu on osa laajempaa teknologia-alan pyrkimystä asettaa standardit sisällön merkitsemiselle, joka on luotu generatiivisilla tekoälymalleilla, jotka pystyvät luomaan vääriä mutta realistisia ääniä, kuvia ja videoita kirjallisten kehotteiden perusteella.
Metan globaalien asioiden johtaja Nick Clegg ilmoitti asiasta blogiviestissä Metan verkkosivuilla. "Jatkamme tämän lähestymistavan seuraamista ensi vuonna, jolloin järjestetään useita tärkeitä vaaleja ympäri maailmaa", Clegg kirjoitti. "Tänä aikana toivomme oppivamme paljon enemmän siitä, kuinka ihmiset luovat ja jakavat sisältöä tekoälyn kanssa, mitä läpinäkyvyyttä ihmiset arvostavat eniten ja miten nämä tekniikat kehittyvät."
Clegg totesi, että Metan tekoälyn luoma sisällön taggausaloite laajentaa olemassa olevaa käytäntöä tägätä omilla tekoälytyökaluillaan luotua sisältöä sisältämään myös muiden yritysten palveluilla luodut kuvat.
"Rakennamme alan johtavia työkaluja, jotka tunnistavat näkymättömät merkit suuressa mittakaavassa – erityisesti 'AI:n luomat' tiedot C2PA- ja IPTC-teknisissä standardeissa - jotta voimme merkitä kuvia Googlesta, OpenAI:sta, Microsoft, Adobe, Midjourney ja Shutterstock toteuttaessaan suunnitelmiaan lisätä metadataa työkaluillaan luomiin kuviin."
Meta sanoo, että tekoälyn luoma sisällön merkintätekniikka perustuu näkymättömiin vesileimoihin ja tiedostoihin upotettuihin metatietoihin. Meta lisää pienen "Imagined with AI" -vesileiman julkisella tekoälykuvageneraattorillaan luotuihin kuviin.
Viestissä Clegg ilmaisi luottamuksensa yritysten kykyyn merkitä tekoälyn luomia kuvia luotettavasti, vaikka hän huomautti, että työkalut ääni- ja videosisällön merkitsemiseen ovat edelleen kehitteillä. Sillä välin Meta vaatii käyttäjiä merkitsemään muokattua ääni- ja videosisältöä, ja sen laiminlyönnistä määrätään määrittelemättömät sakot.
"Vaadimme ihmisiä käyttämään tätä paljastamis- ja merkintätyökalua, kun he julkaisevat orgaanista sisältöä fotorealistisella videolla tai realistisella äänellä, joka on luotu tai muutettu digitaalisesti, ja voimme määrätä rangaistuksia, jos he eivät tee niin", hän kirjoitti.
Clegg kuitenkin huomautti, että tällä hetkellä ei ole tehokasta tapaa merkitä tekoälyn luomaa tekstiä, mikä viittaa siihen, että on liian myöhäistä toteuttaa tällaisia toimenpiteitä kirjoitetun sisällön osalta. Tämä osuu yhteen raporttiemme kanssa, että AI-tekstitunnistimet eivät toimi.
Ilmoitus tuli päivä sen jälkeen, kun Metan riippumaton valvontalautakunta kritisoi yrityksen petollisesti muutettuja videoita koskevaa politiikkaa liian kapeaksi ja suositteli tällaisen sisällön ilmoittamista sen poistamisen sijaan. Clegg yhtyi kritiikkiin ja myönsi, että nykyiset Meta-käytännöt eivät ole riittäviä hallitsemaan kasvavaa määrää synteettistä ja hybridisisältöä Internetissä. Hän näkee uuden merkintäaloitteen askeleena kohti vahtikoiran suositusten täytäntöönpanoa ja vauhdittavan alan laajuista vauhtia vastaaville toimenpiteille.
Meta myöntää, että se ei pysty havaitsemaan tekoälyn luomaa sisältöä, joka on luotu ilman vesileimoja tai metatietoja, kuten joillain avoimen lähdekoodin tekoälykuvasynteesityökaluilla luotuja kuvia. Meta tutkii Stable Signature -nimistä kuvien vesileimateknologiaa, jonka se toivoo voitavan rakentaa avoimen lähdekoodin kuvageneraattoreihin. Mutta niin kauan kuin pikselit ovat pikseleitä, niitä voidaan luoda tavoilla, joita teknologiateollisuus ei hallitse, ja tämä on edelleen haaste tekoälysisällön havaitsemiselle, kun avoimen lähdekoodin tekoälytyökalut muuttuvat kehittyneemmiksi ja realistisemmiksi.
Lue myös: