Teknologiajohtajat ja merkittävät tekoälytutkijat ovat allekirjoittaneet sopimuksen avaa kirje, joka kehottaa tekoälylaboratorioita ja yrityksiä "keskeyttämään välittömästi" työnsä.
Allekirjoittajat, mukaan lukien Steve Wozniak ja Elon Musk, ovat yhtä mieltä siitä, että riskit edellyttävät vähintään kuuden kuukauden taukoa sellaisten teknologioiden tuotannossa, jotka ylittävät rajat. GPT-4. Tämän tarkoituksena on saada ilo ja tyytyväisyys irti nykyisistä tekoälyjärjestelmistä ja antaa ihmisten sopeutua niihin ja nähdä, että ne ovat hyödyllisiä.
Kirjeessä lisätään, että tekoälyjärjestelmien turvallisuuden varmistamiseksi tarvitaan varovaisuutta ja ennakointia, mutta niitä ei huomioida. Viittaus GPT-4:ään, uuteen OpenAI-malliin, joka voi vastata tekstillä kirjoitettuihin tai visuaalisiin viesteihin, tulee yritysten kilpaileessa rakentaakseen kehittyneitä chat-järjestelmiä teknologian avulla. Esimerkki, Microsoft vahvisti äskettäin, että sen päivitetty Bing-hakukone on ollut käynnissä GPT-4-mallissa yli 7 viikkoa, ja Google esitteli äskettäin virallisesti Bardi – oma generatiivinen tekoälyjärjestelmä, joka perustuu LaMDA:han.
Tekoälyä koskevat huolenaiheet ovat olleet olemassa jo pitkään, mutta kilpailu edistyneimmän teknologian käyttöönotosta on ilmeinen tekoäly ensimmäinen on jo hälyttävä. "Viime kuukausina tekoälylaboratoriot ovat osallistuneet hallitsemattomaan kilpailuun kehittää ja toteuttaa yhä tehokkaampia digitaalisia mieliä, joita kukaan - ei edes niiden kirjoittajat - voi ymmärtää, ennustaa tai luotettavasti hallita", kirjeessä sanotaan.
Kirjeen julkaisi voittoa tavoittelematon Future of Life Institute (FLI), joka pyrkii minimoimaan maailmanlaajuiset katastrofaaliset ja eksistentiaaliset riskit sekä uusien teknologioiden, erityisesti tekoälyn, väärinkäytön. Aiemmin Musk lahjoitti 10 miljoonaa dollaria FLI:lle tekoälyn turvallisuustutkimukseen. Hänen ja Wozniakin lisäksi allekirjoittajiin kuuluu useita maailman johtajia tekoälyn alalla, kuten Center for AI and Digital Policy -johtaja Mark Rothenberg, MIT:n fyysikko ja FLI:n presidentti Max Tegmark sekä kirjailija Yuval Noah Harari.
Harari oli myös mukana kirjoittamassa New York Timesissa viime viikolla julkaistua artikkelia, joka varoitti niihin liittyvistä riskeistä tekoäly, jonka parissa Humane Technologiesin keskuksen perustajat ja muut avoimen kirjeen allekirjoittajat Tristan Harris ja Aza Raskin työskentelivät hänen kanssaan.
Kutsu seuraa viime vuonna tehtyä yli 700 koneoppimisen tutkijaa koskevaa kyselyä, jossa lähes puolet sanoi, että tekoälyn "erittäin pahojen seurausten", mukaan lukien ihmisen sukupuuttoon, on noin 10 prosentin todennäköisyys. Kun kysyttiin tekoälytutkimuksen turvallisuudesta, 68 % vastaajista sanoi, että enemmän tai paljon enemmän on tehtävä.
Lue myös: