Salaperäinen Projekti Q* OpenAI aiheuttaa huolta asiantuntijoiden keskuudessa. Voiko hän todella olla vaarallinen ihmiskunnalle? Mitä hänestä tiedetään? Sen jälkeen kun Sam Altman erotettiin alun perin viime viikolla ja hän ja tiimi melkein muuttivat Microsoft, sitten hän palasi takaisin työpaikalleen (sitä kirjoitimme tänne), OpenAI on jälleen uutisissa. Tällä kertaa sen takia, mitä jotkut tutkijat kutsuvat mahdolliseksi uhkaksi ihmiskunnalle. Kyllä, luit oikein, uhka ihmiskunnalle.
Todellisen mullistuksen teknologian maailmassa aiheutti Project Q* - julkistamaton yleisen tekoälyn (AGI) projekti - lausutaan Q-Star. Vaikka tämä projekti on alkuvaiheessa, sitä pidetään todella uraauurtavana AGI-kehityksessä. Jotkut näkevät sen kuitenkin vaarana ihmiskunnalle.
Kuuluisan tekoälylaboratorion OpenAI:n kehittämä salainen tekoälyprojekti voi mullistaa teknologian ja yhteiskunnan yleensä. Mutta se herättää myös joitain eettisiä kysymyksiä riskeistä. Kun Project Q*:n hämmästyttävistä kyvyistä tulee yksityiskohtia, syntyy yhä enemmän spekulaatioita siitä, mitä se voisi tarkoittaa ihmiskunnan tulevaisuudelle.
Mielenkiintoista myös: OpenAI:n historia: Mitä se oli ja mitä yritystä odottaa
Mikä on yleiskeinotekoinen älykkyys (AGI)?
Ymmärtääksemme Project Q*:een (Q-Star) liittyvän hypetyksen, yritetään ensin ymmärtää, mistä yleisen tekoälyn (AGI) käsitteessä on kyse. Vaikka nykyiset tekoälyjärjestelmät ovat erinomaisia kapeissa, erityisissä tehtävissä, kuten shakin pelaamisessa tai kuvien luomisessa, yleisellä tekoälyllä tarkoitetaan koneita, jotka voivat oppia ja ajatella ihmistasolla monilla aloilla. Eli he voivat opiskella kuten pienet lapset koulussa, esimerkiksi matematiikan, kemian, biologian jne.
General Artificial Intelligence (AGI) on eräänlainen koneäly, joka voi hypoteettisesti matkia ihmisen älyä tai käyttäytymistä ja joka kykenee oppimaan ja soveltamaan tätä potentiaalia useiden ongelmien ratkaisemiseen. AGI:ta kutsutaan myös vahvaksi tekoälyksi, täydelliseksi tekoälyksi tai ihmistason tekoälyksi. Yleinen tekoäly eroaa heikosta tai kapeasta tekoälystä, joka pystyy suorittamaan vain tiettyjä tai erikoistuneita tehtäviä tiettyjen parametrien puitteissa. ZHI pystyy ratkaisemaan itsenäisesti erilaisia monimutkaisia ongelmia eri tietoalueilta.
Tekoälyn luominen on DeepMindin ja Anthropicin kaltaisten yritysten tekoälytutkimuksen pääpaino. CSI on erittäin suosittu aihe tieteiskirjallisuudessa ja saattaa vaikuttaa tulevaisuuden tutkimukseen. Jotkut väittävät, että UCI on mahdollista luoda vuosien tai vuosikymmenten kuluessa, kun taas toiset väittävät, että se voi kestää vuosisadan tai enemmän. Mutta on niitä, jotka uskovat, että tätä ei koskaan saavuteta. Jotkut ovat nähneet URI:n alun GPT-3:ssa, mutta se näyttää silti olevan kaukana peruskriteerien täyttämisestä.
Tekoälyn (AGI) luominen on tutkijoiden mielestä tekoälyn pyhä malja, teoreettinen mahdollisuus, joka on vanginnut heidän mielikuvituksensa pitkään. Siksi sellaisen projektin kuin OpenAI Project Q* ilmestyminen aiheutti suurta resonanssia tekoälyalgoritmitutkimuksen maailmassa. Vaikka kaikki ymmärtävät, että nämä ovat vasta ensimmäisiä askelia, melkein sokeasti, maailmaan, jossa tekoälyllä on samat ominaisuudet kuin ihmisillä tai jopa korkeammalla.
Mielenkiintoista myös: Kaikki Microsoft Ohjaaja: tulevaisuus vai väärä tapa?
Mikä on Project Q*?
Project Q* ei ole tyypillinen algoritmi, koska se on tekoälymalli, joka lähestyy yhä enemmän tekoälyn (AGI) mallia. Tämä tarkoittaa, että toisin kuin ChatGPT, Project Q* näyttää paremmat ajattelu- ja kognitiiviset taidot muihin algoritmeihin verrattuna. ChatGPT vastaa tällä hetkellä kyselyihin, jotka perustuvat suureen määrään faktamateriaalia, mutta AGI:n avulla tekoälymalli oppii päättelyn ja kyvyn ajatella ja ymmärtää itse. On jo tiedossa, että Project Q* pystyy ratkaisemaan yksinkertaisia matemaattisia tehtäviä, jotka eivät kuuluneet sen koulutusmateriaaliin. Jotkut tutkijat näkevät tässä merkittävän askeleen kohti yleisen tekoälyn (AGI) luomista. OpenAI määrittelee AGI:n tekoälyjärjestelmiksi, jotka ovat älykkäämpiä kuin ihmiset.
Project Q*:n kehitystä johtaa OpenAI:n päätutkija Ilya Sutzkever, ja sen perusteita ovat perustelleet tutkijat Jakub Pakhotsky ja Shimon Sidor.
Algoritmin kykyä ratkaista matemaattisia ongelmia yksinään, vaikka nämä ongelmat eivät olisikaan osa opetusaineistoa, pidetään läpimurtona tekoälyn alalla. Tätä projektia koskevat erimielisyydet tiimissä liittyvät OpenAI:n toimitusjohtajan Sam Altmanin väliaikaiseen erottamiseen. Tiedetään, että ennen Altmanin potkua ryhmä yrityksen tutkijoita lähetti hallitukselle kirjeen, jossa varoitettiin ihmiskunnalle uhkaavan tekoälyn löytämisestä. Tuo kirje, jossa kerrottiin käsiteltiin Project Q* -algoritmia, mainittiin yhtenä Altmanin ampumiseen johtaneista tekijöistä. Projektin Q* ominaisuuksia ja sen mahdollisesti aiheuttamia riskejä ei kuitenkaan täysin ymmärretä, koska yksityiskohdat ovat tuntemattomia. Mitään ei ole julkistettu suurelle yleisölle.
Pohjimmiltaan Project Q* on malliton vahvistusoppimismenetelmä, joka poikkeaa perinteisistä malleista, sillä se ei vaadi aiempaa ympäristötietoa. Sen sijaan se oppii kokemuksen kautta, mukauttamalla toimia palkkioiden ja rangaistusten perusteella. Tekniset asiantuntijat uskovat, että Project Q* pystyy saavuttamaan erinomaisia kykyjä hankkimalla ihmisen kognitiivisia kykyjä muistuttavia kykyjä.
Juuri tämä ominaisuus on kuitenkin vaikuttavin uudessa tekoälymallissa, joka huolestuttaa tutkijoita ja kriitikkoja ja lisää heidän pelkoaan teknologian todellisista sovelluksista ja niihin liittyvistä riskeistä. Mitä tiedemiehet ja tutkijat niin pelkäävät? Selvitetään se.
Mielenkiintoista myös: Kuinka päivittää kodin laitteet tukemaan Wi-Fi-yhteyttä 6
He pelkäävät tuntematonta
Ihminen on aina pelännyt tuntematonta, tuntematonta. Tämä on inhimillinen olemus, luonteemme ja elämäntapamme piirre.
Teknologian maailma sai tietää Project Q*:sta marraskuussa 2023 Reutersin jälkeen raportoitu huolestuneiden OpenAI-tutkijoiden kirjoittamasta sisäisestä kirjeestä. Kirjeen sisältö oli epämääräinen, mutta sen kerrottiin analysoivan vakavasti Project Q*:n kykyjä. Kuten edellä mainitsin, spekuloidaan jopa, että juuri tämä kirje laukaisi Sam Altmanin eron.
Tämä räjähtävä löytö on synnyttänyt useita hypoteeseja projektin Q* luonteesta. Tutkijat ovat ehdottaneet, että tämä voisi olla vallankumouksellinen luonnollisen kielen malli tekoälylle. Eräänlainen uusien algoritmien keksijä, joka luo niitä muille tekoälyn muodoille tai jotain aivan muuta tällä alalla.
Altmanin provokatiiviset kommentit yleisestä tekoälystä "keskivertotyöntekijänä" ovat jo herättäneet huolta työpaikkojen turvallisuudesta ja tekoälyn vaikutusvallan pysäyttämättömästä laajenemisesta. Tämä salaperäinen algoritmi on määritelty virstanpylväksi yleisen tekoälyn (AGI) kehityksessä. Kaikki kuitenkin ymmärtävät, että tämä virstanpylväs on kallis. Ja nyt ei ole kyse rahasta. Uuden tekoälymallin lupaama kognitiivisten taitojen taso kantaa mukanaan epävarmuutta. OpenAI-tutkijat lupaavat, että tekoälyllä on ihmistason ajattelu. Ja tämä tarkoittaa, että emme voi tietää monia asioita ja ennustaa seurauksia. Ja mitä tuntemattomampi, sitä vaikeampaa on valmistautua hallitsemaan tai korjaamaan sitä. Eli uusi algoritmi pystyy parantamaan ja kehittämään itseään. Olemme jo nähneet tämän jossain...
Mielenkiintoista myös: Windows 12: Mikä on uusi käyttöjärjestelmä
Upeita yksityiskohtia Project Q:n ominaisuuksista*
Kun lisää tietoa alkoi ilmaantua, se järkytti monia tutkijoita. Varhaiset merkit olivat, että Project Q*:lla oli hämmästyttävä matematiikka. Toisin kuin mekaanisia laskelmia suorittava laskin, Project Q* voi käyttää logiikkaa ja päättelyä monimutkaisten matemaattisten ongelmien ratkaisemiseen. Tämä matemaattinen kyky yleistää vihjaa laajan älykkyyden kehittymiseen.
Projektin Q* autonominen koulutus ilman tyypillisten tekoälyjen kouluttamiseen käytettyjä erityisiä tietojoukkoja on myös valtava edistysaskel. On edelleen epäselvää, onko Project Q* hallinnut muita taitoja. Mutta hänen matemaattiset kykynsä ovat itsessään niin hämmästyttäviä, että ne hämmentävät kokeneitakin tutkijoita.
Lue myös: Human Brain Project: Yritys jäljitellä ihmisaivoja
Projektin Q* polku dominointiin?
Tässä asiassa on sekä optimistisia että pessimistisiä skenaarioita. Optimistit sanovat, että Project Q* voisi olla se kipinä, joka johtaa teknologiseen läpimurtoon. Kun järjestelmä kehittyy rekursiivisesti itsestään, sen yliluonnollinen älykkyys voisi auttaa ratkaisemaan joitakin ihmiskunnan tärkeimmistä ongelmista ilmastonmuutoksesta tautien hallintaan. Project Q* voi automatisoida tylsää työtä ja vapauttaa vapaa-aikaamme muuhun toimintaan.
Vaikka on olemassa monia pessimistisempiä vaihtoehtoja. Joskus ne ovat melko järkeviä ja niillä on tietty merkitys.
Työpaikkojen menetys
Nopeat muutokset teknologian kehityksessä voivat ohittaa ihmisten yksilöllisen sopeutumisen. Tämä johtaa yhden tai useamman sukupolven menettämiseen, jotka eivät pysty hankkimaan tarvittavia taitoja tai tietoja sopeutuakseen uuteen todellisuuteen. Tämä tarkoittaa puolestaan sitä, että harvemmat ihmiset voivat säilyttää työpaikkansa. Sen sijaan sen suorittavat koneet, automatisoidut järjestelmät ja robotit. Vastaus ei kuitenkaan ole niin yksiselitteinen, kun on kyse pätevistä asiantuntijoista. Lisäksi uusia, nimenomaan tekoälyalgoritmien kehittämiseen liittyviä ammatteja saattaa ilmaantua. Mutta riskejä on edelleen, eikä ihmiskunnalla ole oikeutta sivuuttaa niitä.
Hallitsemattoman voiman vaara
Jos niinkin voimakas tekoäly kuin Project Q* joutuu pahantahtoisten aikeiden käsiin, se uhkaa katastrofaaliset seuraukset ihmiskunnalle. Jopa ilman mahdollisesti haitallista tarkoitusta, Project Q*:n päätöksentekotaso voi johtaa haitallisiin tuloksiin, mikä korostaa sen soveltamisen huolellisen arvioinnin kriittistä merkitystä.
Jos Project Q* on huonosti optimoitu ihmisten tarpeisiin, se voi aiheuttaa vahinkoa, koska se pystyy maksimoimaan mielivaltaisia mittareita. Tai sillä voi olla poliittinen ulottuvuus, kuten sitä käytetään valtion valvontaan tai tukahduttamiseen. Projektin Q* vaikutusanalyysistä käytävä avoin keskustelu auttaa määrittämään mahdollisia skenaarioita ZHI:n kehittämiselle.
Onko edessä "Ihminen vs. kone" -ottelu?
Hollywood on jo luonut elokuvissaan monia skenaarioita tällaisesta vastakkainasettelusta. Me kaikki muistamme kuuluisan SkyNetin ja tällaisen löydön seuraukset. Ehkä OpenAI-tutkijoiden pitäisi katsoa tämä elokuva uudelleen?
Ihmiskunnan on hyväksyttävä signaaleja ja haasteita ja varauduttava siihen, mitä voi tapahtua. Ihmisen tavoin ajatteleva tekoälymalli voi joskus tulla vihollisemme. Monet väittävät, että tulevaisuudessa tiedemiehet tietävät tarkalleen, kuinka tilanne saadaan hallintaan. Mutta mitä tulee koneisiin, et voi täysin sulkea pois sitä mahdollisuutta, että ne yrittävät vallata ihmisiä.
Mielenkiintoista myös: Kaikki mitä kutsumme tekoälyksi, ei todellakaan ole tekoälyä. Tässä on mitä sinun on tiedettävä
Miksi OpenAI on hiljaa?
Huolimatta kiivasta yleisön kiinnostuksesta Project Q*:ta kohtaan, OpenAI:n johto vaikenee algoritmin yksityiskohdista. Mutta sisäinen vuoto osoittaa kasvavaa jännitystä laboratoriossa prioriteeteista ja kehityksen avoimuudesta. Vaikka monet OpenAI:n sisäpiiriläiset tukevat Project Q*:n luomista, kriitikot väittävät, että avoimuus on jäänyt taka-alalle tieteellisen kehityksen kiihdyttämisessä hinnalla millä hyvänsä. Ja jotkut tutkijat ovat huolissaan siitä, että järjestelmille, joiden tavoitteet eivät välttämättä täsmää ihmisten arvojen ja etiikan kanssa, annetaan uskomatonta voimaa. Nämä tutkijat uskovat, että keskustelut valvonnasta ja vastuullisuudesta ovat vaarallisesti vaimentuneet. Ne vaativat enemmän julkisuutta ja yksityiskohtia.
Project Q*:n tekijöinä OpenAI:n on ymmärrettävä, että heillä on teknologia, joka voi joko laajentaa suuresti yhteiskunnan kehityksen mahdollisuuksia tai tuhota sen armottomasti. Tällaiset merkittävät innovaatiot ansaitsevat paljon enemmän läpinäkyvyyttä yleisön luottamuksen rakentamiseksi. Kaikkien koneen iän ennustajien on punnittava huolellisesti riskit ja hyödyt. Ja Project Q*:n kehittäjien on osoitettava tarpeeksi viisautta ja huolenpitoa viedäkseen yhteiskunta turvallisesti uuteen yleisen tekoälyn aikakauteen, joka saattaa tulla nopeammin kuin koskaan kuvittelimme.
Jotta yleinen tekoäly olisi hyödyllistä ja turvallista ihmiskunnalle, on varmistettava, että se toimii turvallisesti, eettisesti ja ihmiskunnan arvojen ja tavoitteiden mukaisesti. Tämä edellyttää asianmukaisten säädösten, standardien, sääntöjen ja protokollien kehittämistä ja täytäntöönpanoa, jotka ohjaavat ja rajoittavat CSI:n toimia ja käyttäytymistä. Lisäksi on eliminoitava mahdolliset uhat ja riskit, jotka liittyvät väärinkäytöksiin, onnettomuuksiin, yhteensopimattomuuteen, manipulaatioihin ja konflikteihin, jotka voivat johtaa ihmiskunnan tuhoon. Samaan aikaan sijoittajat ja Microsoft odottaa innokkaasti kaupallista tuotetta, joka voisi tuottaa voittoa, mikä on epäilemättä ristiriidassa vastuullisen toiminnan kanssa. Toivotaan, että maalaisjärki voittaa.
Lue myös: