Perjantaina Kokon perustaja Rob Morris ilmoitti klo Twitter, että hänen yrityksensä suoritti kokeen tarjotakseen tekoälyn kirjoittamia mielenterveysneuvoja 4 XNUMX ihmiselle ilman ennakkoilmoitusta, raportoi The Verge. Kriitikot pitivät kokeilua erittäin epäeettisenä, koska Koko ei saanut tietoista suostumusta neuvoja pyytäneiltä ihmisiltä. Koko on voittoa tavoittelematon mielenterveysalusta, joka yhdistää mielenterveyshuoltoa tarvitsevat teini-ikäiset ja aikuiset vapaaehtoisiin viestintäsovellusten, kuten esim. Telegram ja Discord.
Discordissa käyttäjät kirjautuvat Koko Cares -palvelimelle ja lähettävät suoria viestejä Koko-botille, joka kysyy joukon monivalintakysymyksiä (esim. "Mikä on synkin ajatus sinulla tästä?"). Sen jälkeen se jakaa henkilön huolen nimettömästi muutaman tekstin muodossa jollekin muulle palvelimella, joka voi vastata nimettömästi omalla lyhyellä viestillään.
https://twitter.com/RobertRMorris/status/1611450197707464706?ref_src=twsrc%5Etfw%7Ctwcamp%5Etweetembed%7Ctwterm%5E1611450197707464706%7Ctwgr%5Ea36b67a72ef02f3601dfae160441f1250a68dc2a%7Ctwcon%5Es1_c10&ref_url=https%3A%2F%2Farstechnica.com%2Finformation-technology%2F2023%2F01%2Fcontoversy-erupts-over-non-consensual-ai-mental-health-experiment%2F
Tekoälyn (AI) kokeessa, joka käsitti noin 30 3 viestiä, Morris sanoi, muita auttavilla vapaaehtoisilla oli mahdollisuus käyttää OpenAI:n GPT-3:n suuren kielimallin automaattisesti luomaa vastausta sen kirjoittamisen sijaan. itsenäisesti (GPT-XNUMX on teknologia äskettäin suosittu ChatGPT-chatbot). Twiitissään Morris huomauttaa, että ihmiset ylistivät tekoälyn luomia vastauksia, kunnes he saivat tietää, että ne olivat tekoälyn kirjoittamia, mikä viittaa tietoisen suostumuksen puutteeseen ainakin yhdessä kokeen vaiheessa:
"Tekoälyn kirjoittamat (ja ihmisten hallitsemat) viestit arvioitiin huomattavasti korkeammalle kuin ihmisten itsensä kirjoittamat viestit. Vastausaika lyheni 50 % alle minuuttiin. Ja silti… poistimme tämän ominaisuuden alustastamme melko nopeasti. Miksi? Kun ihmiset huomasivat, että viestit oli luotu koneella, se lakkasi toimimasta. Simuloitu sympatia näyttää oudolta, tyhjältä."
Palvelimen johdannossa järjestelmänvalvojat kirjoittavat: ”Koko yhdistää sinut todellisiin ihmisiin, jotka todella ymmärtävät sinua. Ei terapeutteja, ei ohjaajia, vain sinunlaisiasi." Pian sen jälkeen, kun Morris oli lähettänyt viestin, hän sai monia vastauksia, joissa kritisoitiin kokeilua epäeettiseksi, vedoten huoleen tietoisen suostumuksen puutteesta ja kyseenalaistaen, oliko Institutional Review Board (IRB) hyväksynyt kokeilun. Yhdysvalloissa on laitonta tehdä tutkimusta ihmisillä ilman laillisesti tehokasta tietoista suostumusta, ellei IRB päätä, että suostumuksesta voidaan luopua.
Twiitissä Morris sanoi, että kokeilu oli "vapautettu" tietoisen suostumuksen vaatimuksista, koska hänellä ei ollut suunnitelmia julkaista tuloksia, mikä herätti raivoa.
Ajatus tekoälyn käyttämisestä terapeuttina ei ole kaikkea muuta kuin uusi, mutta Kokon kokeilu eroaa tyypillisistä tekoälyhoidon lähestymistavoista on se, että potilaat tietävät, etteivät he puhu elävälle henkilölle. Kokon tapauksessa alusta sisälsi hybridilähestymistavan, jossa ihmisvälittäjä saattoi tarkistaa viestin ennen sen lähettämistä suoran chat-muodon sijaan. Ilman tietoista suostumusta kriitikot kuitenkin sanovat Koko rikkoneen eettisiä sääntöjä, joiden tarkoituksena oli suojella haavoittuvia ihmisiä haitallisilta tai julmilta tutkimuskäytännöiltä.
Entisenä IRB-jäsenenä ja puheenjohtajana olet tehnyt ihmisaiheiden tutkimusta haavoittuvassa asemassa olevasta väestöstä ilman IRB:n hyväksyntää tai vapautusta (SINÄ et saa päättää). Ehkä MGH IRB process on niin hidas, koska se käsittelee tällaisia asioita. Pyytämättömät neuvot: asianajaja ylös
- Daniel Shoskes (@dshoskes) Tammikuu 7, 2023
Maanantaina Morris julkaisi postauksen, joka vastasi kiistaan ja selitti Kokon matkaa GPT-3:een ja tekoälyyn yleensä: ”Saan tästä työstä kritiikkiä, huolenaiheita ja kysymyksiä empatialla ja avoimuudella. Olemme sitoutuneet varmistamaan, että tekoälyn käyttö on arkaluontoista, ja olemme syvästi huolissamme yksityisyydestä, avoimuudesta ja riskien vähentämisestä. Kliininen neuvottelukuntamme kokoontuu keskustelemaan tulevan työn suuntaviivoista, mukaan lukien IRB-hyväksyntä."
Voit auttaa Ukrainaa taistelemaan venäläisiä hyökkääjiä vastaan. Paras tapa tehdä tämä on lahjoittaa varoja Ukrainan asevoimille Pelasta elämä tai virallisen sivun kautta NBU.
Lue myös: