Alexan toimintahistoriasta kuvakaappauksia julkaisseneen vanhemman mukaan Amazonin ääniassistentti antoi lapsen haasteen pyytäessä esimerkin tappavasta kokeesta sähköllä ja poisti sen kuvauksen satunnaisen artikkelin kontekstista. Echo-kolumni kertoi TikTok-fanien suosimasta kokeesta kolikon ja älypuhelimen laturin käytöllä – sen toteuttamisen jälkeen tapahtuneista tapahtumista, loukkaantumisista ja tulipaloista uutisoitiin useammin kuin kerran eri medioissa. Ilmeisesti laite sai idean tähän haasteeseen artikkelista, jossa se kuvattiin vaaralliseksi, viitaten raporttiin väitetystä olemassa olevasta TikTok-haasteesta.
Christine Livdahlin ottaman kuvakaappauksen mukaan, kun Echoa pyydettiin "näytä minulle tehtävä", hän vastasi: "Tässä on jotain, jonka löysin verkosta." Ourcommunitynow.com-sivuston mukaan tehtävä on yksinkertainen: "laita puhelimen laturi noin puoliväliin pistorasiaan ja kosketa sitten paljaita nastaa pennillä."
BBC:lle antamassaan lausunnossa Amazon vahvisti Alexan käyttäytymisen ja sanoi: "Heti kun saimme tietää tästä virheestä, ryhdyimme välittömästi toimiin sen korjaamiseksi." Livdahl twiittasi eilen, että haastepyyntö ei enää toiminut. Verkkokäyttäjät testasivat pyyntöä myös Alexan kanssa ja saivat samanlaisen tuloksen.
OMFG Minun 10-vuotias pyysi juuri Alexalta haastetta Echossamme, ja näin hän sanoi. kuva.twitter.com/HgGgrLbdS8
- Kristin Livdahl (@klivdahl) Joulukuu 26, 2021
Amazon ei ole ainoa yritys, joka on kohdannut ongelmia verkkosisällön analysoinnissa. Lokakuussa käyttäjä ilmoitti, että Google näytti mahdollisesti vaarallisia neuvoja yhdessä katkelmissaan, jos kirjoitit Googleen "sinulla on kohtaus, mitä tehdä" - tiedot on otettu verkkosivun osiosta, jossa kuvataan mitä ei. tehdä, jos jollakulla on kohtaus. Käyttäjät ovat kuitenkin raportoineet muista samankaltaisista ongelmista, mukaan lukien yksi käyttäjä, joka ilmoitti, että Google palauttaa tuloksia ortostaattisesta hypotensiosta etsiessään ortostaattista hypertensiota, ja toinen on julkaissut kuvakaappauksen Googlesta, joka näyttää kauheita neuvoja surevan ihmisen lohduttamiseen, kuten "Iloinen, että sinä kaikki hyvin" tai "Älä ole surullinen! Piristy!".
Google-haun yhteenveto vs. varsinainen sivu kuva.twitter.com/OJxt1FrBqh
— soft.linden (｡•̀ᴗ-)✧ (@pehmeä) Lokakuu 16, 2021
Olemme myös nähneet varoituksia vaarallisesta käytöksestä tehostaneen ongelmaa entisestään – aiemmin tässä kuussa jotkin Yhdysvaltojen koulupiirit asetettiin lukituksiin TikTokissa tapahtuneiden ampumisuhkausten vuoksi. Kävi ilmi, että sosiaalinen myrsky johtui pääasiassa siitä, että ihmiset puhuivat uhista, paljon enemmän kuin todellisuudessa olemassa olevista uhista. Alexan tapauksessa algoritmi poimi varoituksen kuvaavan osan ja vahvisti sitä ilman alkuperäistä kontekstia. Vaikka vanhemmat olivat paikalla puuttumaan asiaan välittömästi, on helppo kuvitella tilanne, jossa näin ei ole, ja sen seuraukset.
Livdahl twiittasi, että hän käytti tilaisuutta "keskustella Internet-turvallisuudesta lapsensa kanssa eikä luota lukemaanne ilman tutkimusta ja vahvistusta", minkä suosittelemme myös sinun tekevän.
Lue myös: