Ensimmäisen persoonan ammuntapelit, kuten Call of Duty, ovat jossain määrin surullisen kuuluisia aulojensa ja äänikeskustelujensa myrkyllisyydestä. Kyselyt kutsuvat franchising-fanijoukkoa pelialan negatiivisimmaksi; kahden pelaajan välinen riita johti kerran erikoisjoukkojen kutsumiseen. Activision on yrittänyt taistella tätä käyttäytymistä vastaan vuosia, ja osa ratkaisusta saattaa liittyä tekoälyyn.
Activision on tehnyt yhteistyötä Modulaten kanssa tuodakseen "pelin sisäisen äänichatin moderoinnin" peleihinsä. Uusi tekoälyteknologiaa käyttävä moderointijärjestelmä nimeltä ToxMod toimii havaitsemaan käyttäytymistä, kuten syrjintää ja häirintää, reaaliajassa.
ToxModin ensimmäinen betatestaus Pohjois-Amerikassa alkaa tänään. Se on aktiivinen Call of Duty: Modern Warfare II:ssa ja Call of Duty: Warzonessa. "Täysi maailmanlaajuinen julkaisu" (se ei sisällä Aasiaa, kuten lehdistötiedotteessa todetaan) tapahtuu 10. marraskuuta, kun Call of Duty: Modern Warfare III julkaistaan, tämän vuoden uusi osa franchisingista.
Modulaten lehdistötiedotteessa ei käsitellä paljoakaan yksityiskohtia siitä, miten ToxMod toimii. Päällä sivusto yritys huomauttaa, että työkalu "valvoo äänikeskusteluja ilmoittaakseen huonosta käyttäytymisestä, analysoi jokaisen keskustelun vivahteet myrkyllisyyden tunnistamiseksi ja antaa moderaattorit reagoida nopeasti jokaiseen tapaukseen tarjoamalla asiaankuuluvan ja tarkan kontekstin." Äskettäisessä haastattelussa yhtiön toimitusjohtaja sanoi, että työkalun tarkoituksena on mennä yksinkertaista transkriptiota pidemmälle. Se ottaa myös huomioon tekijät, kuten pelaajan tunteet ja äänenvoimakkuuden, erottaakseen haitalliset ja humoristiset huomautukset.
On syytä huomata, että työkalu (ainakaan toistaiseksi) ei ryhdy toimiin pelaajia vastaan tietojensa perusteella, vaan lähettää raportteja vain Activisionin valvojille. Ihmisten osallistuminen säilyy todennäköisesti tärkeänä suojakeinona, sillä tutkimukset ovat osoittaneet, että puheentunnistusjärjestelmät voivat osoittaa harhaa siinä, miten ne reagoivat käyttäjiin, joilla on erilainen rodullinen identiteetti ja aksentti.
Lue myös: