Igre imaju moć da povežu ljude širom svijeta u uživanju i timskom radu, ali mogu stvoriti i prostor za toksični govor i mržnju. Kompanija Activision negativne stvari želi svesti na minimum te je najavila saradnju s kompanijom Modulate.
Kompanija Modulate koristi tehnologiju koja identifikuje toksični govor i govor mržnje, a Activision će je koristiti za direktno moderiranje glasovnog chata u igri “Call of Duty: Modern Warfare III”.
Modulateov AI sistem pod nazivom ToxMod identifikuje prijetnje poput govora mržnje, radikalizacije i samopovređivanja u realnom vremenu i radi u tri koraka, a to su trijaža, analiza i eskalacija. ToxMod “sluša” sve govorne chatove i pronalazi one koji zahtijevaju detaljni pregled. Svi označeni podaci se pohranjuju na Modulateove servere, dok se svi ostali obrađuju direktno. Nakon toga kompanija analizira sve, od tona do emocije, odnosno ne samo ono što je rečeno, nego i način na koji je rečeno i kako su drugi igrači odgovorili na to. U konačnici obavještava moderatore o najtoksičnijim incidentima te im prepušta da poduzmu mjere. Kompanija tvrdi da je riječ o “jedinom rješenju za moderiranje glasovnog chata” koje je trenutno dostupno te da je dosad zaštićeno “na desetine miliona igrača”.
Integracija ToxModa bi mogla pomoći u sprečavanju toksičnih odgovora u cjelini sarađujući s postojećim sistemima fokusiranim na tekst te sistemima za prijavljivanje.
“Borba protiv toksičnog glasovnog chata je već dugo veliki izazov u svijetu gaminga. U ovoj saradnji donosimo Modulateovu vrhunsku tehnologiju mašinskog učenja koja se može primjenjivati na globalnom nivou u realnom vremenu. To je ključni korak u stvaranju i održavanju, zabavnog, fer i prijatnog iskustva za sve igrače”, izjavio je Activisionov direktor Michael Vance.
ToxMod je sada dostupan u engleskoj beta verziji u Sjevernoj Americi za igru “Call of Duty: Modern Warfare II” i “Call of Duty: Warzone”, dok će globalno biti dostupan s izuzetnom Azije kada na tržište 10. novembra stigne igra “Call of Duty: Modern Warfare III”.
