Tekoäly tehostaa vihapuheen moderointia, mutta sääntely on jäänyt katveeseen
Tekoäly ei pysty tunnistamaan esimerkiksi ironiaa, ellei opetusaineistona käytettyjen viestien kontekstia ole käyty huolella läpi.
4
MIN
Tekoälyä käytetään vihapuheen moderoinnissa jo laajasti erilaisilla verkkoalustoilla, kuten sosiaalisessa mediassa. Tekoälymoderointia käyttävät esimerkiksi suuret teknologiayritykset kuten Meta, jonka alustoilla vihapuhe voi ilmetä esimerkiksi meemien muodossa.
EU:n tietosuojalaki velvoittaa yritykset kertomaan käyttäjille tekoälyavusteisesta moderoinnistaan, jos henkilötietoja on käytetty tekoälymallin kehittämisessä tai tuotannossa, sanoo tekoäly- ja strategiakonsultti Mari-Sanna Paukkeri.
Moderoitavat kommentit tulkitaan tietosuojalain mukaan henkilötiedoiksi, jos ne ovat vähänkään pidempiä ilmaisuja kuin esimerkiksi ”ok”. EU:n digipalveluasetus velvoittaa internetin välityspalveluiden tarjoajien, pois lukien mikro- ja pienyritysten, raportoimaan moderoinnista.
Vihapuhetta voidaan valvoa monenlaisten keinojen, kuten koneoppimisen avulla. Koneoppimista käyttävä järjestelmä oppii Paukkerin mukaan tunnistamaan vihapuheen opetusaineiston perusteella.
