Silmänlumetta
Tekoälyn avulla kuka tahansa voi luoda toisista yhä aidompaa ääntä ja kuvaa. Teknologialle on käyttöä opetuksesta rikoksiin.
Voit myös kuunnella jutun ääniversiona. Lukijana toimii a.i.materin koneääni Ilona.
Brittiläisen energiayhtiön toimitusjohtajan puhelin soi maaliskuussa 2019.
Puhelimessa oli hänen pomonsa, saksalaisen emoyhtiön toimitusjohtaja Johannes. Pomo pyysi siirtämään kiireellisesti 220 000 euroa unkarilaiselle pankkitilille. Siirto piti tehdä heti, jotta yritys välttyisi myöhästymissakolta.
Pyyntö oli ”melko outo”, toimitusjohtaja pohti myöhemmin. Hän kuitenkin tunnisti pomonsa puheen sävelen ja lievän saksalaisen aksentin. He olivat jutelleet lukuisia kertoja aiemminkin.
Toimitusjohtaja siirsi rahat. Johannes soitti ja kertoi, että emoyhtiö oli siirtänyt brittiyhtiölle rahaa tilien tasaamiseksi.
Iltapäivällä Johannes soitti taas. Tarvittiin toinen tilisiirto Unkariin. Tällä kertaa puhelu tuli Itävallasta. Aiemmin luvatut tasausrahat eivät vielä näkyneet tilillä ja toimitusjohtajaa alkoi epäilyttää. Hän soitti suoraan numeroon, josta Johanneksen yleensä tavoitti.
Johannes vastasi. Samaan aikaan aiemmasta numerosta yritettiin soittaa. Toimitusjohtaja kuvaili absurdia tilannetta myöhemmin vakuutusyhtiölle: ”Väärä Johannes vaati saada puhua kanssani, kun olin vielä puhelimessa oikean Johanneksen kanssa!”
Brittiyhtiön toimitusjohtaja oli joutunut ensimmäisen tiedetyn syväväärennöshuijauksen uhriksi.
Syväväärennökset ovat kuvia, videoita ja ääntä, jotka näyttävät ja kuulostavat aidoilta, mutta ovat tekoälyn luomia synteettisiä esityksiä. Englannissa käytetään sanaa deepfake.
Teknologialla voidaan lukea äänikirjaa tai palauttaa edesmennyt näyttelijä valkokankaalle. Oslossa on käynnissä projekti, jossa tekoälyn avulla luotu lapsihahmo auttaa poliiseja oppimaan, miten haastatella hyväksikäytön tai väkivallan uhriksi joutuneita lapsia.
Syväväärennösteknologia on kuitenkin kuin keittiöveitsi, jolla voidaan pilkkoa tomaattia tai tehdä henkirikos.
Naisia on jo vuosia nöyryytetty syväväärennetyllä pornolla. Väärennöksiä tehdään paitsi julkisuuden henkilöistä myös tavallisista ihmisistä tai vaikkapa journalisteista. Naisia tekoälyn avulla alastomaksi riisuvalla sovelluksella on luotu alastonkuvia myös lapsista.
Vuonna 2022 useat eurooppalaiset pormestarit luulivat keskustelleensa videopuhelussa Kiovan pormestarin Vitali Klytškon kanssa. Todellisuudessa kyseessä oli taitava syväväärennös.
Berliinin pormestarin Franziska Giffeyn epäilykset heräsivät vasta 15 minuutin keskustelun jälkeen, kun ”Klytško” oli alkanut puhua siitä, miten ukrainalaiset pakolaiset huijaavat Saksan valtiota ja heidät pitäisi palauttaa takaisin Ukrainaan.
Suomessa esimerkiksi pääministeri Sanna Marinista (sd) on nettifoorumilla luotu syväväärennetty äänimalli ja hänen kasvonsa on toistuvasti liitetty pornoon. Katsojan ja kuulijan on kuitenkin edelleen helppo tunnistaa, että kyse on väärennöksistä.