Kanava: Kun teknologia mahdollistaa ihmisten tarkan seurannan, nousee elintärkeäksi kysymys: kuka valvoo valvojaa?

Julkaistu yli kolme vuotta sitten

Totaaliseen seurantaan kykenevien tahojen pitää olla itsekin läpinäkyvästi ja demokraattisesti valvottuja, kirjoittaa Turo-Kimmo Lehtonen Kanava-lehden numerossa 5/2022. Suomen Kuvalehti julkaisee Kanavassa aiemmin julkaistuja tekstejä verkossa.

Digitalisaatio lupaa yrityksille paljon. Samalla kun omia toimintoja voidaan tehostaa, asiakkaiden käyttäytymisen muutoksia pystytään hahmottamaan nopeasti ja jopa ohjaamaan. Digitaalinen seuranta mahdollistaa kuitenkin totalitaarisen valvonnan, jonka piiriin voivat joutua niin kuluttajat, työntekijät kuin eri valtioiden kansalaisetkin. Tällainen valvonta voi muokata myös suomalaisten elämää esimerkiksi silloin, kun uusia finanssipalveluita otetaan käyttöön.

Verkkovälitteisen kaupankäynnin edelläkävijä Amazon on poikkeuksellisen taitava asiakkaidensa käyttäytymisen ennakoinnissa.

Viime aikoina on tuotu esiin, että yritys ohjaa tehokkaasti myös omia työntekijöitään, joiden toimia Amazon tarkkailee huipputeknisillä valvontavälineillä pienimpiä yksityiskohtia myöten. Kun työsuoritusten vaihtelua voidaan seurata reaaliaikaisesti, myös palkan määrää voidaan muunnella herkästi mikrotason ”kannustimiin” nojaten. Kääntöpuolena on, että esimerkiksi vessatauko laskee automaattisesti tulosta.

Vastaavasti varastotyöläinen, joka on vaikean perhetilanteensa takia alisuorittanut monta viikkoa, näkee masentavan elämänvaiheensa seuraukset myös palkkakuitissa. Kun tarkkailua on kaikkialla, yksittäisen työntekijän on vaikea tietää, onko sille katvealueita.

Amazonin ultratehokasta kannustinajattelua on pidetty suunnannäyttäjänä. Kritiikkiä ovat herättäneet yrityksen johdonmukaiset pyrkimykset samaan aikaan torjua työntekijöittensä järjestäytyminen, estää heidän mahdollisuutensa vaikuttaa yhdessä omiin työoloihinsa. The ­Washington Post kuvasi ilmiötä 2.12. 2021 artikkelissa ”Amazon’s employee surveillance fuels unionization efforts: ’It’s not prison, it’s work’.”

Digitaalinen seuranta muuttuu totalitaristiseksi, kun hierarkkinen organisaatio tavoittelee toimintojen täyttä kontrollia ilman, että alamaisilla olisi mahdollisuutta kommunikoida keskenään organisaation luonteesta tai puuttua työn tekemisen ehtoihin. Kommunikaatiota on silloin vain pystysuuntaan, ei sivuttain.

Amazonin hallinta kohdistuu ”vain” sen asiakkaisiin ja työntekijöihin. Samanlainen digitaalisen tarkkailun periaate on viety vielä pidemmälle Kiinan kansantasavallassa.

Niin sanotun sosiaalisen luottojärjestelmän eri muodoissa ihmisten arkista toimintaa seurataan laajasti. Vuorovaikutuksesta viranomaisten, pankkien, kauppojen ja sosiaalisen median kanssa jää digitaalisia jälkiä, jotka kehittynyt tekoäly muuttaa mahdollisuudeksi tarkkailla, palkita ja ohjata kansalaisia.

Periaatteessa kiinalaiset järjestelmät yksinkertaisesti pyrkivät tekemään näkyväksi luotettavuuden perusteita. Jokainen kansalainen voi itse yrittää vaikuttaa asemaansa ja parantaa kaikille näkyvillä olevaa pisteytystään. Amazonin tapaan Kiinan valtio luo yksilöille ”kannustimia” tulotason ja oman yhteiskunnallisen aseman kehittämiseen.

Sosiaaliset luottojärjestelmät ovat kuitenkin totalitaristisia kahdella tavalla.

Ensinnäkin, kuten kapitalistisen talouden ykkösketjun toimija Amazon, myös kommunistiseksi itsensä määrittävä Kiinan kansantasavalta käyttää massiivisesti voimavaroja ehkäistäkseen kansalaisten vuorovaikutusta, jossa itse systeemi voisi tulla arvioiduksi. ”Luottamusta” rakennetaan huipputeknisesti mutta niin, että kansalaisyhteiskuntaa rajoitetaan ankarasti: vapaata poliittista keskustelua ei suvaita. Ihmiset eristetään toisistaan.

Toiseksi valvonnan tekniset toimintaperusteet ja niiden valvonta ovat läpinäkymättömiä. Ihmiset eivät voi tietää, missä määrin digitaalisen vallankäytön ytimessä on mielivalta. Sen sijaan että kansalaiset luottaisivat toisiinsa tai avoimeen poliittiseen keskusteluun, sosiaalisen luottojärjestelmän eri versiot nojaavat siihen, että ihmiset luottavat itse järjestelmään sokeasti – tai pelkäävät sitä niin, että eivät voi olla ottamatta sitä huomioon.

Ovatko Amazonin ja Kiinan kansantasavallan käytännöt sellaisia, että ne voisivat toteutua myös meillä? Vai toteutuvatko ne jo?

Monien yhteiskuntakriitikoiden mielestä digitalisaation totalitaristiset kehityskulut vaikuttavat laajasti niin suuryrityksissä kuin valtiollisessa hallinnassakin. Shoshana Zuboffin huomiota herättänyt kirja The Age of Surveillance Capitalism (2019) kuvaa valvonnan levittäytymistä kuluttajakäyttäytymiseen. Apple, Microsoft, Facebook ja Google muokkaavat algoritmeillaan sitä, miten arjen mahdollisuudet hahmottuvat ihmisille – eikä kukaan oikein edes huomaa itseensä vaikutetun.

Kriitikot pelkäävät, että esimerkiksi finanssiala voi ryhtyä hallitsemaan ihmisten elämää kuten Amazon ohjaa työläisiään ja Manner-Kiina kansalaisiaan. Maiju Tannisen ja Minna Ruckensteinin kanssa olemme tutkineet, miten arkista toimintaa seuraavaa digitaaliteknologiaa on otettu käyttöön Suomessa finanssialalla.

Erityisesti olemme tarkastelleet tuotteita, joissa henkivakuutukseen kytketään itsen digitaalinen mittaaminen: aktiivisuusrannekkeella, älypuhelimella tai -kellolla varustetun asiakkaan terveyttä ja elämäntapoja voidaan seurata vailla katkoja ympäri vuorokauden.

Laitteisto mahdollistaa oman itsen uudenlaisen teknisen tuntemisen: nukunko oikeasti hyvin, liikunko riittävästi, nouseeko pulssi stressaavassa työssä? Seurantaan on mahdollista yhdistää erilaisia muistutuksia. Hälytysääni kertoo, että olisi aika nousta työtuolista, ja 10 000 askeleen kävelemisestä tulee näyttöön hyväksyvä merkintä.

Kun itsetarkkailuteknologia kytketään henkivakuuttamiseen, sekä yritykselle että asiakkaalle luvataan hyviä asioita. Tannisen haastattelemat kuluttajat suhtautuvat positiivisesti vakuuttamisen ja itseseurannan yhdistelmään. Laitteiston saaminen sinänsä voi tuntua houkuttavalta.

Jotkin tarjolla olevista tuotteista antavat lisäksi pienen taloudellisen edun pelkästään siitä, että ihmiset jakavat vakuutusyhtiölle tietoa arjestaan. Toisissa tuotteissa puolestaan bonuksia kertyy, kun ihminen saavuttaa digitaalisesti seurattavat arjen liikuntatavoitteet.

Kuluttajan kannalta ehkä merkittävin lupaus on, että itsetarkkailun, muistutusten tai pelillistyksien avulla voi alkaa oikeasti elää terveemmin. Tämä on tietysti myös vakuutusyhtiölle olennainen tavoite: uusi teknologia auttaa ihmisiä elämään entistä pidempään, ja terveydestään huolta pitävät asiakkaat maksavat kauan vakuutusmaksuja mutta hakevat harvoin korvauksia.

Vakuutusyhtiöillä on muitakin syitä tarjota välineitä elämänhallintaan. Palveluntarjoaja antaa itsestään dynaamisen kuvan, kun se jakaa kuluttajille käyttöön uutta digitaalilaitteistoa. Seurantateknologioiden tavoitteena on myös uudenlainen kumppanuus vakuuttajan ja asiakkaan välillä. Yritys on arjessa mukana muutenkin kuin kerran vuodessa maksun hetkellä.

Suurin lupaus vakuutusalalle kuitenkin liittyy pitkällä aikavälillä massiiviseen tiedon keräämiseen. Ehkä terveyden riskejä voidaan laskea ja hinnoitella entistä tarkemmin, jos väestöstä on yhä kattavammin mikrotasoista tietoa?

Vakuutusala voisi seurata Amazonin ja Kiinan sosiaalisen luottojärjestelmän pyrkimyksiä, tietää valtavasti lisää ihmisten arjesta ja kyetä ohjaamaan sitä.

Ennen kuin tutkimamme vakuutusyhtiöt ovat alkaneet kerätä tietoa, ne ovat kysyneet ihmisiltä asianmukaisesti, hyväksyvätkö he erityisen tiedon keräämisen. Samalla on kerrottu, mitä tietoa ei kerätä.

Tärkeä yksityiskohta Tannisen tekemissä haastatteluissa on, että suuri osa itseseurantaan yhdistyvän henkivakuutustuotteen käyttäjistä on jälkeenpäin kuitenkin hieman epävarma antamansa suostumuksen luonteesta. Sitoutumisen ohikiitävä hetki ei kykene tallentamaan ihmisten muistiin sitä, mitä tietoa minnekin tulevaisuudessa liikkuu minkäkin alustan kautta.

Valtaosa haastatelluista ei silti pidä tietämättömyyttään isona ongelmana. Heillä on suuri luottamus vakuutusyhtiöihin palveluntarjoajina ja datan säilöjinä.

Mikä tällaisen luottamuksen takaa?

Toki Suomessa ollaan muutenkin huolettomia esimerkiksi sen suhteen, miten kauppojen bonusjärjestelmien tallentamia digitaalisia jälkiä käytetään. Myös sosiaalisessa mediassa jaetaan avoimesti tietoa itsestä.

Finanssialan omasta näkökulmasta olisi mukava ajatella, että sen hyvät käytännöt kantavat hedelmää. Jos pankkiasiakkuudesta ei seuraa häiritsevää suoramainontaa eikä tietovuotoskandaalia, kuluttaja luottaa siihen, että data pysyy yhden seinän sisällä.

Vakuutustuotteita suunnittelevien ja myyvien asiantuntijoiden haastattelujen kautta tutkimuksissamme on kuitenkin korostunut vielä tärkeämpi asia luottamuksen taustalla: vakuutusalan ankara sääntely Suomessa ja laajemmin Euroopan unionin sisällä.

Sen puitteissa on tarkkaan rajattu, minkälaisten tietojen perusteella ihmisiä voidaan luokitella vakuutusasiakkaina, miten heidän maksunsa määräytyvät ja miten asiakkaita koskevia tietoja voidaan säilyttää tai käyttää muihin kuin vakuutusalan omiin tarkoituksiin. Finanssitoimijat Suomessa tietävät, että heidän tapansa valvoa ihmisiä on itsessään valvonnan alaista.

Kun digitaaliset teknologiat mahdollistavat yhä tarkemman ihmisten arkisen toiminnan seuraamisen, avainasemaan nousee se, kuka valvoo valvontaa ja miten. Amazonin amerikkalaisilla varastotyöläisillä tai Kiinan sosiaalisten luottojärjestelmien alamaisilla ei ole mahdollista riitauttaa niitä periaatteita, joiden varassa heitä seurataan.

Euroopan unionin alueella tilanne on toinen. Vaikka eurooppalainen sääntelykoneisto voi yksittäisestä kansalaisesta tuntua etäiseltä, se kuitenkin nojaa demokraattiseen hallintamalliin.

Se on periaatteellisesti läpinäkyvää: digitaalista seurantaa harjoittavien yritysten valvontaa hoitavat tahot joutuvat itse tekemään omat päätöksensä julkisesti ja perustelemaan ne. Valvonnan valvonta ei voi olla mielivaltaista.

Digitaalisen totalitarismin astetta ei määrää se, onko sen takana valtio vai valtion kokoinen yritys. Kumpikin saattaa pyrkiä toiminnassaan erottamaan ihmiset toisistaan. Kumpikin voi myös piilotella omien valvontakäytäntöjensä periaatteita.

Sen sijaan viime vuosina eurooppalaisessa lainsäädännössä on voimakkaasti otettu kantaa siihen, miten digijätit saavat käsitellä tietojaan ihmisistä ja miten näitä tietoja voidaan myydä eteenpäin. Sääntelyn perustuminen demokraattisiin instituutioihin ja niiden läpinäkyvyyteen on ainoa tae sille, että emme joudu arjessamme digitaalisen totalitarismin alamaisiksi, vaikka siihen olisi tekniset mahdollisuudet.

Kirjoittaja Turo-Kimmo Lehtonen on sosiologian professori Tampereen yliopistossa.

Teksti on julkaistu ensi kertaa Kanavassa 5/2022. Kanavan voit tilata täältä. Suomen Kuvalehti ja Kanava kuuluvat samaan mediaperheeseen Otavamediassa ja niillä on yhteinen päätoimittaja.