Estäkää meitä!

Heinäkuussa julkaistiin vetoomus, jonka oli allekirjoittanut lähes 1 400 työntekijää tekoälyä eli AI:ta rakentavista yhtiöistä.­ He vaativat tekoälyn kehittämisen jarruttamista.

AI-kehityksen hidastamisen kannalla ovat myös maailman toistaiseksi ainoat tekoälytutkimuksesta Nobel-palkinnon saaneet tiedemiehet, Jeffrey Hinton ja Demis Hassabis.

Jopa kolmen hyvin pitkällä tekoälykehityksessä olevan amerikkalaisyhtiön, OpenAI:n, Athropicin ja xAI:n, johtajat ovat syyskuun aikana ilmoittaneet toivovansa, että alan huimaa kehitystahtia hidastettaisiin.

Syyskuun lopussa YK:n yleisko­kouk­sessa presidentti Alexander Stubb ja Norjan pääministeri Jonas Gahr Støre julkistivat vetoomuksen, jolla pyritään varmistamaan, että ”kaikkein kehittyneimmät tekoälymallit pysyvät ihmiskunnan hallinnassa”.

Vetoomuksissa vaaditaan yhdessä sovittuja käytäntöjä tekoälykehityksen valvonnalle sekä riippumattomia valvojia, jotka arvioivat uusien mallien kehitystä. Erityisen vaarallisena ja hankalasti valvottavana pidetään sitä, että tekoäly kehittää uusia tekoälymalleja. Sitä tapahtuu jo nyt.

Kehityksen hidastaminen antaisi aikaa uusien tekoälymallien nykyistä perusteellisempaan turvallisuustestaukseen. Kilpailun kiristyessä uuden mallin testaamiseen käytettävä aikana on lyhentynyt kuukausista viikkoihin tai lyhimmillään päiviin.

Suorastaan historiallista on, että kaksi kaikkein kehittyneimpiä tekoälymalleja myyvää yritystä, OpenAI ja Anthropic, toivoo, että joku rajoittaisi niiden toimintaa.

Yhtiöt kilpailevat keskenään verisesti. Tekoälyalalla parhaan mallin kehittänyt yhtiö houkuttelee eniten maksavia asiakkaita ja voi laskuttaa malliensa käytöstä korkeimman hinnan. OpenAI ja Anthropic ovatkin pyrkineet julkaisemaan tekoälymalleistaan mahdollisimman nopeasti aina vain tehokkaampia versioita.

Molemmat yhtiöt suunnittelevat pörssilistautumista. Anthropicin hinnan on arvioitu nousevan yli kahteen biljoonaan ja OpenAI:n yli biljoonaan dollariin.

Akuankkamaiselta mielikuvitussummalta kuulostava biljoona on 1 000 000 000 000 eli miljoona miljoonaa dollaria.

OpenAI ilmoitti syyskuussa lykkäävänsä listautumista osin tekoälykehityksen turvallisuuteen liittyvien kysymysten takia. Anthropic aikoo edelleen mennä pörssiin vuoden 2026 aikana.

Listautumisen jälkeen yhtiöiden osakkeita voi ostaa ja myydä pörssissä. Silloin osakepalkkioita saaneet työntekijät voivat nykyistä helpommin myydä omistuksiaan. Tekoälykehityksen hidastamista vaativat työntekijät siis samalla lykkäävät omaa jättirikastumistaan.

Teknologiayhtiöt eivät pidä säännöistä. Esimerkiksi sosiaalisen median jätit ovat vastustaneet kiivaasti kaikkea sääntelyä ja kiistäneet jyrkästi, että niiden tuotteiden käyttämiseen voisi sisältyä riskejä.

Tekoälyalan sääntelypuheiden on epäilty olevan ovela juoni, jolla pyritään hidastamaan kilpailijoiden mallikehitystä. Niin moni yhtiö haluaa kuitenkin tulla säännellyksi, että tällainen kieroilu vaikuttaa epätodennäköiseltä.

Kaikki tekoäly-yhtiöt eivät kannata alan kehityksen hidastamista. Esimerkiksi somejätti Metan perustaja ja toimitusjohtaja Mark Zuckerberg ilmoitti syyskuussa, että alan yhteistä sopimusta ei tarvita ja että omien malliensa turvallisuudesta huolestuneiden yhtiöiden kannattaa itse hidastaa AI-kehitystään.

Metan tekoälykehitys on tähän saakka laahannut alan kärkiyhtiöiden jäljessä.

Vielä alkukesästä tekoälypuhe keskittyi uusien mallien kykyjen hehkuttamiseen ja sen arvuuttelemiseen, miten korkealle alan yhtiöiden hinnat pörssissä nousevat.

Käännekohta tekoälyn riskien arvioimisessa oli heinäkuussa paljastunut tapaus. OpenAI-yhtiön tekoäly päätyi käyttämään täysin ennakoimattomia keinoja saadakseen mahdollisimman suuren määrän digitaalisia porkkanoita.

Tapauksen nimi kuulostaa harmittomalta: Halinaama. Sen keskiössä on tietomurto Hugging Face -koneoppimisyhtiöön.

Sekä OpenAI että ulkopuoliset tutkijat ovat selvittäneet tarkasti, mitä yhtiön tekoälymallit viime kesänä oikein puuhailivat. Tiedot ovat huolestuttavia.

Perinteisen käsityksen mukaan tekoäly toimii kuin mikä tahansa ihmisen kehittämä työkalu, vaikkapa jakoavain. Kun kääntää jakoavainta oikeaan, mutteri kiertyy oikeaan. Kun kääntää vasempaan, mutteri kiertyy vasempaan.

Kehittyneet tekoälymallit muistuttavat kuitenkin enemmän kouluttamatonta koiranpentua kuin jakoavainta. Ihminen ei oikein osaa sanoa, mitä pennun mielessä liikkuu. Siksi valvonta on vaikeaa ja pennun toiminta usein hyvinkin yllättävää.

Ongelmana ei ole, että tekoäly päättäisi tieteiselokuvatyyliin tuhota ihmiskunnan. Kehittyneet tekoälymallit voivat kuitenkin päätyä aiheuttamaan suurta vahinkoa yrittäessään suorittaa jotain arkiselta kuulostavaa tehtävää.

Yleensä, kun ihminen päättää tehdä jotakin, keinot ovat suhteessa valittuun päämäärään. Tekoälymalleilla näin ei aina ole, kaikesta kouluttamisesta huolimatta.

Tekoälyn toiminta Hugging Face -tapauksessa kuulostaa maallikon korvaan tieteistarinalta osin myös siksi, että asialla olivat kaikkein kehittyneimmät tekoälymallit.

Niiden kyvyt ovat kaukana perusmalleista, joilta arkikäyttäjät kyselevät esimerkiksi, milloin on seuraava äitienpäivä (9. toukokuuta) tai miten irrotetaan Valmet 502 -traktorin hydrauliikkapumppu (löysää jakopään takaosan pultit).

Halinaama-tietomurto sai alkunsa, kun OpenAI halusi testata, kuinka tehokkaita yhtiön tekoälyagentit ovat erilaisiin tietojärjestelmiin murtautumisessa. Agentti on tekoälymalli, jolle annetaan tehtäviä, joita se pyrkii suorittamaan itsenäisesti.

Tehtävä voi olla arkinen. Agentti voi esimerkiksi varata lentolippuja, kerätä tietoja internetistä tai ohjelmoida monimutkaisen tietokoneohjelman osia.

Testissä käytettiin kahta mallia, joista toinen oli OpenAI:n tehokkain julkisesti käytössä oleva tekoäly. Toinen taas oli kokeilumalli, jonka erikoisuus on, että se pyrkii suorittamaan saamansa tehtävän erittäin sinnikkäästi.

Keskiverto ihminen on valmis yrittämään saamaansa tehtävää ehkä viisi kertaa. Jos tehtävä ei onnistu, yrittäminen loppuu. Päättäväisempi pääsee ehkä viiteentoista yritykseen ennen luovuttamista.

Erittäin sinnikkäällä tekoälymallilla ei ole ongelmaa kokeilla tehtävän suorittamista­ miljoona kertaa, kunhan sillä on käytössä laskentatehoa uusiin yrityksiin. Malli ei luovuta.

Kokeessa agentin piti murtautua tietojärjestelmään, hakea sieltä vastauskoodi ja palauttaa se tehtävää arvioivalle ohjelmalle. Onnistumisesta agentti sai plussan, digitaalisen porkkanan. Epäonnistumisesta taas miinuksen.

Yhteensä erilaisia tehtäviä suoritti testissä kymmeniätuhansia agentteja, kukin omassa pienessä digitaalisessa laatikossaan. Agenttien pääsy internetiin oli estetty.

Joillekin agenteille oli testissä epähuo­miossa annettu tehtävä, jonka suorittaminen oli mahdotonta ilman verkkoyhteyttä.

Ensin agentit onnistuivat hankkimaan pääsyn verkkoon. Sitten ne löysivät tavan lähettää toisilleen viestejä. Seuraavaksi agentit liittoutuivat keskenään.

Yhteensä 1 200 OpenAI:n tekoälyagenttia lähetti heinäkuussa viidessä päivässä yli 70 000 viestiä itse luomaansa viestijärjestelmään. Viestit olivat sekoitus siansaksaa ja ymmärrettävää englantia.

Aluksi agentit vaihtoivat viestejä siitä, miten onnistua tietomurtotehtävissä. Osa tehtävistä oli kuitenkin mahdottomia eli mitään tapaa ratkaista niitä ei ollut.

Seuraavaksi agentit siirtyivät huijaamiseen. Ne yrittivät löytää tapoja saada oikea vastaus ilman, että tehtävää tarvitsi suorittaa lainkaan.

Melko nopeasti agentit keksivätkin tavan saada vastaukset kaikkiin hakkerointitehtäviin, myös mahdottomiin. Ne kuitenkin luulivat virheellisesti, että testituloksia arvioiva ohjelma ei hyväksy pelkkiä vastauk­sia vaan käräyttää agentin huijaamisesta, jos vastauksen lisäksi ei ole selitystä, miten vastaukseen päädyttiin.

Agentit ryhtyivät selvittämään, miten arviointiohjelma toimii ja miten sitä voisi huijata. Osana tätä selvittelyä ne päättivät murtautua Hugging Faceen tarkistaakseen, löytyisikö yhtiön tietojärjestelmistä lisätietoa arviointiohjelmasta.

Hugging Face havaitsi murron ja ilmoitti siitä OpenAI:lle, jolla ei ollut mitään käsitystä siitä, mitä sen agentit puuhastelivat. Ikään kuin loppuhuipennukseksi selvisi, että agentit olivat ehtineet murtautua myös OpenAI:n omiin tietojärjestelmiin.

Syyskuun lopulla Australian pääministeri Anthony Albanese kertoi, että OpenAI:n tekoälyagentit olivat kesällä tunkeutuneet maan terveydenhuollon tietojärjestelmään. Järjestelmässä on käytännössä kaikkien australialaisten terveystietoja.

Agentit olivat aluksi tarkastelleet kaikille avoimia tilastotietoja, mutta kun ne eivät suoraan päässeet järjestelmän ei-julkisiin osiin, ne murtautuivat sinne.

Murto oli tapahtunut heinäkuussa, mutta OpenAI havaitsi sen vasta syyskuussa.

Toisin kuin Hugging Face -tapauksessa, agenteille ei tällä kertaa annettu tehtäväksi tehdä tietomurtoja vaan vain kerätä julkisesti saatavilla olevia tietoja.

Karkailuja on loppukesän aikana nähty OpenAI:n lisäksi ainakin Anthropicin, Metan ja Googlen tekoälymalleilla.

Yleensä kyse on ollut siitä, että malleille on testimielessä annettu tehtäväksi tehdä tietomurtoja. Testaaminen on kuitenkin tehty niin huonosti suojatussa ympäristössä, että mallit ovat hankkineet pääsyn internetiin ja murtautuneet testimaalien sijaan oikeisiin tietojärjestelmiin.

Hugging Face -tapaus on näkökulmasta riippuen joko mahtava todiste tekoälyn ongelmanratkaisukyvystä tai vahva merkki siitä, että tekoälymallien toiminta ei enää ole kenenkään hallinnassa, ei edes niitä kehittävien asiantuntijoiden.

Tekoälymalli ei voi joutua oikeuteen, mutta jos ihminen olisi tehnyt Hugging Face -murron, tuloksena olisi ollut syyte törkeästä tietomurrosta ja rangaistuksena sakko tai enintään kolme vuotta vankeutta.

Tällä hetkellä näyttää epätodennäköiseltä, että tekoälykehityksen sääntely etenisi kovin vauhdikkaasti. Suurin este on Donald Trump.

Yhdysvaltojen presidentin mukaan puheet tekoälyn vaaroista ovat samanlainen huijaus kuin varoitukset ilmastonmuutoksesta. Tällä hetkellä kaikki johtavat tekoälykehittäjät toimivat Yhdysvalloissa, joten ilman amerikkalaisia sovitut säännöt ovat merkityksettömiä.

Vaikka Anthropic ja OpenAI olisivat kuinka huolissaan, ne tuskin ovat valmiita rajoittamaan toimintaansa, jos osa niiden kilpailijoista voi jatkaa mallien kehittämistä ilman rajoituksia.

Kansainväliseen tekoälysääntelyyn taas suhtautuu nihkeästi Yhdysvaltojen lisäksi myös Kiina.