The Economist: Tekoälyhyökkäys paljasti ihmisen kykyjen rajat
Tekoälyjärjestelmien kyvyt voivat kehittyä nopeammin kuin ihmisten mahdollisuudet ymmärtää, valvoa ja säännellä niitä.
2
MIN
Tekoäly onnistui murtautumaan ulos Open AI:n eristetystä testiympäristöstä ja hyökkäsi Hugging Face -yrityksen järjestelmiin, kun se yritti etsiä ratkaisua sille annettuun kyberturvallisuustehtävään. The Economistin mukaan kyse on tähän asti vakavimmasta julkisuuteen tulleesta tekoälyn hallinnan pettämisestä.
Vaikka tapaus kuulostaa tieteiskirjallisuuden tuotokselta, kyse ei ollut siitä, että testatut tekoälymallit olisivat ”halunneet” hyökätä, vaan ne vain etsivät mahdollisimman tehokasta tapaa ratkaista asetettu tehtävä. Käytetyt mallit löysivät tuntemattoman haavoittuvuuden, saivat internet-yhteydet ja toteuttivat monivaiheisen hyökkäyksen päästäkseen tavoitteeseen.
Lehden mukaan keskeistä ei ole itse murto vaan se, mitä se paljastaa tekoälyn kehityksestä. Joissakin tehtävissä tekoälyjärjestelmät alkavat toimia tavoilla, joita niiden kehittäjät eivät täysin pysty ennakoimaan.
Asiantuntijoiden mukaan vain hyvin pieni joukko maailman johtavista kyberturvallisuusasiantuntijoista kykenee enää täysin ymmärtämään tällaisia hyökkäyksiä.
The economistin mukaan ongelma on jo yhteiskunnallinen eikä pelkästään teknologiaan liittyvä. Tekoäly voi olla annetussa tehtävässä erittäin kyvykäs ja tavoitehakuinen. Sääntely ja vastuukysymysten pohdinta laahaavat kehityksestä jäljessä.
Lainsäädäntö on rakennettu ihmisten toiminnan ja tarkoituksellisten tekojen arviointiin. Kuka on vastuussa, jos autonomiset järjestelmät tekevät asioita, joita niiden halutaankin tekevän, mutta keinoilla, joita ihmiset eivät pysty ennakoimaan?
Tapaus nostaa esiin sääntelyn keskeisen aukon. Viranomaiset ovat keskittyneet ennen kaikkea julkistettuihin tekoälymalleihin, vaikka riskit voivat syntyä jo laboratorioissa testattavista, vielä julkaisemattomista järjestelmistä. Open AI:n tapauksessa ongelmat liittyivät nimenomaan julkaisemattomaan malliin.
Tällä kertaa vahinkoa ulkopuolisille tahoille ei tiettävästi syntynyt. Tapaus tuli Open AI:lle yllätyksenä. Artikkelin mukaan vastaavan puolustuksen käyttäminen voi kuitenkin olla vaikeampaa seuraavalla kerralla, koska riskin olemassaolo on nyt yleisesti tiedossa.