Tappajarobotit tulevat – täysin ilman ihmistä toimivat aseet ovat pian totta

SK:n arkistosta: Armeijat haluavat siirtää koneille päätöksen elämästä 
ja kuolemasta.
Tiede 8.5.2014 10:20
Pekka Vahvanen

Huoltokuljetuksiin tarkoitettu LS3-robotti pysyy pystyssä vaikeassakin maastossa. © Boston Dynamics

Juttu on julkaistu ensi kerran Suomen Kuvalehdessä 45/2013.

 

Jalkajousi on epäreilu ja moraaliton sodankäynnin väline. Sillä kun pystyy vahingoittamaan vihollista kaukaa ja yllättäen.

Näin ajattelivat monet, kun asetta alettiin käyttää Euroopassa.

Sotilasteknologian uudistukset herättävät aina vastarintaa. Ajan myötä uudet aseet on kuitenkin nähty välttämättömiksi. Mutta kulkeeko silti jossain ehdoton moraalinen raja, jota ei voi ylittää?

Ydinaseita käytettiin ensin, sitten niitä on vastustettu. Mutta ansaitsisivatko ne kuitenkin Nobelin rauhanpalkinnon, sillä niiden olemassaolo esti kolmannen maailmansodan syttymisen Yhdysvaltojen ja Neuvostoliiton välillä?

Nyt teknologisesti edistyneimmät armeijat kehittävät robottiaseita, jotka voidaan ohjelmoida tappamaan vihollisia ilman ihmisen ohjausta. Yhdysvaltain ja Britannian puolustusvoimat pitävät mahdollisena, että täysin autonomiset asejärjestelmät olisivat käytössä seuraavalla vuosikymmenellä.

 Israelilla on kauko-ohjattuja robottiaseita Gazan-rajallaan. Kuva Zachi Evenor.


Israelilla on kauko-ohjattuja robottiaseita Gazan-rajallaan. Kuva Zachi Evenor.

 

Sodan ulkoistaminen itsenäisille koneille huolestuttaa robotiikan tutkijoita.

”On suuri eettinen kysymys, haluammeko antaa koneille vallan päättää elämän ja kuoleman kysymyksistä”, sanoo tohtori Jürgen Altmann, Dortmundin teknillisen yliopiston kokeellisen fysiikan tutkija.

”Lisäksi nämä järjestelmät tekevät sodankäynnin tietyille valtioille yhä helpommaksi ja siten todennäköisemmäksi.”

Altmann on kirjoittanut robottiaseiden ongelmista 2000-luvun alusta asti. Vuonna 2009 hän perusti robottiaseita vastustavan järjestön tutkijoiden Noel Sharkeyn, Peter Asaron ja Robert Sparrow’n kanssa.

Huoli on aiheellinen. Lähes täysin autonomisia aseita käytetään jo.

 

Yhdysvaltain laivaston aluksien Aegis-puolustusjärjestelmän aseet ampuvat alas uhkaavat hävittäjät ja ohjukset, jos ihminen ei parissa sekunnissa pyörrä koneen päätöstä. Kynnys siihen on korkea.

Vuonna 1988 Aegis ampui Persianlahdella alas iranilaisen siviililentokoneen, jonka 290 matkustajaa kuolivat. Järjestelmä oli tulkinnut sen vihollisen hävittäjäksi. Epäilyistään huolimatta aluksen sotilaat eivät uskaltaneet kumota koneen arviota.

Autonomian rooli kasvaa myös miehittämättömissä lennokeissa. Jotkut tiedustelulennokit pystyvät jo lentämään ilman ihmisen kauko-ohjausta.

Yhdysvallat tekee suuren osan sotilaallisista iskuistaan kauko-ohjattavilla lennokeilla. Koska kone pystyy tekemään ihmistä nopeammin ja tarkemmin ratkaisut taistelutilanteessa, kauko-ohjauksen poistaminen on seuraava askel.

Yhdysvaltain ohella robottiaseiden kehityksen kärkimaita ovat Britannia, Israel ja Etelä-Korea.

Etelä-Korean SGR-A1-jalkaväkirobotti on tarkoitettu valvomaan Etelä- ja Pohjois-Korean rajaa. Se tunnistaa tunkeutujat ja ampuu ihmisten hyväksymät kohteet. Robotti on teoriassa mahdollista kytkeä myös täysin automaattiseksi. Silloin kone tekee päätökset myös tulen avaamisesta.

Yhdysvaltain käyttämän TALON-robotin aseistettu versio ei ole vielä saanut lupaa käydä taisteluja.

Yhdysvaltain käyttämän TALON-robotin aseistettu versio ei ole vielä saanut lupaa käydä taisteluja.

Tavalliset ihmiset eivät robottiaseita halua, väittää Stephen Goose, joka vastaa ihmisoikeusjärjestö Human Rights Watchissa aserajoituskysymyksistä.

”Monet kummastelevat, miksi armeijat haluavat tappajarobotteja. Kadunmiehen luontainen reaktio autonomisiin aseisiin on, ettei tällaisen teknologian kehittäminen ole oikein.”

Human Rights Watchilla on aikaisemmin ollut merkittävä rooli sopimuksissa, jotka ovat kieltäneet maamiinat ja rypälepommit. Nyt se koordinoi Pysäyttäkää tappajarobotit (Stop Killer Robots) -kampanjaa. Siihen on liittynyt yli 40 järjestöä, myös Altmannin International Committee for Robot Arms Control (ICRAC). Tavoitteena on kieltää robottiaseiden kehittäminen ja käyttäminen.

Massachusettsin yliopiston kyselyn mukaan 55 prosenttia amerikkalaisista vastustaa autonomisten aseiden kehittämistä. Kymmenen prosenttia suhtautuu niihin hyvin myönteisesti ja 16 prosenttia jokseenkin myönteisesti. Monella ei ole selkeää kantaa.

Yhdysvalloissa puolustusvoimien työntekijät vastustavat robottiaseita muuta väestöä enemmän. Taustalla voi olla pelko, että uusi teknologia tekee heistä tarpeettomia.

Yhdysvaltain X-47B-lennokki on edeltäjiään autonomisempi. Kuva Timothy Walter / AP / Lehtikuva.

Yhdysvaltain X-47B-lennokki on edeltäjiään autonomisempi. Kuva Timothy Walter / AP / Lehtikuva.

Kun sotilaiden turvallisuus lisääntyy, vaara saattaa siirtyä kotirintamalle.

Sodankäynnissä halutaan tuottaa menetyksiä vastapuolelle. Tätä ei saavuteta vain tuhoamalla vastapuolen konesotilaita. Siviiliväestöä vastaan kohdistuvat iskut tulevat jopa todennäköisemmiksi.

Human Rights Watchin raportissa Losing Humanity painotetaan, että robotit eivät pystyisi noudattamaan sodankäynnin keskeisiä eettisiä periaatteita. Ne eivät osaisi luotettavasti erotella siviilejä sotilaista.

Vaikeaa olisi myös soveltaa toista humanitaarisen oikeuden keskeistä sääntöä, suhteellisuuden periaatetta: sodankäynnissä tulee aina käyttää vain sellaista voimaa, joka on välttämätöntä sotilaallisten tavoitteiden saavuttamiseksi.

”Tekoäly ei ainakaan lähitulevaisuudessa ole niin kehittynyttä, että se pystyisi monimutkaisessa taistelutilanteessa soveltamaan sodan eettisiä sääntöjä ihmistä paremmin”, Goose sanoo.

Lisäksi ihmissotilailla on ominaisuuksia – kuten kyky empatiaan – jotka saattavat estää siviilien joukkomurhan. Robotit eivät mieti moraalisia seurauksia. Diktaattorin olisi helppoa käskyttää robottiarmeijaansa, joka nielee määräykset sellaisenaan.

Mutta onko robottisotilaissa myös hyviä puolia? Ne eivät tee päätöksiä väsyneinä, stressaantuneina tai raivoissaan. Niillä ei ole kostonhimoa.

Etelä-Korean rajavalvontaan käyttämät robotit tunnistavat tunkeilijat. Kuva AFP / Lehtikuva.

Etelä-Korean rajavalvontaan käyttämät robotit tunnistavat tunkeilijat. Kuva AFP / Lehtikuva.

Entä jos robotti on ohjelmoitu väärin tai siihen iskee virus, ja se ryhtyy tappamaan siviilejä summamutikassa? Kuka on vastuussa, jos robotti syyllistyy sotarikoksiin? Kenet pitäisi viedä vankilaan?

Altmann ja Goose näkevät uhkaksi, että lopulta ketään ei saataisi tilille.

”Näitä aseita voitaisiin käyttää hirmutekoihin, koska niin tiedettäisiin päästävän helpommin pälkähästä”, Altmann sanoo.

USA:n laivastossa asia nähdään toisin.

”Jos olisi kohtuullista olettaa, että komentaja on tiennyt käyttämänsä autonomisen aseen johtavan humanitaarisen lain loukkauksiin, hänet voitaisiin tuomita normaalin käytännön mukaan”, sanoo professori Michael N. Schmitt, laivaston yliopiston kansainvälisen oikeuden yksikön johtaja.

 

Toukokuun lopussa Yhdistyneiden kansakuntien ihmisoikeusneuvosto kävi ensimmäisen keskustelun autonomisten aseiden ongelmista. Lokakuussa keskustelut siirtyivät YK:n yleiskokouksen aseidenriisunnasta vastaavaan komiteaan.

Useat maat ovat ilmaisseet tukensa robottiaseiden kehittämistä rajoittavalle sopimukselle. Suomella ei ole vielä kantaa sopimuksen tarpeellisuudesta.

Autonomisten aseiden kehityksen kärkimaa Yhdysvallat kannattaa neuvotteluja, vaikka säilyttää mahdollisuuden toimia yksipuolisesti. Puolustusministeriön suunnitteludokumentissa Unmanned Systems Integrated Roadmap FY2011–2036 linjataan, että asejärjestelmissä pyritään toistaiseksi ihmisvallan alaiseen, rajattuun autonomiaan.

Pitkällä aikavälillä kuitenkin pidetään ovi auki täysin autonomisille aseille – ja robottien luvalle tappaa. Ministeriön ohjesäännön mukaan korkean tason virkamiehillä on jo nyt lupa pyörtää periaate, että kaikkien aseiden tulee pysyä mielekkäässä määrin ihmiskontrollissa.

Altmann korostaa, että autonomisten aseiden leviämistä ei voisi estää. Siten niiden kieltäminen olisi myös Yhdysvaltain ja Britannian etu.

”En usko, että länsimaat ovat vielä tilannetta täysin ymmärtäneet. Kohta samoja aseita käyttävät myös kiinalaiset ja terroristit, jos kehitystä ei pysäytetä.”

Schmitt pitää mahdollisena, että Yhdysvallat ja Britannia lähtisivät sopimukseen mukaan tästä syystä. Lyhyellä aikavälillä hän pitää sitä epätodennäköisenä.

Goose huomauttaa, että vaikka suurvallat eivät olisi mukana, sopimus saattaisi silti rajoittaa niiden toimintaa.

”Yhdysvallat ja Kiina eivät allekirjoittaneet maamiinat kieltävää Ottawan sopimusta, mutta ne eivät ole käyttäneet maamiinoja sopimuksen voimaantulon jälkeen.”

Schmittin mukaan autonomisten aseiden kieltäminen on ennenaikaista.

”Emme voi olla varmoja niiden vaikutuksista ilman empiiristä tietoa. Autonomiset aseet ovat todennäköisesti ihmisen ohjaamia aseita tarkempia. Siksi niiden avulla saatettaisiin pystyä välttämään nykyistä paremmin siviilien turha kärsiminen.”

Schmittin mukaan ei ole ongelma, jos ihmisten sijaan koneet päättäisivät sotanäyttämöillä, kenet tapetaan.

”Jos se johtaa vähäisempään inhimilliseen kärsimykseen, miksei koneille siirrettäisi lisää päätösvaltaa?”

Hän myöntää, että jos aseet halutaan kieltää, se pitäisi tehdä nyt – ennen kuin ne muokkaavat armeijoiden toimintatapoja.

 

Robottien tekoälyn kehityksestä on esitetty useita arvioita. Esimerkiksi fyysikko Stephen Hawking ja tietotekniikkayritys Sun Microsystemsin perustaja Bill Joy pitävät mahdollisena, että tekoäly ohittaa ihmisälyn lähivuosikymmeninä.

Autonomiset asejärjestelmät saattaisivat siten oppia jopa soveltamaan humanitaarista lakia ihmistä paremmin. Voisiko myös olla mahdollista, että tekoäly muodostaisi oman tietoisuutensa ja alkaisi taistella omilla aseillaan ihmiskuntaa vastaan?

”Ei siinä ainakaan mitään fysiikan lakien vastaista olisi”, Altmann sanoo. ”Tällaiset vaarat ovat toteutuessaan niin valtavia, että meidän on otettava ne vakavasti.”

Hän ehdottaa kansainvälistä tieteellistä komiteaa, joka pohtisi teknologian pitkän aikavälin vaaroja. Sitä tärkeämpää olisi kuitenkin keskittyä ajankohtaisiin ongelmiin, joita robottiaseista koituu.

Schmittin mukaan historia opettaa, että vastarinnasta huolimatta uusi sotilasteknologia voittaa aina. ”Silloin kun sota on oikeutettua, sitä on syytä käydä tehokkaimmilla mahdollisilla laillisilla keinoilla.”

Satoja vuosia sitten jalkajousi hyväksyttiin osaksi sodankäyntiä. Niin käy myös tappajaroboteille.

 

Juttu on julkaistu ensi kerran Suomen Kuvalehdessä 45/2013.