Tutkijat testasivat keinoälyn yhteistyötaitoja – Mitä älykkäämpi, sitä julmempi ja itsekkäämpi
Tekoäly on joko paras tai kamalin ihmiskunnalle koskaan tapahtunut asia, sanoo huippufyysikko Stephen Hawking.
Nykyaikainen keinoäly kykenee oppimaan itsenäisesti uutta ja kehittämään toimintaansa. Nyt Googlen DeepMind-keinoälyä kehittävät tukijat ovat testanneet, kykeneekö DeepMind myös yhteistyöhön muiden toimijoiden kanssa.
Tutkimusryhmä laittoi kaksi DeepMind-tekoälyä pelaamaan toisiaan vastaan yksinkertaista hedelmien keräyspeliä, jossa tehtävänä on kerätä itselleen mahdollisimman monta omenaa. Lisäksi pelissä on mahdollista käyttää lamauttavaa laser-sädettä, jolla estetään vastustajaa keräämästä omenoita.
Koeasetelmassa peliä pelattiin 40 miljoonaa kertaa. Toistojen avulla keinoälyt kykenivät oppimaan pelikokemuksista ja kehittämään taktiikkaansa.
Peli eteni rauhallisesti niin kauan kun toimijoiden ympärillä oli tarpeeksi omenoita. Kun omenat vähenivät, ja keinoälyt huomasivat joutuvansa tappiolle, ne muuttuivat aggressiivisiksi, alkoivat käyttää lasersäteitä lamauttaakseen vastustajansa.
Pelissä olisi ollut mahdollista päätyä myös omenoiden tasajakoon. Siihen johtavan toimintamallin valitsivat kuitenkin vain Deep Mindin ”tyhmimmät” keinoälyt.
Siis mitä suuremmalla ja monimutkaisemmalla tietoverkolla tekoäly oli varustettu, sitä taipuvaisempi se oli sabotoimaan vastustajaansa. Toisin sanoen kehittynein tekoäly kehitti aggressiivisen itseään suosivan taktiikan.
Kun tekoälyjärjestelmät alkavat kilpailla todellisissa tilanteissa, jälki voi olla rumaa.
Täysin yhteistyökyvyttömältä keinoäly ei kuitenkaan vaikuta.
Tutkijat testasivat myös toista, ”susilaumaksi” kutsuttua peliä. Siinä kaksi keinoälyä toimi susina ja yksi keinoäly saaliseläimenä. Testissä oli tarkoitus selvittää, ryhtyvätkö sudet yhteistyöhön saaliseläimen nappaamiseksi.
Yksinäinen susi saattoi päihittää saaliseläimen ja saada sen kokonaan itselleen, mutta samalla sillä oli suurempi riski menettää ruho haaskaeläimille. Sen sijaan yhdessä toimien susilla oli parempi mahdollisuus suojata ruhoa haaskaeläimiltä.
Tässä pelissä susina toimineet keinoälyt oppivat, että tietyissä tilanteissa yhteistyö on avain suurempaan omakohtaiseen menestykseen.
Vaikka kyseessä olivat yksinkertaiset tietokonepelit, tutkijoiden mukaan niiden viesti on selvä. Kun tekoälyjärjestelmät alkavat kilpailla eduista todellisissa tilanteissa, jälki voi olla rumaa.
Esimerkiksi tekoälyllä varustetut liikennevalot yrittävät hiljentää liikkujia ja robottiautot yrittävät löytää nopeinta reittiä. Molempien tavoitteet on kyettävä sovittamaan yhteen, muutoin lopputuloksena voi olla täysi kaaos.
Keinoäly on jo nykyisellään monin tavoin ihmistä taitavampi.
Toinen huoli on se, että ihmistä älykkäämmäksi kehittyvä keinoäly optimoi omaa toimintaansa ja työntää ihmisten tavoitteet syrjään.
Useat raskaan sarjan asiantuntijat ovatkin ilmaisseet huolensa tekoälyn kehitykseen liittyvistä uhista.
Huippufyysikko Stephen Hawking totesi vuonna 2016, että jatkuva keinoälyn kehittyminen tulee olemaan joko ”paras tai kamalin asia joka on koskaan tapahtunut ihmiskunnalle.”
Hawkingin mukaan keinoälyt voivat kehittää itsensä maailman johtajia ja talouden päätöksentekijöitä älykkäämmiksi. Varsinainen vaara piilee siinä, että ihminen ei enää kykene ymmärtämään eikä ohjaamaan keinoälyn kehitystä.
Tesla-Motorsin toimitusjohtaja Elon Musk puolestaan kommetoi asiaa avoimessa kirjeessä vuonna 2015:
”On vaikea hahmottaa, miten paljon ihmisen tasoinen keinoäly voisi hyödyttää yhteiskuntaa, ja on yhtä vaikea kuvitella, kuinka paljon se saattaa vahingoittaa yhteiskuntaa, jos se on rakennettu väärin tai väärinkäytetty.”
Varmaa on vain se, että itseään opettamaan kykenevä keinoäly on jo nykyisellään monin tavoin ihmistä taitavampi.
Tästä on saatu oppia muun muassa keinoälyä vastaan pelatuissa strategisissa lautapeleissä. Yksi esimerki on kiinalaisten jo vuosituhansien ajan pelaama shakin kaltainen Go.
Googlen kehittämä AlphaGo-tekoäly on kyennyt voittamaan kaikki 50 maailman parasta Go-pelaajaa.
Vielä vuonna 2016 maailman ykköspelaaja Ke Jie vähätteli tekoälyn kykyjä ja uhosi päihittävänsä sen. Hävittyään nyt kolmesti AplhaGo:lle hänkin on myöntänyt, ettei ihminen kykene enää päihittämään tekoälyä Go-pelissä.