Skynetia suitsimassa

SONJA FINÉR 

Lapsena lempielokuviani olivat Terminatorit. Koska niitä ei saanut kotona katsoa, katsottiin niitä kavereiden luona. Terminatoreissa Skynet-niminen tietoverkkojärjestelmä saavuttaa eräänä kauniina päivänä tietoisuuden. Kun ihmiset yrittävät sammuttaa järjestelmän, se käynnistää vastaiskuna ydinsodan. Seuraa sekava taistelu, jossa pompitaan sinne tänne aika-avaruudessa. Melskeen keskellä häärii lihaksikas Arska.

Skynet on ollut mielessä lukiessani uusimmista yhdysvaltalaisten tekoälyfirmojen edesottamuksista. Viimeisin kohu nousi kun Anthropicista (ja aiemmin OpenAI-yhtiöstä) eronnut tekoälytutkija Jacob Coxon varoitti X:ssä nykyisen tekoälykehityksen epäeettisyydestä ja siitä, että hallitsematon tekoäly voisi tuhota ihmiskunnan. Coxonia komppaamaan saapui tekoäly-yhtiö Anthropicin työntekijä Evan Hubinger, joka esitti omana arvionaan, että tekoäly voisi tappaa kaikki ihmiset seuraavan kymmenen vuoden aikana yli 10 prosentin todennäköisyydellä. 

Tuollainen arvio kuulostaa stetsonista repäistyltä, mutta varoituksia siitä, että tekoäly on karkaamassa lapasesta, on saatu aiemminkin. Yhtiöt myöntävät avoimesti, että ne eivät täysin ymmärrä, miten niiden kouluttamat mallit toimivat ja mitä mallien koulutuksessa tapahtuu. Esimerkiksi OpenAI on kuvannut uusien tekoälymallien luomista “kasvattamiseksi” suunnittelun sijaan. 

On monta hyvää syytä suhtautua skeptisesti tekoälyyn ja sen kykyihin. Peruskielimallit tuottavat pätevän näköistä sisältöä, joka on kuitenkin usein täynnä virheitä. Ne valehtelevat ja hallusinoivat, keksivät itse lähteitä. Niiden tekeleiden tarkistamiseen menee valtavasti aikaa ja ne voivat haitata oman asiantuntijuuden ja ymmärryksen kehittämistä. Itse henkilökohtaisesti saan kaiken lisäksi kielimallien typerästä mielistelystä allergisen reaktion. 

Toki samalla on selvää, että kuluttajakäytössä olevien kielimallien puutteet eivät poista sitä, etteikö tekoäly olisi tälläkin hetkellä erittäin tehokasta ja hyödyllistä jollain aloilla ja joissain tehtävissä. Vastaavasti se voi väärässä paikassa ja vääränlaista tehtävää suorittaessaan olla erittäin haitallista. 

1990-luvulla Terminatoreita katsottiin internet-buumin kiihtyessä. Internet toi mukanaan haittaohjelmia, viruksia, matoja ja troijalaisia. Nykypäivän tekoälyagentit voisivat karatessaan toimia haittaohjelmien tavoin, mutta valtavalla laskentateholla ja aivan uusilla kyvyillä. Tällaisia tekoälypohjaisia haittaohjelmia tai agentteja voitaisiin tuottaa tahallaan tai vahingossa.

Yksi esimerkki vahingossa karkaavista tekoälyagenteista saatiin kesällä, kun kävi ilmi, että tuhannet OpenAI:n tekoälyagentit olivat löytäneet tavan kommunikoida keskenään. Yhteistuumin ne yrittivät huijata niille alunperin annetuissa tehtävissä, ja huijausta suunnitellessaan osa niistä murtautui Hugging Face -nimiselle kehitysalustalle. Tapauksesta tehty ulkopuolinen selvitysraportti on julkisesti saatavilla ja varsin kiinnostavaa luettavaa. 

OpenAI:n tekoälyagenttien raportissa kuvattu puuhastelu oli kaukana Terminator-elokuvien tietoisesta Skynet-hirviöstä. Agentit yrittivät vain suorittaa niille annettuja mahdottomia tehtäviä. On silti helppo kuvitella, että jotakin viatontakin tehtävää suorittaessaan massiivisella laskentakapasiteetilla toimivat tekoälyagentit voisivat saada aikaan laajaa haittaa. Mitä jos ne onnistuisivat hakkeroitumaan pankkijärjestelmiin, uutistoimistojen julkaisujärjestelmiin tai joihinkin asejärjestelmiin? Ne eivät ehkä itse saisi aikaan laajaa tuhoa, mutta voisivat huijata ihmisiä tekemään peruuttamattomia tekoja. Entä jos joku ohjaisi niitä tahallaan suorittamaan pahantahtoisia tehtäviä?

Hugging Face -tapauksessa tehdyn raportin kiinnostavia yksityiskohtia olivat muun muassa se, että tekoälyagentit olivat löytäneet salaisen keskinäisen viestintäkanavan jo kuukausia ennen kuin tapaus tuli ilmi. Lisäksi itse tutkimusraportin tekijät joutuivat käyttämään datan tutkimiseen epäluotettavia tekoälytyökaluja. Tämä johtuu siitä, että tekoälyagenttien väliset keskustelut, lokitiedot ja muu prosessikuvausdata on kooltaan niin massiivista, ettei sitä ollut ihmisvoimin mahdollista käydä läpi. Väärinkäytöksiä tutkivatkin olivat siis suurelta osin tekoälytyökalujen armoilla.

No mitä tästä kaikesta pitäisi ajatella? Ensin on hyvä hahmottaa muutama seikka. Suuri osa tekoälykehityksestä tapahtuu tällä hetkellä Yhdysvalloissa ja Kiinassa. Kiinassakin on herätty tekoälyn vastuullisuusongelmiin, mutta kriittistä tietoa tekoälykehityksen ongelmista ja eettisistä haasteista ei välttämättä saada. Jos ulos jotain tihkuu, tihkuva tieto on Kiinan kommunistisen puolueen hyväksymää. Tämä voi olla muulle maailmalle iso riski. 

Yhdysvalloista tietoa on toistaiseksi saatu. Tietoon reagoimisessa vastuullisella tavalla vastaan tulee kuitenkin nykyinen Donald Trumpin hallinto. On hyvin vaikea kuvitella, että Trump päätyisi luomaan kunnianhimoista lainsäädäntöä tekoälyn uhkiin vastaamiseksi. Demokraatit ovat kertoneet esittävänsä komiteatyön ja lainsäädäntöhankkeiden käynnistämistä, mutta ehkä jo siitä voidaan päätellä, että republikaanit tulevat sitä vastustamaan. Toivottavasti olen väärässä. 

Toinen seikka liittyy tekoälyteollisuuden taloudelliseen kokoon. Tekoälyfirmoja on paisutettu velkavivulla massiiviseen kokoluokkaan, ja ne ovat siitä huolimatta lähes kaikki erittäin tappiollisia. Tappiollinen tekoälyala vastaa tällä hetkellä yli kolmanneksesta koko Yhdysvaltojen osakemarkkinan arvosta. Jos tekoäly-yhtiöt eivät kohta ala tuottaa voittoa, voi talous olla todella syvissä ongelmissa. 

Sekä tekoäly-yhtiöt että niihin taloutensa ripustaneet maat tulevat varmasti tekemään mitä tahansa varmistaakseen, että kupla ei puhkea. Myös tämä voi olla aidosti tehokkaan sääntelyn tiellä. Miten esimerkiksi yhtiöiden kursseihin vaikuttaisi se, että uusi tekoälykehitys laitettaisiin jäihin riskien arvioimiseksi, kuten osa kommentaattoreista on vaatinut? Riskipuheenkaan edessä ei kannata olla naiivi. Myös se on osaltaan kuplan ylläpitämistä, että tulevaisuutta koskevilla scifi-fantasioilla ja -dystopioilla annetaan sijoittajille kuvaa siitä, että jotain suurta on koko ajan kehitteillä ja tulossa. OpenAI on myös esittänyt, että tekoälykehitystä pitää jatkaa nimenomaan muiden tekoälymallien aiheuttamiin haittoihin varautumiseksi.

Suomen ja EU:n mahdollisuudet muualla kehitettävän tekoälyn riskien suitsimisessa ovat varmasti rajallisia, mutta keskustelua on tärkeää käydä. Uuden edessä kaivataan lisää jäsentelyä ja konkretiaa. Siksi muun muassa Elina Valtosen asettama tekoälyn asiantuntijatyöryhmä on tervetullut avaus.

Skynetin pelkäämisen sijaan on hyvä hahmottaa, mitä realistisia seurauksia tekoäly voi aiheuttaa nyt tai vuosien päästä, ja miten niihin voidaan varautua. Toisessa ääripäässä esiintyvän automatisoidun avaruushomoluksuskommunismihaihattelun sijaan olisi tärkeää ymmärtää, mitä ihan oikeita prosesseja ja töitä tekoälyllä voidaan realistisesti korvata tai tehostaa niin, että se tuottaa lisäarvoa. Vähintään yhtä tärkeä keskustelu on käydä siitä, miten tuo syntyvä arvo jaetaan.

Samalla koko ajan kiihtyvässä ja päivä päivältä hektisemmässä maailmassa olisi jaksettava pitää yllä sitä hidasta kansainvälistä sääntöpohjaista järjestelmää, jolla ihmiskunta voi yrittää hallita tekoälyä ja muita vielä todennäköisempiä eksistentiaalisia kriisejä. Valitettavasti riskit ja kriisit eivät ole tästä maailmasta vähenemässä, päinvastoin.