Kun superäly ohittaa ihmisen, miten varmistamme, että se toimii tavoitteidemme mukaisesti?
Tekoäly kehittyy pian niin pitkälle, ettei ihminen pysty enää luotettavasti seuraamaan sen päättelyä, varoittaa tekoäly-yhtiö Ineffable Intelligencen perustaja ja toimitusjohtaja David Silver Slushissa.
MEILLE kaikille tutut generatiiviset tekoälyt, kuten ChatGPT, Claude ja Gemini, perustuvat kielimalleihin, jotka on koulutettu valtavalla määrällä ihmisten kirjoittamaa tekstiä, kuten kirjoja, verkkosivuja ja keskustelupalstoja.
Kielimallit voivat yhdistellä tietoa, tehdä uusia päätelmiä ja ratkaista ongelmia. Niiden pohjana on kuitenkin pitkälti se, mitä ihmiset ovat jo kirjoittaneet.
Tekoäly voi oppia myös toimimalla itse. Tätä kutsutaan vahvistusoppimiseksi (reinforcement learning), jossa algoritmi oppii yrityksen ja erehdyksen kautta vuorovaikutteisessa ympäristössä.
Tekoäly ei siis pelkästään lue, miten jokin tehdään, vaan se kokeilee, saa palautetta onnistumisesta ja parantaa toimintaansa. Tämä oppimistapa muistuttaa sitä, miten ihminen oppii ajamaan pyörällä.
Kone ohittaa ihmisen
Tekstistä oppiva tekoäly tekee päätelmiä olemassa olevan tiedon pohjalta. Kokeilemalla oppiva tekoäly voi lisäksi löytää ratkaisuja, joita sille ei ole koskaan näytetty.
Googlen omistama DeepMind-yhtiö kehitti AlphaZero-tekoälyn, jolle kerrottiin vain shakin säännöt. Se ei nähnyt ainuttakaan ihmisen peliä, vaan oppi pelaamalla itseään vastaan. Lopulta se pelasi shakkia paremmin kuin kukaan ihminen.
AlphaZeron kehitystä johti University College London -yliopiston professori David Silver, joka nousi keskiviikkona Slushin Founders-lavalle. Ennen omaa yhtiötään hän luotsasi DeepMindin vahvistusoppimistiimiä.
Hän mukaan seuraavat suuret tieteelliset läpimurrot syntyvät tekoälystä, joka oppii omasta kokemuksestaan eikä ole riippuvainen pelkästään ihmisten tuottamasta tiedosta.
Kun tekoäly on ihmistä älykkäämpi lähes kaikilla aloilla, puhutaan superälystä.

Superäly olisi ihmistä älykkäämpi lähes kaikessa
Oxfordin yliopistossa työskennellyt filosofi Nick Bostrom määritteli superälyn jo 1990-luvulla älyksi, joka on lähes kaikilla aloilla paljon fiksumpi kuin parhaat ihmisaivot.
Superäly olisi siis yhtä aikaa ihmistä parempi tieteessä, keksimisessä ja suunnittelussa. Sellaista ei vielä ole olemassa.
Ajatus superälystä on vanha. Siitä kirjoitti jo 1960-luvulla vaikuttanut brittimatemaatikko I. J. Good artikkelissaan Speculations Concerning the First Ultraintelligent Machine.
Ihmistä älykkäämpi kone olisi viimeinen keksintö, jota ihminen tarvitsee. Hän asetti tälle kuitenkin yhden ehdon. Koneen pitäisi olla niin kuuliainen, että se kertoo meille, miten se pidetään hallinnassa.
Juuri tähän kysymykseen David Silver hakee nyt vastausta.
Miljardin dollarin veto
Lähdettyään DeepMindista Silver perusti Lontooseen Ineffable Intelligence -yhtiön, jonka tavoitteena on superäly.
Yhtiö keräsi 1,1 miljardin dollarin siemenrahoituksen. Kierrosta johtivat yhdysvaltalaiset pääomasijoittajat Sequoia Capital ja Lightspeed. Mukana olivat myös esimerkiksi sirujätti Nvidia, Google sekä Iso-Britannian valtio.
Slushissa Silver kertoi, miten yhtiö aikoo tutkia, millä edellytyksillä superäly tekee yhteistyötä ihmisten kanssa. Haasteena nimittäin on, että tekoäly kehittyy pian niin pitkälle, ettei ihminen pysty enää luotettavasti seuraamaan sen päättelyä.
”Hyvin pian meillä on agentteja, joiden päättelyketjut ovat miljoonien sivujen mittaisia ja jotka pystyvät ajattelemaan yhdellä tavalla ja toimimaan täysin toisella”, Silver sanoi.
”Kysymys kuuluu, miten voimme tietää, että rakentamamme agentit todella tekevät yhteistyötä ihmisten kanssa, kun ne lähestyvät superälyä?”
Ratkaisua etsitään simulaatiosta
Vastauksena Silver esittää simulaation eli tietokoneella luodun keinotekoisen maailman, jossa superälyn kehitystä ja käyttäytymistä tutkitaan, ennen kuin vastaavia järjestelmiä otetaan käyttöön todellisessa maailmassa.
”Voimme tehdä asioita sata tai tuhat kertaa nopeammin simulaatiossa.”
Simulaatiossa voidaan myös esittää perustavanlaatuisia tieteellisiä kysymyksiä.
”Millaisissa olosuhteissa superäly todella tekee yhteistyötä muiden älyjen kanssa, meidän kaltaistemme tavallisten älyjen? Millaisissa olosuhteissa tuo yhteistyö on rauhanomaista?”
Opit on tarkoitus jakaa kaikille.
”Jos saamme tämän tieteen kohdalleen, voimme jakaa sen maailmalle ja varmistaa, että olemme paljon paremmassa asemassa. Silloin kaikki superälyt, jotka todellisuudessa syntyvät, perustuvat hyvään tieteeseen. Se varmistaa, että ne tekevät yhteistyötä ja että ihmiskunnalla on kukoistava tulevaisuus”, Silver sanoo.
Jos nämä kaksi saadaan oikein, edessä on hieno tulevaisuus
Superälyn kehittämisessä kilpailu ja turvallisuus vetävät eri suuntiin. Kehittäjät haluavat edetä nopeasti, mutta samalla on tärkeää ymmärtää, miten tekoäly käyttäytyy, ennen kuin se otetaan laajasti käyttöön.
Silverin malli yrittää ratkaista tämän, vaikka siihenkin liittyy epävarmuutta. Simulaatiossa turvallisesti toimiva tekoäly kun ei välttämättä toimi samoin oikeassa maailmassa.
Seuraava suuri läpimurto ei ehkä olekaan entistä fiksumpi tekoäly. Se voi olla ymmärrys siitä, miten ihmistä älykkäämmän tekoälyn kanssa voidaan elää turvallisesti.
Silver itse uskoo, että sekä nopeus että varovaisuus voidaan yhdistää.
”Vahva uskoni on, että simulaatiossa meidän pitäisi edetä niin nopeasti kuin mahdollista. Ja samaan aikaan olla todellisessa maailmassa niin varovaisia kuin mahdollista. Jos saamme nämä kaksi asiaa oikein, uskon, että edessämme on hieno lopputulos.”