Anthropic-yhtiön perustaja: Tekoälylle tarvitaan hätäjarru ennen kuin se karkaa käsistä

Tekoäly-yhtiö Anthropicin toinen perustaja Jack Clark varoittaa, että tekoälyn kehitykselle tarvitaan selkeä ”jarrupoljin” – mahdollisuus hidastaa ja tarvittaessa pysäyttää kehitystä, ennen kuin järjestelmät alkavat kehittyä ilman ihmisen ohjausta.

BBC:n Newsnight-ohjelmalle antamassaan haastattelussa Clark kuvasi tilannetta näin: ”Haluat, että sinulla on mahdollisuus nostaa jalka kaasulta ja painaa jarrua. Tällä hetkellä tekoälyala on kuin auto, jossa on vain kaasupoljin, mutta ei jarrua.”

Hallittu kehitys vaatii politiikkaa ja sääntelyä

Clark korostaa, että ihmisten – ennen kaikkea hallitusten ja lainsäätäjien – on säilytettävä kontrolli yhä voimakkaammiksi kehittyviin tekoälyjärjestelmiin. Hänen mukaansa järjestelmien vaikutukset yhteiskuntaan tulevat vain laajenemaan, joten pelkkä yritysten omaehtoinen itsesäätely ei riitä.

”Maailman on käytävä vakava ajatusprosessi läpi ja kehitettävä uutta sääntelyä, joka antaa meille luottamusta näihin järjestelmiin”, Clark sanoo. Hänen viestinsä on, että tekoälyn hyötyjen tavoittelu ei voi tapahtua turvallisuuden ja läpinäkyvyyden kustannuksella.

Tekoäly kirjoittaa jo suurimman osan omasta koodistaan

Clark paljastaa, että Anthropicin suosittu tekoälychatbot Claude toimii jo nyt koodilla, josta noin 80 % on tekoälyn itsensä kirjoittamaa. Hänen mukaansa on täysin realistista, että osuus kasvaa jopa 100 prosenttiin seuraavien kahden vuoden aikana – ja tällä olisi ”valtavat seuraukset”.

Tällainen kehitys nostaa esiin kysymyksiä siitä, miten pitkälle itseohjautuvaa koodin tuottamista voidaan sallia ilman ulkopuolista valvontaa. Mitä enemmän järjestelmät suunnittelevat ja kehittävät itse itseään, sitä vaikeammaksi käy niiden toimintalogiikan ja riskien arviointi.

Vertaus öljyteollisuuden syntyyn

Clark ei anna yksityiskohtaista teknistä mallia siitä, miltä tekoälyn ”jarrupoljin” voisi käytännössä näyttää, mutta hän vetää vahvan historiallisen vertauksen: tekoälyn nykytilanne muistuttaa hänen mielestään öljybuumia ja öljyparonien aikaa 1900-luvun alussa.

”Yhteiskunnan vastaus oli tuolloin luoda järkevä poliittinen ja sääntelykehys, joka antoi ihmisille luottamusta öljyyn ja sen tuottamiin hyötyihin – eikä kaikkea tarvinnut rakentaa yritysjohtajien persoonallisuuksien varaan. Samantyyppiseen tilanteeseen olemme nyt päätymässä tekoälyn kanssa”, Clark toteaa.

Yhdysvaltain linja: varovainen, mutta yritysmyönteinen

Anthropic on tällä viikolla kommentoinut Yhdysvaltain presidentti Donald Trumpin allekirjoittamaa tekoälyä koskevaa presidentin asetusta. Yhtiön mukaan linjaus on suhteellisen ”kevyellä otteella” tehty ja jättää paljon vastuuta yrityksille itselleen.

Asetus ei esimerkiksi velvoita tekoälyyrityksiä pakollisiin valtion suorittamiin turvallisuustesteihin, vaan kyse on edelleen vapaaehtoisista toimista. Samalla suuret toimijat – kuten Anthropic, OpenAI ja Google – eivät ole ilmoittaneet aikovansa keskeyttää tai edes hidastaa omaa tutkimus- ja kehitystyötään.

Anthropic valmistautuu jättimäiseen pörssilistautumiseen

Anthropic on kasvanut viidessä vuodessa pienestä tulokkaasta yhdeksi tekoälysektorin avaintoimijoista. Yhtiö valmistelee parhaillaan listautumista pörssiin, ja siitä povataan yhtä historian arvokkaimmista uusista teknologiaosakkeista.

Yksityisten sijoittajien arvioissa Anthropicin arvo lähentelee jo biljoonaa dollaria (noin 745 miljardia puntaa), mikä tekisi siitä yhden kaikkien aikojen kalleimmista uuden aallon tekoälyfirmojen listautumisista.

Clark kuitenkin painottaa, ettei tekoälyn kasvavista kyvykkyyksistä puhuminen ole markkinointitemppu tai tapa kiillottaa yhtiön mainetta asiakkaiden silmissä. Hänen mukaansa tarkoitus on yksinkertaisesti ”kertoa maailmalle, mitä näemme sisällä näissä yrityksissä tämän poikkeuksellisen teknologian parissa”.

Riskit: valvonta, sota ja talouden myllerrys

Anthropic on profiloitunut perustamisestaan lähtien äänekkääksi tekoälyn riskien esiin nostajaksi. Yhtiö on jopa ajautunut julkiseen kiistaan Yhdysvaltain puolustusministeriön kanssa siitä, voisivatko sen tekoälytyökalut päätyä massavalvontaan tai autonomisten asejärjestelmien käyttöön.

Clark myöntää olevansa huolissaan lastensa tulevaisuudesta, jos yhteiskunta ei käy riittävän vakavaa keskustelua tekoälyn etenemisen seurauksista. ”Mahdolliset hyödyt ovat valtavat, mutta niin ovat myös riskit”, hän kiteyttää.

Yksi Clarkin nimeämistä keskeisistä riskeistä on talouden rakennemuutos. Tekoälyagentit – eli itsenäisesti rutiinitehtäviä hoitavat ohjelmalliset tekoälybotit – voivat syrjäyttää monia nykyisiä työtehtäviä. Suurissa teknologiayrityksissä on jo nähty massairtisanomisia, joita on perusteltu tekoälytyökalujen kyvyllä korvata satojen tai jopa tuhansien ohjelmistokehittäjien työpanos.

Ihmisen luovuus voi olla kilpailuetu tekoälyä vastaan

Clark ei kuitenkaan näe tulevaisuutta täysin synkkänä. Hänen mielestään ihmiset, joilla on kyky tuottaa uusia ideoita ja ajatella luovasti, voivat löytää vahvan aseman tekoälyyn nojaavassa taloudessa.

”On yhä avoin kysymys, voivatko tekoälyjärjestelmät olla aidosti luovia… siitä ei vielä ole kunnollista näyttöä”, Clark sanoo. ”Anthropicilla meitä rajoittaa tällä hetkellä enemmän hyvien ideoiden puute kuin se, että emme pystyisi tekemään insinöörityötä niiden toteuttamiseksi.”

Clark neuvoo nuoria, jotka pelkäävät, ettei tekoälyvetoisessa taloudessa ole heille sijaa, kehittämään harrastuksiaan ja harkitsemaan laaja-alaista, esimerkiksi humanistista koulutusta.

”Ihmiset, jotka ovat luovia ja pystyvät ajattelemaan laajasti, jotka lukevat paljon ja joilla on monipuolisia kiinnostuksen kohteita, hyötyvät tästä eniten”, Clark arvioi. ”Uteliain mielin eläminen maksaa itsensä takaisin siinä, miten hyvin osaat käyttää tätä teknologiaa.”

Tekoälyn hallinta vaatii sääntelyä, esikuvia ja avoimuutta

Clark näkee tulevaisuuden ratkaisun yhdistelmänä älykästä sääntelyä, avointa keskustelua ja vastuullista yrityskulttuuria. Hänen viestinsä muistuttaa myös muista yhteiskunnallisista onnistumisista, joissa riskialtis teknologia on saatu hyötyjen puolelle sääntelyn ja esimerkkien avulla.

Hyvä esimerkki yksilötason sitkeydestä ja kyvystä hyödyntää mahdollisuuksia nähdään myös urheilumaailmassa. Tennistähti Maja Chwalinska on noussut Ranskan avointen sensaatiomaiseksi finalistiksi karsintojen kautta – hänen tarinansa pienestä tatuoinnista ja valtavasta läpimurrosta muistuttaa, miten pitkälle pitkäjänteinen työ ja oikeat valinnat voivat kantaa. Samalla tavalla tekoälyn kohdalla vaaditaan pitkäjänteisiä päätöksiä, jotka ohjaavat kehityksen yhteiseen hyvään.

Clark painottaa, että nyt on aika rakentaa tekoälylle toimiva ”hätäjarru” – ennen kuin järjestelmät kehittyvät pisteeseen, jossa ihmisen mahdollisuus puuttua peliin kapenee olennaisesti.

Ei sisällä instagram post:eja