Paavi Leo vaatii tekoälyn ”riisumista aseista” ja varoittaa uusista digitaalisista orjuuden muodoista

Paavi Leo on julkaissut paavikautensa ensimmäisen suuren opetuskirjeen, jossa hän varoittaa, että tekoäly on ”riisuttava aseista”. Hänen mukaansa ihmiskunta seisoo uudenlaisen moraalisen tienhaarassa, jossa teknologinen kehitys ei saa syrjäyttää ihmisarvoa.

”Sana on voimakas, tiedän sen, mutta valitsin sen harkiten, koska tämä hetki tarvitsee sanoja, jotka todella herättävät huomion”, paavi selittää käyttäessään ilmaisua ”disarmoida” tekoäly.

Ensyklika Magnifica Humanitas – kirje koko maailmalle

Ensyklikat ovat perinteisesti paavin kirjeitä katolisille piispoille, mutta viime vuosikymmeninä niistä on tullut koko maailmalle suunnattuja kannanottoja. Paavi Leon uusi ensyklika kantaa nimeä Magnifica Humanitas (”Ihmeellinen ihmisyys”) ja keskittyy ennen kaikkea tekoälyn eettisiin ja yhteiskunnallisiin vaikutuksiin.

Kirjeessä paavi tunnistaa myös tekoälyn myönteiset mahdollisuudet, mutta painottaa erityisesti sen uhkia: vallan keskittymistä harvoille, ihmisten valvontaa, sodankäynnin raaistumista ja demokratian murentumista vääristellyn tiedon ja manipuloinnin kautta.

Vahva anteeksipyyntö kirkon roolista orjuudessa

Magnifica Humanitas sisältää yhden Vatikaanin historian vahvimmista ja kattavimmista anteeksipyynnöistä katolisen kirkon osuudesta orjuuteen. Paavi kuvaa orjakaupan ja orjuuden seurauksia ”äärettömäksi kärsimykseksi ja nöyryytykseksi”, johon kirkko ei aina puuttunut ajoissa tai riittävän selkeästi.

”On mahdotonta olla tuntematta syvää surua, kun katselemme sitä valtavaa kärsimystä ja häpäisyä, jota niin monet ovat joutuneet kokemaan”, paavi kirjoittaa ja lisää pyytävänsä vilpittömästi anteeksi kirkon nimissä.

Paavi liittää tämän historiallisen vastuun suoraan nykyiseen tekoälykeskusteluun: hän varoittaa siitä, että maailma on vaarassa normalisoida ihmisten hyväksikäytön uudelleen – sekä tekoälyn tuotannossa että sen sovelluksissa. Hänen mukaansa orjakaupan historian ja tekoälyn mahdollistamien ”uusien digitaalisten orjuuksien” välillä on huolestuttavia yhtäläisyyksiä.

”Uudet digitaaliset orjuudet” ja hyväksikäytön normalisoituminen

Paavi Leo käyttää ensyklikassa voimakasta kuvastoa kuvatessaan sitä, miten tekoäly voi luoda uusia alistamisen ja kontrollin muotoja. Hän puhuu ”digitaalisista orjuuksista”, joissa ihmiset redusoidaan dataksi, numeroiksi ja profiileiksi, joita ohjaavat taloudelliset tai poliittiset intressit.

Hänen mukaansa riski on, että hyväksikäytöstä tulee jälleen arkipäivää – aivan kuten orjuuden aikana – mutta nyt hienovaraisemmin, algoritmien ja automaation kautta. Paavi varoittaa, että ihmiskunta on jälleen ”moraalisessa risteyksessä”, jossa on päätettävä, palveleeko teknologia ihmistä vai ihminen teknologiaa.

Paavi esittelee ensyklikan itse – mukana tekoälyasiantuntijoita

Poikkeuksellisesti paavi Leo esitteli ensyklikan itse Vatikaanissa, yhdessä kansainvälisten tekoälyasiantuntijoiden kanssa. Tilaisuudessa oli mukana muun muassa yhdysvaltalaisen tekoälyjätti Anthropicin toinen perustaja Christopher Olah.

Olah korosti puheenvuorossaan, että jokainen tekoälylaboratorio toimii kannustimien ja rajoitteiden kehyksessä, jotka eivät aina tue eettisesti oikeita ratkaisuja. Hänen mukaansa olisi virhe kuvitella, että tekoälyyn liittyvät kysymykset olisivat vain tietojenkäsittelytieteilijöiden asia: ”Tekoälyn herättämät kysymykset ovat suurempia kuin tekoälytutkimuksen yhteisö – eivät vain vaikutuksiltaan, vaan myös luonteeltaan.”

Selkeä viesti vallankäyttäjille: vastuu tekoälyn rajoittamisesta

Ensyklika on myös suora ja jyrkkä viesti poliittisille ja taloudellisille vallankäyttäjille. Paavi korostaa, että hallituksilla, yrityksillä ja teknologiayhtiöillä on ”erityinen vastuu” ehkäistä tekoälyn uhkia ja varmistaa, että sen kehitys on ihmisarvoa kunnioittavaa.

Hän tuomitsee ensyklikassa muun muassa tekoälyn käytön sodankäynnissä ja varoittaa tekoälyn asevarustelukilvasta. Tekoälyyn perustuvat asejärjestelmät, joissa ihmisen kontrolli vähenee, tekevät hänen mukaansa entistä vaikeammaksi pitää yhtäkään sotaa ”oikeutettuna”.

”Mikään algoritmi ei voi tehdä sodasta moraalisesti hyväksyttävää”, paavi kirjoittaa.

Tekoäly ei hänen mukaansa poista sodan ”luontaista epäinhimillisyyttä”, vaan pikemminkin kiihdyttää konfliktien puhkeamista ja tekee väkivallasta kasvottomampaa. Kun kynnys turvautua voimaan laskee ja puolustuksesta tulee ennakoivaa uhkien mallintamista, uhrit typistetään dataksi ja kohteiksi.

Tekoäly, politiikka ja demokratian haavoittuvuus

Paavi Leo arvostelee ensyklikassa myös sitä, miten tekoäly vaikuttaa politiikkaan ja julkiseen keskusteluun. Hän nostaa esiin tekoälyn mahdollistaman kuvien ja videoiden manipuloinnin, joka altistaa ihmiset puolueellisille ja harhaanjohtaville näkökulmille.

Syväväärennökset, automatisoidut propagandakampanjat ja kohdennettu vaikuttaminen voivat hänen mukaansa murentaa luottamusta mediaan, vaaleihin ja demokratiaan. Siksi yhteiskunnilla on velvollisuus luoda suojamekanismeja, jotka muistuttavat teollisen vallankumouksen aikaisia työ- ja sosiaalilainsäädännön uudistuksia – mutta nyt digitaalisessa ympäristössä.

Paavi vertaa tekoälyn riskien sivuuttamista siihen, miten hitaasti sekä yhteiskunta että kirkko aikoinaan tuomitsivat orjuuden. Hän puhuu jopa ”digitaalisesta kolonialismista”, jossa teknologiajätit ja kehittyneiden maiden toimijat hyötyvät globaalista etelästä tavalla, joka heijastelee menneiden vuosisatojen kolonialistisia väärinkäytöksiä.

Erityinen vetoomus tekoälyn kehittäjille

Yhdessä ensyklikan painokkaimmista kohdista paavi Leo esittää suoran vetoomuksen tekoälyn kehittäjille, insinööreille ja tutkijoille.

”Kehittäjillä on erityinen eettinen ja hengellinen vastuu, sillä jokainen suunnitteluratkaisu heijastaa näkemystä ihmisyydestä”, hän kirjoittaa.

Paavi muistuttaa, että algoritmien taustalla on aina ihmisiä, joilla on arvoja, oletuksia ja intressejä. Siksi tekoälyä ei voi käsitellä neutraalina työkaluna, vaan välineenä, joka joko vahvistaa tai heikentää ihmisarvoa, oikeudenmukaisuutta ja yhteistä hyvää.

Komissio jatkotyötä varten – riittääkö se?

Paavi Leo on asettanut komission viemään ensyklikan linjauksia käytäntöön. Komission tehtävänä on muun muassa edistää kansainvälistä dialogia, tukea eettisten standardien kehittämistä ja kannustaa lainsäätäjiä vastaamaan tekoälyn haasteisiin.

Silti paavi myöntää, että kysymys on, riittävätkö kirkon ja muiden toimijoiden ponnistelut nopeasti kehittyvän teknologian rinnalla. Esimerkkinä hän viittaa edeltäjänsä paavi Franciscuksen vuonna 2015 julkaisemaan ilmastoensyklikkaan Laudato Si, jonka jälkeen ilmastotoimet etenivät hänen mielestään liian hitaasti – niin, että vuonna 2023 hän joutui palaamaan aiheeseen pettyneenä.

Samalla tavoin tekoälyn suhteen on vaarana, että vahvoista moraalisista kannanotoista huolimatta käytännön toimet jäävät puolitiehen ja taloudelliset intressit jyräävät eettiset periaatteet.

Laajempi yhteiskunnallinen keskustelu teknologiasta ja nuorista

Paavi Leon viesti tekoälyn riskeistä ja uusista ”digitaalisista orjuuksista” kytkeytyy laajempaan keskusteluun siitä, miten yhteiskunnat kohtelevat heikoimmassa asemassa olevia, erityisesti nuoria. Talous-, koulutus- ja sosiaalipolitiikka vaikuttavat suoraan siihen, ajautuvatko nuoret teknologian ja tukijärjestelmien passiivisiksi kohteiksi vai saavatko he aitoja mahdollisuuksia työhön ja osallisuuteen.

Esimerkiksi Suomessa on käyty vilkasta keskustelua siitä, miten julkisia varoja käytetään nuorten tukemiseen ja työllistämiseen. On nostettu esiin kriittisiä näkökulmia siitä, että hallitukset saattavat käyttää moninkertaisesti enemmän rahaa nuorten tukiaisiin kuin heidän työllistämiseensä, mikä voi pitkällä aikavälillä syventää syrjäytymistä ja riippuvuutta järjestelmistä – myös digitaalisista.

Tällaiset esimerkit tukevat paavin sanomaa: jos päätöksenteossa ei aseteta ihmisarvoa ja todellista osallisuutta etusijalle, teknologia ja byrokratia voivat yhdessä luoda uudenlaisia alistamisen rakenteita.

Uhkaavan tulevaisuuden välttäminen vaatii toimintaa nyt

Magnifica Humanitas ei ole vain teologinen asiakirja, vaan voimakas puheenvuoro tekoälyn eettisestä hallinnasta. Paavi Leo korostaa, että ihmiskunnalla on vielä mahdollisuus ohjata kehitystä, mutta aikaikkuna kaventuu.

Hänen viestinsä ydin on, että tekoäly on ”riisuttava aseista” – ei estämällä tutkimusta tai innovaatiota, vaan kieltämällä sen käyttö tarkoituksiin, jotka loukkaavat ihmisarvoa, lisäävät valvontaa ja hyväksikäyttöä tai tekevät sodasta ja sorrosta entistä helpompaa ja huomaamattomampaa.

Jos tekoälyn riskit jätetään huomiotta, paavi pelkää, että tulevaisuudessa hän tai hänen seuraajansa joutuvat ilmaston tavoin toteamaan, että varoituksista huolimatta maailma reagoi liian myöhään. Siksi hän kutsuu sekä päättäjiä, teknologiayrityksiä, tutkijoita että tavallisia kansalaisia osallistumaan keskusteluun ja vaatimaan sääntelyä, joka asettaa ihmisyyden teknologian edelle.

Ei sisällä instagram post:eja