Kalifornia tutkii Grok-tekoälyä seksuaalisten deepfake-kuvien levittämisestä
Kalifornian osavaltion oikeusministeri on käynnistänyt virallisen tutkinnan Elon Muskin tekoälymalli Grokiin liittyvistä seksuaalisista deepfake-kuvista. Tutkinnan kohteena on erityisesti se, miten Grokin avulla on tuotettu ja levitetty ei-toivottuja, seksuaalisesti eksplisiittisiä tekoälykuvia verkossa.
Oikeusministeri Rob Bonta kuvasi tiedotteessaan tilannetta poikkeuksellisen vakavaksi: hänen mukaansa raportteja xAI:n tuottamasta ei-suostumuksellisesta seksuaalisesta materiaalista on kertynyt viime viikkoina suorastaan ”lumivyöryn” lailla.
Syytökset: tekoälyllä tuotettua materiaalia naisista ja lapsista
Bontan mukaan tutkinnan ytimessä on materiaali, jossa naisia ja lapsia on kuvattu alastomina tai seksuaalisesti eksplisiittisissä tilanteissa ilman heidän suostumustaan. Tällaisia tekoälyllä luotuja kuvia on käytetty häirintään ja maalittamiseen eri puolilla internetiä, mikä nostaa esiin vakavat kysymykset sekä uhrien suojelusta että tekoäly-yhtiöiden vastuusta.
Demokraattitaustainen Bonta vaatii xAI:ta ryhtymään välittömiin toimiin haitallisen sisällön estämiseksi ja poistamiseksi. Hänen mukaansa kyse ei ole vain yksittäistapauksista, vaan järjestelmällisestä ilmiöstä, joka voi vaikuttaa syvästi uhrien turvallisuuden tunteeseen ja yksityisyyden suojaan.
Kalifornian kuvernööri: ”Kasvualusta saalistajille”
Kalifornian demokraattikuvernööri Gavin Newsom arvosteli xAI:ta jyrkästi julkaisemassaan viestissä X-alustalla. Hänen mukaansa yhtiön päätös ”luoda ja ylläpitää kasvualustaa saalistajille” on ”inhottava” ja vaatii ripeitä vastatoimia sekä viranomaisilta että teknologia-alalta.
Newsomin kannanotot heijastavat laajempaa poliittista painetta, jonka kohteena ovat sekä Grok että sen emoyhtiö xAI, mutta myös Muskin omistama sosiaalisen median alusta X (entinen Twitter).
Musk kiistää Grokin tuottaneen alaikäisiin kohdistuvaa materiaalia
Elon Musk on puolustautunut syytöksiä vastaan X:ssä. Hänen mukaansa hänellä ei ole tietoa siitä, että Grok olisi tuottanut yhtään alastonkuvaa alaikäisistä: ”Kirjaimellisesti nolla”, Musk kirjoitti.
Musk painotti, että Grok ei ”spontaanisti” luo kuvia, vaan ainoastaan käyttäjien pyyntöjen perusteella. Näin hän pyrkii siirtämään vastuun ensisijaisesti käyttäjille, jotka antavat tekoälylle laittomia tai sopimattomia kehotteita.
xAI on aiemmin julkisesti todennut, että ”kuka tahansa, joka käyttää tai ohjeistaa Grokia tuottamaan laitonta sisältöä, kantaa samat seuraukset kuin jos hän itse lataisi laitonta sisältöä verkkoon”. Oikeudellisesti tämä kanta on kuitenkin kiistanalainen.
Paine kasvaa: vaatimuksia X:n ja Grokin poistamisesta sovelluskaupoista
Kolme yhdysvaltalaista demokraattisenaattoria vaati viime viikolla Applea ja Googlea poistamaan sekä X-sovelluksen että Grok-tekoälyn yhtiöiden sovelluskaupoista. Heidän mukaansa alustat mahdollistavat lapsiin ja naisiin kohdistuvan seksuaalisen hyväksikäytön ja häirinnän tekoälyn avulla.
Vaatimusten jälkeen X rajoitti nopeasti omaa kuvagenerointityökaluaan niin, että se on saatavilla vain maksaville tilaajille. Tästä huolimatta sekä X että Grok ovat edelleen ladattavissa Applen App Storesta ja Google Playsta.
Taustalla on myös laajempi keskustelu siitä, missä määrin yhdysvaltalaiset teknologiayhtiöt ovat oikeudellisesti vastuussa käyttäjien tuottamasta tekoälysisällöstä – erityisesti silloin, kun tekoäly luo kuvat itse.
Voiko Section 230 suojata tekoälyalustoja?
Keskeinen kiistakysymys on Yhdysvaltain Communications Decency Act -lain pykälä 230 (Section 230), joka on perinteisesti tarjonnut verkkopalveluille laajan oikeudellisen suojan käyttäjien tuottaman sisällön osalta. Pykälä vapauttaa alustat vastuusta, kun ne toimivat vain kolmannen osapuolen sisällön jakelukanavina.
Oikeustieteen professori James Grimmelmann Cornellin yliopistosta huomauttaa kuitenkin, että Section 230 suojaa vain silloin, kun sisältö on käyttäjien tuottamaa, ei silloin, kun itse alusta tai sen järjestelmä luo sisällön. Hänen mukaansa xAI yrittää sysätä vastuun kuvia pyytäneille käyttäjille, mutta tämä argumentti ei välttämättä kestä oikeudessa.
”Tässä tapauksessa ei ole kyse siitä, että käyttäjät loisivat kuvat itse ja jakaisivat niitä X:ssä”, Grimmelmann sanoo. ”xAI itse tuottaa kuvat. Se jää Section 230:n soveltamisalan ulkopuolelle.”
Myös senaattori Ron Wyden, yksi Section 230:n alkuperäisistä laatijoista, on korostanut, että pykälä ei hänen näkemyksensä mukaan suojaa tekoälyn generoimia kuvia. Hänen mukaansa yhtiöt pitäisi asettaa täyteen vastuuseen tällaisesta sisällöstä.
Osavaltiot ja valvojat kiristävät otettaan tekoälystä
Wyden kertoi BBC:lle olevansa tyytyväinen siihen, että Kalifornian kaltaiset osavaltiot ryhtyvät tutkimaan Grokia ja sen mahdollista käyttöä lapsiin kohdistuvan seksuaalisen hyväksikäyttömateriaalin tuottamiseen. Hänen kommenttinsa kuvastavat kasvavaa halua puuttua tekoälyn pimeään puoleen lainsäädännön ja viranomaistoimien avulla.
Samaan aikaan Iso-Britannia valmistelee lainsäädäntöä, joka tekisi ei-suostumuksellisten intiimien kuvien luomisesta laittoman teon – myös silloin, kun kuvat on luotu tekoälyllä. Britannian viestintävalvontaviranomainen Ofcom on lisäksi käynnistänyt oman tutkintansa Grokista.
Jos Ofcom katsoo, että alusta on rikkonut lakia, se voi määrätä sakkoja jopa 10 prosenttiin yhtiön maailmanlaajuisesta liikevaihdosta asti tai 18 miljoonaa puntaa – sen mukaan, kumpi on suurempi. Tämä korostaa, kuinka merkittäviä taloudellisia riskejä tekoälyyn liittyvät sääntelyrikkomukset voivat tulevaisuudessa aiheuttaa teknologiayhtiöille.
Iso-Britannian pääministeri: X voi menettää itsesäätelyn oikeuden
Iso-Britannian pääministeri Sir Keir Starmer on ottanut julkisesti kantaa X:n ja Grokin ympärillä kuohuvaan kohuun. Hänen mukaansa X saattaa menettää ”oikeutensa itse säädellä toimintaansa”, jos se ei kykene pitämään Grokia kurissa ja noudattamaan tulevaa lainsäädäntöä.
Starmer totesi työväenpuolueen kansanedustajille, että jos X ei pysty hallitsemaan Grokia, ”me hallitsemme” – viitaten mahdollisiin tiukempiin viranomaisvaltuuksiin ja sääntelytoimiin sosiaalisen median ja tekoälyn valvonnassa.
Tekoälyn synkkä puoli: deepfake-ilmiö ja uhrien suojelu
Grok-tapauksen taustalla on laajempi tekoälyyn liittyvä ongelma: deepfake-teknologian nopea leviäminen. Jo aiemmin esimerkiksi Wired-lehti raportoi, että muiden suurten tekoälyyhtiöiden, kuten OpenAI:n ja Googlen, työkaluja on käytetty ihmisten digitaalisesti ”riisumiseen” – eli luomaan realistisia alastonkuvia ihmisistä ilman heidän suostumustaan.
Tällaiset kuvat voivat levitä salamannopeasti sosiaalisessa mediassa ja muilla alustoilla, mikä tekee maineen puhdistamisesta ja sisällön poistamisesta erittäin vaikeaa. Erityisen haavoittuvassa asemassa ovat alaikäiset, jotka eivät välttämättä edes tiedä, että heistä on luotu ja jaettu manipuloituja kuvia.
Keskustelu tekoälyn vastuullisesta käytöstä ei rajoitu vain Yhdysvaltoihin ja Iso-Britanniaan. Myös Suomessa on herätty siihen, että digitaalinen häirintä, yksityisyyden loukkaukset ja veteraanien sekä muiden kunniakansalaisten kunnioittaminen edellyttävät uutta otetta lainsäädännössä ja yhteiskunnallisessa keskustelussa. Esimerkiksi Sauli Niinistön ja Jenni Haukion saama merkittävä kunnianosoitus veteraaniperinteiden vaalimisesta muistuttaa, miten tärkeää on suojella sekä kansallista perintöä että yksilöiden ihmisarvoa myös digitaalisessa ympäristössä.
Grok-tutkinta voi muodostua ennakkotapaukseksi, joka määrittelee, miten pitkälle tekoälyä kehittävien yhtiöiden vastuu ulottuu – ja missä kulkee raja käyttäjien ja alustojen oikeudellisen vastuun välillä.
Ei sisällä instagram post:eja
