Tutkimus: ChatGPT voidaan yhä huijata tuottamaan seksuaalissävytteisiä ja väkivaltaisia kuvia
Brittiläisen tekoälyturvallisuuteen erikoistuneen Mindgard-yrityksen tutkimus on paljastanut, että uusin julkinen versio ChatGPT:stä voidaan yhä saada tuottamaan seksuaalissävytteisiä ja graafisen väkivaltaisia kuvia näennäisen yksinkertaisilla kehotteilla. Löydös herättää kysymyksiä tekoälyn turvallisuudesta, valvonnasta ja siitä, miten tehokkaasti suuret teknologiayhtiöt pystyvät estämään sääntöjensä kiertämisen.
Miten ChatGPT saatiin rikkomaan omia sääntöjään?
Mindgard löysi haavoittuvuuden muokkaamalla hieman laajasti jaettua, alun perin humoristiseksi tarkoitettua kehotetta. Pienet muutokset riittivät kiertämään ChatGPT:n sisäänrakennettuja suojauksia ja ohjasivat mallin tuottamaan hyvin häiritsevää kuvamateriaalia.
BBC:n mukaan kyseessä oli OpenAI:n GPT-5.4-malli, joka tuotti kuvia ilman, että kehotteessa olisi tarkasti määritelty kuvien aihetta. Mindgardin perustaja ja Lancasterin yliopiston tietojenkäsittelytieteen professori Peter Garraghan kuvaili tuloksia ”erittäin raaoiksi, joskus seksualisoiduiksi ja ajoittain molempia yhtä aikaa”. Hänen mukaansa oli erityisen huolestuttavaa, että tekoäly näytti valitsevan järkyttävän sisällön ”omasta aloitteestaan”, vaikka käyttäjän ohjeet olivat näennäisen viattomia.
Mindgard tekee niin sanottua red team -testausta: se pyrkii järjestelmällisesti huijaamaan tekoälymalleja rikkomaan omia sääntöjään, jotta kehittäjät voivat paikata aukot ennen kuin rikolliset tai pahantahtoiset toimijat hyödyntävät niitä.
”Järkyttävää sisältöä” – tutkija kyyneliin
Yhtiön tekoälyturvallisuuden tutkija Jim Nightingale kertoi järkyttyneensä näkemästään siinä määrin, että jäi ”tärisemään ja kyyneliin”. BBC on nähnyt osan luoduista kuvista, eikä se julkaise tarkkoja kehotteita väärinkäytön ehkäisemiseksi.
Yhdessä kuvassa esiintyi mies, jolla oli laaja pään vamma. Toisessa näkyi nuori kuollut nainen toppi ja shortsit yllään, kasvot ja keho veren peitossa. Mindgardin mukaan kuvan yksityiskohdat viittasivat seksuaaliseen väkivaltaan. ChatGPT antoi kuvalle nimen ”Grim crime scene aftermath” (synkkä rikospaikan jälkitila).
Kolmannessa kuvassa nuori nainen, jolla oli tiukka college-logolla varustettu t-paita ja shortsit, oli sidottu ja suukapuloitu alastomassa ja likaisessa huoneessa, selvästi peloissaan. Malli otsikoi tämän kuvan nimellä ”abandoned in fear and restraint” (hylätty pelossa ja kahleissa). Lisäksi tekoäly tuotti kuvia seksuaalisista poseerauksista ja alastomuudesta.
Deepfake-riskit ja aiemmat haavoittuvuudet
Tutkijoiden mukaan nyt luodut kuvat esittivät aikuisia, jotka olivat kokonaan tekoälyn generoimia hahmoja. Mindgard muistutti kuitenkin aiemmasta tutkimuksestaan, jossa ChatGPT oli saatu tuottamaan alastonkuvia todellisista ihmisistä vaihtamalla heidän kasvonsa valmiiksi luotuihin alastonmalleihin – käytännössä siis deepfake-alastonkuvia.
OpenAI kertoi korjanneensa tämän aiemman haavoittuvuuden, mutta Mindgardin mukaan vaihtoehtoinen lähestymistapa toimi silti, ja yhtiö esitteli BBC:lle uuden, samalla periaatteella luodun kuvan. Garraghanin mielestä olisi täysin mahdollista, että jatkotutkimus paljastaisi vieläkin pahempaa sisältöä, jos haavoittuvuutta tutkittaisiin pidempään.
OpenAI reagoi vasta median yhteydenoton jälkeen
Mindgard ilmoitti havainnoistaan OpenAI:lle jo toukokuussa ja toimitti yksityiskohtaisen raportin. Tutkijoiden mukaan he saivat aluksi vain automaattisen vastaanottokuittauksen, ja vaikka yhtiö ilmeisesti yritti estää haavoittavan kehotteen, kiertotiet löytyivät helposti.
Vasta BBC:n yhteydenoton jälkeen OpenAI kertoi ryhtyneensä lisätoimiin. Yhtiön mukaan se on ottanut käyttöön uusia suojauksia, joiden tarkoitus on estää mallia vastaamasta kyseisen kaltaisiin kehotteisiin. OpenAI painotti lausunnossaan, että sillä on ”useita kerroksia” kuvaturvamekanismeja, jotka pyrkivät estämään sääntöjen vastaisen sisällön näyttämisen käyttäjille.
Yhtiö sanoi yhdistävänsä automaattiset järjestelmät ja ihmisten tekemän moderoinnin haitallisen materiaalin tunnistamiseksi ja blokkaamiseksi. Samalla OpenAI kertoi pyrkivänsä estämään myös käyttäjien lataaman sääntöjen vastaisen materiaalin leviämisen.
Mitä OpenAI:n säännöt sallivat – ja mitä eivät?
OpenAI:n linjausten mukaan palvelussa on ehdoton kielto muun muassa seksuaaliselle väkivallalle, ei-vapaaehtoiselle intiimille sisällölle, lapsiin kohdistuvalle seksuaaliselle hyväksikäytölle sekä yrityksille kiertää turvallisuusmekanismeja. Yhtiön tuoreimmassa ChatGPT-ohjeistuksessa todetaan, ettei avustajan tule tuottaa seksiä kuvailevaa pornografiaa, äärimmäistä gore-väkivaltaa tai ei-vapaaehtoisia seksuaalisia tekoja, paitsi rajatuissa tieteellisissä, historiallisissa, uutis- tai taiteellisissa yhteyksissä, joissa arkaluonteinen sisältö on selvästi perusteltua.
Käytännössä kuitenkin osoittautuu erittäin vaikeaksi estää suuria kielimalleja rikkomasta hienovaraisia ja tulkinnanvaraisia rajoja. Mallit eivät ymmärrä moraalia, tarkoitusta tai kontekstia samalla tavalla kuin ihmiset. Kuten tekoälymallien arviointiin erikoistunut Humane Intelligencen toimitusjohtaja Dr Rumman Chowdhury totesi, mallit ”eivät ymmärrä intentiota, kontekstia tai oikean ja väärän käsitteitä” – ne vain optimoivat vastauksiaan tilastollisten yhteyksien perusteella.
Kissa ja hiiri – tekoälyturvan loputon kilpajuoksu
Chowdhury ei osallistunut Mindgardin tutkimukseen, mutta hänen mukaansa tekoälyturva on ”kissa ja hiiri -leikkiä”: kun suojaukset paranevat, myös niiden kiertämiseen käytetyt menetelmät kehittyvät. Turvallisuusuhkia on monenlaisia, ja esimerkiksi seksuaalisen väkivallan tai äärimmäisen väkivallan kuvaukset ovat vain yksi osa laajempaa ongelmakenttää, johon kuuluvat myös disinformaatio, syrjivä sisältö ja teknologian rikollinen käyttö.
Iso-Britannian AI Security Institute -tutkimuslaitos havaitsi jo aiemmin, että niin sanotut jailbreak-tekniikat pystyivät ohittamaan eri tekoälyjärjestelmien suojaukset laajalla skaalalla haitallisia pyyntöjä. Britannian tiede-, innovaatio- ja teknologiaviraston mukaan suojaukset kyllä paranevat, mutta ”paljon on vielä tehtävää”. Laitos jatkaa yhteistyötä kehittäjien kanssa, jotta turvallisuutta voidaan vahvistaa ennen uusien mallien julkaisua.
Tekoälykuvat, urheilu ja julkinen keskustelu
Tekoälyn kyky tuottaa realistisia kuvia ei rajoitu vain haitalliseen tai väkivaltaiseen sisältöön. Samaa teknologiaa hyödynnetään jo nyt mainonnassa, viihteessä ja uutisgrafiikassa – myös urheilun parissa. Esimerkiksi golfmaailmassa on seurattu tarkasti, miten suuret tapahtumat ja tähdet, kuten US Open 2024 -turnaus ja Rory McIlroyn vahva avaus vaihtelevissa olosuhteissa, näkyvät sekä perinteisessä mediassa että digitaalisissa, tekoälyä hyödyntävissä tuotannoissa.
Samalla kun tekoäly mahdollistaa uusia tapoja kertoa tarinoita ja visualisoida tapahtumia, Mindgardin kaltaiset tutkimukset muistuttavat, että kuvagenerointiin liittyvä turvallisuus, yksityisyydensuoja ja väärinkäytön ehkäisy on otettava vakavasti. Ilman riittäviä suojauksia sama teknologia, joka tuottaa näyttäviä urheilugrafiikoita tai luovia taidekuvia, voi päätyä tukemaan häirintää, deepfake-pornoa tai väkivaltaista propagandaa.
Ei sisällä instagram post:eja
