Meta tutkinnan kohteena: Älylasien intiimit videot ulkopuolisten katsottavana
Iso-Britannian tietosuojaviranomainen on ottanut yhteyttä Metaan sen jälkeen, kun ruotsalaislehtien paljastus toi esiin huolestuttavia väitteitä: ulkoistetut työntekijät ovat päässeet katsomaan erittäin arkaluonteista videomateriaalia, jonka käyttäjät ovat kuvanneet Metan tekoälyä hyödyntävillä älylaseilla.
Ruotsalaislehtien paljastus: wc-käyntejä ja seksitilanteita
Svenska Dagbladet (SvD) ja Göteborgs-Posten (GP) selvittivät, miten Metan Ray-Ban Meta -älylasien käyttäjien kuvia ja videoita käsitellään. Tutkimuksen mukaan Keniaan sijoittunut Metan alihankkija tarkastelee toisinaan videoita, joissa näkyy muun muassa käyttäjiä wc:ssä tai harrastamassa seksiä.
Yksi työntekijä kuvasi tilannetta sanomalla: ”Näemme kaiken – olohuoneista alastomiin vartaloihin.” Työntekijät toimivat niin sanottuina data-annotaattoreina, jotka opettavat Metan tekoälyä tulkitsemaan kuvia merkitsemällä ja luokittelemalla sisältöä käsin.
Meta: alihankkijat katsovat sisältöä kokemuksen parantamiseksi
Meta myöntää, että ulkopuoliset alihankkijat voivat ajoittain tarkastella älylasien tallentamaa sisältöä, mutta perustelee tätä tarpeella parantaa tuotteiden ja tekoälyominaisuuksien toimivuutta.
”Ray-Ban Meta -lasit auttavat käyttämään tekoälyä käsin koskematta, jotta saat vastauksia ympäröivästä maailmasta”, yhtiö kertoi BBC:lle.
”Kun ihmiset jakavat sisältöä Meta AI:n kanssa, käytämme toisinaan – kuten muutkin yritykset – alihankkijoita datan tarkasteluun parantaaksemme käyttäjäkokemusta, kuten tietosuojakäytännössämme todetaan. Data suodatetaan ensin yksityisyyden suojelemiseksi”, Meta lisäsi.
Metan mukaan suodatus voi sisältää esimerkiksi kasvojen sumentamisen kuvista. Ruotsalaismedioille puhuneet lähteet väittävät kuitenkin, että suodatus epäonnistuu toisinaan ja ihmisten kasvot ovat selvästi tunnistettavissa.
Yksityisyys piilossa käyttöehdoissa
Käyttäjän on aktivoitava älylasien tallennus käsin tai äänikomennolla, mutta moni ei todennäköisesti ymmärrä, että tallenteita saatetaan ajoittain näyttää myös ihmisille – ei vain tekoälylle. Asiasta kerrotaan Metan laajoissa käyttöehdoissa ja tietosuojaselosteissa, joita harva lukee tarkasti.
BBC:n pyytäessä lisäselvitystä Meta viittasi Supplemental Meta Platforms Terms of Service -ehtoihin, mutta ei yksilöinyt, missä kohdassa ihmiskatselmointi on tarkasti kuvattu.
Metan Ison-Britannian tekoälyä koskevissa käyttöehdoissa todetaan, että ”joissakin tapauksissa Meta tarkastelee vuorovaikutuksia tekoälyjen kanssa… ja tämä tarkastelu voi olla automatisoitua tai manuaalista (ihmisen tekemää)”
UK:n tietosuojaviranomainen puuttuu asiaan
Ison-Britannian tietosuojaviranomainen ICO (Information Commissioner’s Office) korostaa, että älylaitteiden, kuten älylasien, on asetettava käyttäjä kontrolliin ja tarjottava riittävä läpinäkyvyys.
”Palveluntarjoajien on selkeästi kerrottava, mitä dataa kerätään ja miten sitä käytetään”, ICO linjasi BBC:lle antamassaan lausunnossa.
”Artikkelin väitteet ovat huolestuttavia. Kirjoitamme Metalle ja pyydämme selvitystä siitä, miten se täyttää velvoitteensa Ison-Britannian tietosuojalainsäädännön alla.”
Keenialaisyritys Sama datan annotoinnin ytimessä
Ruotsalaislehtien haastattelemat työntekijät ovat töissä Nairobissa toimivalle ulkoistusyritys Samalle, joka on erikoistunut datan annotointiin. Sama aloitti alun perin voittoa tavoittelemattomana organisaationa, jonka tavoitteena oli lisätä työllisyyttä tarjoamalla teknologia-alan työpaikkoja. Yritys on sertifioitu ”eettiseksi” B-corp-yhtiöksi.
Aiempi sisältömoderointia koskenut sopimus suurten teknologiayhtiöiden kanssa johti kuitenkin voimakkaaseen kritiikkiin ja oikeusjuttuihin entisten työntekijöiden taholta. Sama on sittemmin lopettanut sisältömoderoinnin ja kertonut katuvansa kyseisen työn vastaanottamista.
BBC on pyytänyt Samalta kommenttia uusimpiin paljastuksiin.
Äärimmäisen arkaluonteista sisältöä
Työntekijöiden mukaan heidän tehtäviinsä kuuluu paitsi kuvien ja videoiden luokittelu myös tekoälyn tuottamien vastausten tarkistaminen. He lukevat tekoälyn ja käyttäjien välisiä transkriptioita selvittääkseen, vastaako järjestelmä kysymyksiin oikein.
Työympäristössä on tiukat valvontakäytännöt: kameroita on joka puolella, eikä henkilökohtaisia puhelimia saa käyttää. Silti työntekijöiden eteen päätyvä sisältö on usein äärimmäisen yksityistä. Raporttien mukaan he ovat nähneet esimerkiksi tilanteita, joissa älylasien käyttäjät katsovat pornografiaa.
Yhdessä tapauksessa miehen älylasit jäivät päälle makuuhuoneessa ja kuvasivat myöhemmin naista – ilmeisesti miehen vaimoa – riisuutumassa tietämättään, että kamera tallentaa.
Metan varoitukset ja älylasien tekniset rajat
Metan älylaseissa on sisäänrakennettu kamera, ja taltiointi käynnistyessä kehyksen kulmassa syttyy valo. Yhtiö kehottaa käyttäjiä kertomaan ympärillä oleville ihmisille, kun valo palaa, ja välttämään kuvaamista yksityisissä tiloissa, kuten kylpyhuoneissa tai makuuhuoneissa.
Siitä huolimatta ruotsalaismedian raportit osoittavat, että käyttäjät joko eivät noudata ohjeita tai eivät ymmärrä, kuinka pitkälle tallenteiden käsittely yltää – aina Keniaan asti ihmisten tarkasteltavaksi.
Meta julkisti syyskuussa yhteistyössä Ray-Banin ja Oakleyn kanssa uuden sukupolven tekoälyä hyödyntäviä älylaseja ja muita laitteita. BBC on pyytänyt kommenttia myös lasimerkkien emoyhtiöltä EssilorLuxotticalta.
Tekoäly, puettavat laitteet ja kasvavat yksityisyyshuolenaiheet
Tekoälyn nopea kehitys on lisännyt erilaisten puettavien laitteiden määrää. Nämä laitteet tulkitsevat kameran ja mikrofonin kautta ympäristöä, tarjoavat esimerkiksi tekstin käännöksiä tai vastaavat kysymyksiin siitä, mitä käyttäjä katsoo. Nämä ominaisuudet voivat olla erityisen hyödyllisiä näkövammaisille.
Samalla kuitenkin huoli väärinkäytöksistä kasvaa. BBC:n aiemmissa jutuissa naiset ovat kertoneet, että heitä on kuvattu salaa älylaseilla ilman suostumusta, esimerkiksi julkisissa tiloissa tai tapahtumissa.
Tapaukset korostavat tarvetta tiukemmalle sääntelylle ja selkeämmälle viestinnälle siitä, miten dataa kerätään, missä sitä käsitellään ja ketkä sitä lopulta näkevät.
Yksityisyys vs. innovaatiot – mitä seuraavaksi?
Metan ja muiden teknologiajättien panostus tekoälyyn ja älylaseihin muistuttaa siitä, että jokainen uusi innovaatio tuo mukanaan myös uusia riskitekijöitä. Käyttäjien luottamus perustuu avoimuuteen: on tiedettävä, milloin kamera tallentaa, mihin tallenteet päätyvät ja voiko niitä päätyä ulkopuolisten nähtäväksi.
Tietosuojaviranomaisten, lainsäätäjien ja yritysten on nyt arvioitava, miten tällaisia laitteita tulisi säädellä niin, että ne voivat tuoda hyötyjä – esimerkiksi helpottaa arkea tai parantaa saavutettavuutta – ilman, että yksityisyys vaarantuu.
Teknologian eettinen käyttö on noussut esiin myös muilla aloilla. Esimerkiksi uusiutuvan energian ja maan sisäisen lämmön hyödyntämisessä on keskusteltu läpinäkyvyydestä ja vastuullisuudesta, kuten on nähty hankkeissa, joissa maan syvä lämpö valjastetaan Ison-Britannian ensimmäisessä geotermisessä voimalaitoksessa. Samalla tavoin myös älylaseihin liittyvä datankäsittely vaatii avoimuutta ja tarkkaa valvontaa.
Ei sisällä instagram post:eja
