Anthropic jäädytti uuden Claude Fable 5 -tekoälyn Yhdysvaltain turvallisuushuolten vuoksi

Yhdysvaltalainen tekoälyyritys Anthropic on keskeyttänyt uuden, erittäin tehokkaaksi kuvatun Claude Fable 5 -mallinsa käytön vain päiviä julkisen julkaisun jälkeen. Päätös tehtiin sen jälkeen, kun Yhdysvaltain viranomaiset esittivät huolia kansallisesta turvallisuudesta ja mahdollisista kyberturvariskeistä.

Käyttö keskeytettiin määräyksellä – ulkomaalaiset rajattiin ensin

Anthropic kertoi verkkosivuillaan julkaisemassaan lausunnossa, että se sai viranomaisilta määräyksen estää ulkomaalaisten pääsy Claude Fable 5 -malliin. Yhtiön mukaan ohjelma on sen oman arvion perusteella “liian voimakas”, minkä vuoksi viranomaisten huoli kohdistui erityisesti sen mahdolliseen väärinkäyttöön.

“Tämän määräyksen käytännön vaikutus on, että meidän on välittömästi poistettava Fable 5 ja Mythos 5 käytöstä kaikilta asiakkailtamme varmistaaksemme määräyksen noudattamisen”, Anthropic kirjoitti.

Kilpailija ChatGPT:lle ja Geminille – mutta myös turvallisuuskohu

Claude Fable 5 on versio Anthropicin Claude Mythos -järjestelmästä, joka kilpailee suoraan muiden suurten kielimallien, kuten OpenAI:n ChatGPT:n ja Googlen Gemini-alustan, kanssa. Malli on suunniteltu vastaamaan monimutkaisiin kysymyksiin, analysoimaan dataa ja tukemaan erilaisia automaatioratkaisuja, mutta samalla se nostaa esiin riskin, että sitä voidaan käyttää myös haitallisiin kybertoimiin.

Anthropic korosti, että Yhdysvaltain turvallisuusviranomaiset eivät ole yksilöineet tarkkoja uhkia, vaan kyse on varovaisuusperiaatteella tehdystä toiminnasta.

Jailbreak-huoli: mallin suojausten ohittaminen

Yhtiön mukaan hallitus on tullut tietoiseksi menetelmästä, jolla Claude Fable 5:n turvarajoitteet voidaan kiertää eli “jailbreakata”. Jailbreakilla tarkoitetaan prosessia, jossa ohjelmiston sisäänrakennetut rajoitukset ohitetaan, minkä seurauksena käyttäjä voi saada pääsyn arkaluonteiseen tietoon tai piilotettuihin toimintoihin, joita ei ole tarkoitettu julkiseen käyttöön.

Anthropic kertoo tarkastelleensa viranomaisten esittelemää tekniikkaa käytännössä: “Tarkastelimme demonstrointia, jossa tätä tiettyä menetelmää käytettiin pienen määrän ennestään tunnettujen, vähäisten haavoittuvuuksien löytämiseen.”

Yhtiön mukaan kyseiset haavoittuvuudet vaikuttivat yksinkertaisilta, ja muutkin julkisesti saatavilla olevat mallit pystyvät löytämään ne ilman jailbreak-menetelmiä. Tästä huolimatta viranomaiset pitävät riskiä riittävän merkittävänä, jotta käyttöä rajoitetaan toistaiseksi.

Turvatoimia kehuttiin ennen julkaisua

Ennen Claude Fable 5:n julkista julkaisua Anthropic mainosti näkyvästi mallin ympärille rakennettuja turvamekanismeja. Yhtiö kertoi panostaneensa erityisesti kyberhyökkäysten estämiseen ja väärinkäyttöä ehkäiseviin suojauksiin, kuten rajoituksiin, jotka estävät mallia antamasta ohjeita haittaohjelmien luomiseen tai tietomurtojen toteuttamiseen.

Huolimatta näistä suojatoimista rahoitus-, teknologia- ja julkisen sektorin johtajat ilmaisivat huolensa mallin laajasta julkaisusta. Huolia lisäsi se, että Fable 5 oli ollut rajatun piirin käytössä jo huhtikuusta alkaen, jolloin sitä testattiin ja sen haavoittuvuuksia kartoitettiin suljetusti.

“Liian voimakas julkaistavaksi” – markkinointia vai todellinen uhka?

Anthropic itse kuvaili ennen julkaisua, että Claude Fable 5 oli niin älykäs ja tehokas, että se voisi potentiaalisesti vaarantaa tietojärjestelmiä, mikäli sitä käytettäisiin väärin. Yhtiö kertoi myöntäneensä ennakkopääsyn vain harvoille, tarkkaan valituille organisaatioille juuri tämän riskin takia.

Yhtiön mukaan “Fablen kyvykkyys ylittää minkä tahansa aiemmin yleisesti saataville tuomamme mallin”. Samalla osa asiantuntijoista ja kriitikoista epäili, että puhe “liian voimakkaasta” mallista oli ainakin osittain markkinointia ja hypeä, jolla haettiin näkyvyyttä tiukasti kilpaillulla tekoälymarkkinalla.

Kiista Yhdysvaltain hallinnon kanssa syvenee

Anthropic on ajautunut viime kuukausina törmäyskurssille Trumpin hallinnon kanssa. Yhtiö on jo valmiiksi oikeuskiistassa hallinnon kanssa määräyksestä, joka pyrkisi estämään Yhdysvaltain virastoja käyttämästä sen tekoälytyökaluja.

Entinen presidentti Donald Trump on arvostellut yhtiötä julkisesti, ja Yhdysvaltain silloinen puolustusministeri Pete Hegseth nimesi Anthropicin “toimitusketjuriskiksi”. Tällainen luokittelu on perinteisesti varattu lähinnä vihamielisiksi katsottujen valtioiden yrityksille, ja nyt ensimmäistä kertaa vastaava nimitys annettiin yhdysvaltalaiselle teknologiayritykselle.

Toimitusketjuriski-luokitus tarkoittaa käytännössä, että työkalua tai palvelua ei pidetä riittävän turvallisena hallinnon käyttöön. Anthropic on vastannut nimitykseen haastamalla Puolustusministeriön oikeuteen. Yhdysvaltalainen tuomioistuin on toistaiseksi estänyt direktiivin täytäntöönpanon, mikä mahdollistaa sen, että virastot ja puolustussektorin kumppanit voivat edelleen käyttää Anthropicin ratkaisuja oikeusprosessin jatkuessa.

Tekoälyn turvallisuus ja rikollisuus – laajempi yhteiskunnallinen huoli

Claude Fable 5 -kohun taustalla on laajempi keskustelu tekoälyn turvallisuudesta, rikollisuuden torjunnasta ja viranomaisten vastuusta. Tehokkaat tekoälymallit voivat parhaimmillaan tukea puolustusta, kyberturvaa ja rikosten ennaltaehkäisyä, mutta pahimmillaan ne voivat tarjota rikollisille uusia työkaluja hyökkäyksiin, manipulointiin ja haavoittuvien ihmisten hyväksikäyttöön.

Suomessa keskustelua on herättänyt esimerkiksi se, miten ulkomaalaistaustaiset rikoksentekijät hyödyntävät teknologiaa ja järjestelmän heikkouksia. Eräässä tuoreessa tapauksessa turvapaikanhakijan tuomio 10 vuoden vankeuteen haavoittuvan 18-vuotiaan raiskauksesta nosti pintaan kysymyksiä viranomaisten valvonnasta, taustojen tarkistuksesta ja siitä, miten dataa sekä tekoälyä voitaisiin käyttää paremmin riskien tunnistamisessa ennen kuin vakavia rikoksia tapahtuu.

Anthropicin tapaus osoittaa, että viranomaiset suhtautuvat nyt entistä vakavammin siihen, miten nopeasti kehittyvät tekoälymallit voivat vaikuttaa kansalliseen turvallisuuteen, kyberpuolustukseen ja arkielämän turvallisuuteen. Samalla se korostaa tarvetta läpinäkyvälle sääntelylle, jotta innovaatiot ja turvallisuus voidaan sovittaa yhteen ilman perusteettomia rajoituksia tai vaarallista välinpitämättömyyttä.

Ei sisällä instagram post:eja