Anthropic ja Valkoinen talo kriisikokoukseen tehokkaan tekoälytyökalun eston jälkeen

Yhdysvaltalainen tekoälyyritys Anthropic valmistautuu kiireelliseen tapaamiseen Valkoisen talon ja kauppaministeriön kanssa sen jälkeen, kun yhtiö joutui estämään juuri julkaistun, erittäin tehokkaaksi kuvatun tekoälymallinsa käytön.

Äkillinen esto Fable 5- ja Mythos 5 -malleille

Anthropic keskeytti perjantaina kaiken julkisen käytön uusimmalta tekoälytyökalultaan, jota yhtiö on aiemmin luonnehtinut “liian voimakkaaksi”. Kyseessä ovat Fable 5- ja Mythos 5 -nimiset mallit, jotka muodostavat uuden sukupolven Claude Mythos -tekoälyperheestä.

Fable 5 on laajalle yleisölle tarkoitettu versio, johon on lisätty ylimääräisiä turvatoimia ja rajoituksia. Mythos 5 puolestaan on tiukemmin kontrolloitu versio, joka on tarjolla vain rajatulle joukolle organisaatioita, mukaan lukien joitakin julkisen sektorin toimijoita.

Yhtiö oli jo aiemmin keväällä herättänyt huomiota, kun se tarjosi Claude Mythos -mallin esikatselu- ja testikäyttöä rajalliselle määrälle organisaatioita, myös Yhdysvaltain hallinnon yksiköille.

Yhdysvaltain hallinto rajoitti ulkomaalaisten pääsyä teknologiaan

Anthropicin mukaan ratkaiseva käänne tapahtui, kun Yhdysvaltain hallitus kielsi yhtiötä antamasta pääsyä uuteen teknologiaan millekään ulkomaalaiselle käyttäjälle. Tämän seurauksena yritys päätti estää toistaiseksi kaiken julkisen käytön, eikä työkaluja ole tällä hetkellä saatavilla edes yhdysvaltalaisten loppukäyttäjien laajaan käyttöön.

Yhtiö myönsi jo ennen estoa, että Mythos-malliperheen tuominen yleiseen käyttöön “sisältää riskejä”. Anthropic korosti, että Fable 5:n kyvykkyys “ylittää minkä tahansa aiemmin yleisesti saataville tuodun mallimme ominaisuudet”.

Huoli mahdollisesta jailbreak-haavoittuvuudesta

Vain muutamia päiviä julkaisun jälkeen Yhdysvaltain viranomaiset ilmoittivat tulleensa tietoisiksi mahdollisesta “jailbreakista” – keinosta ohittaa mallin sisäänrakennetut turvarajat ja saada tekoäly tekemään asioita, joihin sitä ei ole suunniteltu tai tarkoitettu.

Anthropic kertoi perjantaina saaneensa toistaiseksi vain “suullista näyttöä” väitetystä haavoittuvuudesta. Tästä huolimatta yhtiö päätti toimia varovaisuusperiaatteen mukaisesti ja keskeytti työkalujen käytön odottaessaan lisäselvityksiä ja teknistä dokumentaatiota ongelmasta.

Korkean tason tapaaminen Washingtonissa

Kaksi asiaa tuntevaa lähdettä kertoi, että maanantaina Washington DC:ssä järjestetään korkean tason tapaaminen Anthropicin johdon ja Yhdysvaltain kauppaministeriön välillä. Kauppaministeriötä johtaa ministeri Howard Lutnick, ja kokoukseen odotetaan osallistuvan myös Anthropicin toimitusjohtaja Dario Amodei.

Tapaamisen tarkoituksena on käydä läpi yksityiskohtaisempaa dokumentaatiota väitetystä jailbreak-haavoittuvuudesta sekä sopia jatkotoimista, joiden avulla sekä kansallinen turvallisuus että innovaatiot voitaisiin turvata. Valkoisen talon edustaja kieltäytyi kommentoimasta tapaamista, eikä myöskään kauppaministeriö tai Anthropic ole toistaiseksi vastannut median yhteydenottoihin.

Kiristyneet välit hallinnon ja tekoälyyritysten välillä

Anthropicin ja Yhdysvaltain hallinnon välinen jännite ei ole uusi ilmiö. Kuluvan vuoden aikana yhtiö on jopa haastanut Yhdysvaltain puolustusministeriön oikeuteen kiistassa siitä, miten ja mihin sen malleja voidaan käyttää. Erimielisyydet koskevat erityisesti tekoälyn roolia turvallisuus- ja puolustussovelluksissa sekä mallien käyttöehtojen rajaamista.

Viikkoja ennen nykyistä kriisiä näytti kuitenkin siltä, että jännitteet olisivat hieman laantumassa: Anthropic oli tavannut Valkoisen talon korkeita virkamiehiä, ja tapaamista kuvailtiin “tuottavaksi”. Nyt Fable 5- ja Mythos 5 -mallien nopea esto on nostanut AI-sääntelyn ja kansallisen turvallisuuden jälleen eturiviin.

Voidaanko Fable 5 ja Mythos 5 avata uudelleen?

Toistaiseksi ei ole selvää, millä ehdoilla tai milloin Fable 5 ja Mythos 5 voidaan mahdollisesti tuoda uudelleen käyttäjien saataville. Paljon riippuu siitä, kuinka vakavaksi hallinto arvioi väitetyn jailbreak-haavoittuvuuden ja pystyykö Anthropic osoittamaan, että sen turvamekanismit riittävät estämään väärinkäytökset.

On mahdollista, että mallit avataan myöhemmin rajoitetummin, esimerkiksi vain tietyille yhdysvaltalaisille toimijoille tai tiukemmin valvotussa ympäristössä. Vaihtoehtona on myös se, että teknologiaa muokataan perusteellisesti ennen uutta julkaisua – mikä voisi hidastaa kehitystyötä mutta vähentää kansallisen turvallisuuden riskejä.

Laajempi keskustelu tehokkaiden tekoälymallien riskeistä

Tapaus korostaa, kuinka nopeasti keskustelu generatiivisen tekoälyn mahdollisuuksista siirtyy turvallisuus- ja valvontahuoliin, kun mallien kyvykkyys kasvaa. Fable 5- ja Mythos 5 -mallit ovat esimerkkejä työkaluista, joiden avulla voidaan tuottaa, analysoida ja muokata suuria määriä tietoa – ominaisuuksia, joilla on sekä valtava taloudellinen potentiaali että merkittäviä väärinkäytön riskejä.

Samankaltaisia jännitteitä on nähty myös muilla aloilla, joissa arvokkaat tai arkaluontoiset kulttuuri- ja teknologiaomaisuudet nousevat kansainvälisen huomion kohteeksi. Esimerkiksi harvinainen sisarteos kuuluisalle Monarch of the Glen -maalaukselle on herättänyt keskustelua sekä kulttuuriperinnön arvosta että sen hallinnasta – aivan kuten nyt käynnissä oleva debatti tehokkaiden tekoälymallien omistuksesta, käytöstä ja sääntelystä.

Anthropicin ja Valkoisen talon maanantainen tapaaminen toimii todennäköisesti suunnannäyttäjänä sille, millaista linjaa Yhdysvallat aikoo jatkossa noudattaa kaikkein edistyneimpien tekoälymallien suhteen – ja miten pitkälle hallinto on valmis menemään rajoittaakseen niiden käyttöä kansallisen turvallisuuden nimissä.

Ei sisällä instagram post:eja