- Pogajanja med Trumpovo administracijo in Anthropicem so zastala zaradi nerešenih pomislekov glede ranljivosti "jailbreakinga" v modelu Claude Fable 5.
- NSA je potrdila, da je mogoče zaobiti varnostne ovire za dostop do občutljivih podatkov o kibernetski varnosti in biokemičnih podatkov, kar vodi do strogega nadzora izvoza.
- Strokovnjaki iz industrije opozarjajo, da je vladna zahteva po sistemu, ki je 100-odstotno odporen proti jailbreaku, morda tehnično nemogoča zaradi narave velikih jezikovnih modelov.
- Ta zastoj pomeni velik premik v ameriški politiki, ki napredno umetno inteligenco obravnava kot strateško nacionalno infrastrukturo in ne le kot komercialno programsko opremo.
Nedavni zastoj med Trumpovo administracijo in podjetjem Anthropic je povzročil veliko pretresov v tehnološkem svetu, saj so se pogajanja o izdaji modela Claude Fable 5 ta teden znašla v slepi ulici. Kljub dnevom pogovorov na visoki ravni, v katerih so sodelovali vodilni delavci in vladni uradniki, strogi nadzor nad izvozom najnaprednejše umetne inteligence podjetja Anthropic ostaja trdno v veljavi. Trenutne razmere kažejo, da Washington ni več pripravljen sedeti v ozadju, medtem ko laboratoriji hitijo proti vse zmogljivejšim sistemom brez neprebojnih varnostnih jamstev.
V središču zadeve je tehnika, znana kot jailbreaking, pri kateri uporabniki manipulirajo s pozivi umetne inteligence, da bi zaobšli varnostne protokole. Medtem ko Anthropic dosledno trdi, da se tveganja pretiravajo, so pomisleke administracije potrdile poglobljene analize, ki jih je izvedla Nacionalna varnostna agencija. Drama je v bistvu potegnila črto v pesku in pokazala, da Bela hiša zdaj na modele umetne inteligence na meji med državami gleda kot na strateška nacionalna sredstva, ki zahtevajo enako raven nadzora kot napredno orožje ali jedrska tehnologija.
Intervencija NSA in zaprtje Claude Fable 5
Napetosti so se stopnjevale prejšnji teden, ko je ministrstvo za trgovino izdalo direktivo, ki je dejansko prekinila mednarodni dostop do igre Fable 5. Ta poteza ni bila le naključna birokratska ovira; sprožila se je, potem ko je izvršni direktor Amazona, Andy Jassy, domnevno opozoril ministra za finance Scotta Bessenta glede morebitnih ranljivosti v sistemu. Ko je NSA preverila te trditve, je ugotovila, da je mogoče zaščitne ukrepe, namenjene zaščiti vrhunskih kibernetskih in biokemijskih zmogljivosti modela Claude Mythos, dejansko zaobiti.
Ker so ti modeli tako tesno povezani, bi lahko kršitev v igri Fable 5, ki je namenjena uporabnikom, potencialno izročila ključe kraljestva zlonamernim akterjem, ki želijo izkoristiti osnovno moč Mythosa. Anthropic je poskušal ublažiti situacijo tako, da je modele onemogočil po vsem svetu, češ da je operativno nemogoče omejiti dostop izključno na tuje subjekte. Ta popolna zaustavitev je številne uporabnike pustila na cedilu, vendar poudarja, kako ima nacionalna varnost v očeh ameriške vlade zdaj prednost pred komercialno dostopnostjo.
Tehnično bojišče: Ali je mogoče doseči ničelno tveganje?
Medtem ko si vlada želi popolne rešitve, mnogi v znanstveni skupnosti menijo, da Washington zahteva nemogoče. Za razliko od tradicionalne programske opreme, kjer lahko preprosto zakrpate luknjo v kodi, so jailbreaki z umetno inteligenco nekoliko premična tarča, saj se zanašajo na nianse človeškega jezika in ne na določeno tehnično napako. Strokovnjaki so poudarili, da bo, dokler bodo ti modeli zasnovani tako, da bodo prilagodljivi in ustvarjalni, verjetno vedno obstajal pameten način, da jih prepričamo, da storijo nekaj, česar ne bi smeli.
Anthropic si prizadeva za strategijo »obrambe v globino«, ki se osredotoča na spremljanje in hiter odziv, namesto da bi obljubljala popoln ščit. Vendar se zdi, da Trumpova administracija vztraja pri višjem standardu preverljive varnosti, preden model vrne v divjino. Ta spopad filozofij ustvarja veliko trenja, saj tehnološka podjetja menijo, da so vezana na standard popolnosti , ki v resničnem svetu inženirstva preprosto ne obstaja.
Posledice te odločitve se že čutijo v celotni panogi in naznanjajo novo dobo »senčne regulacije«, kjer se nadzor izvoza uporablja kot glavno orodje za nadzor. S tem, ko je Anthropic postavila za testni primer teh novih pravil , Bela hiša pošilja jasno sporočilo drugim velikanom, kot sta OpenAI in Google. Če želite uvesti naslednjo generacijo mejnih modelov, boste morali zveznim organom dokazati, da so vaše notranje ovire več kot le vljuden predlog uporabniku.
V prihodnje se bo poudarek verjetno preusmeril na ustvarjanje standardiziranega okvira za merjenje teh tveganj, da se odločitve ne bodo sprejemale sproti med nujnimi sestanki. Zaenkrat so izvozni nadzori za Claude Fable 5 opomnik, da se doba divjega zahoda v razvoju umetne inteligence bliža koncu. Industrija vstopa v bolj strateško in morda bolj omejeno fazo, v kateri morata varnost in inovacije končno najti način za sobivanje pod budnim očesom nacionalnih regulatorjev.
