- Pregovori između Trumpove administracije i Anthropica su zastali zbog neriješenih zabrinutosti u vezi s "jailbreaking" ranjivostima u modelu Claude Fable 5.
- NSA je potvrdila da se sigurnosne barijere mogu zaobići kako bi se pristupilo osjetljivim podacima o kibernetičkoj sigurnosti i biokemijskim podacima, što dovodi do strogih kontrola izvoza.
- Stručnjaci iz industrije upozoravaju da bi vladin zahtjev za sustavom koji je 100% otporan na jailbreak mogao biti tehnički nemoguć zbog prirode velikih jezičnih modela.
- Ovaj zastoj označava veliku promjenu u američkoj politici, koja naprednu umjetnu inteligenciju tretira kao stratešku nacionalnu infrastrukturu, a ne samo kao komercijalni softver.
Nedavni zastoj između Trumpove administracije i Anthropica poslao je valove kroz tehnološki svijet, dok su pregovori o objavljivanju Model Claude Fable 5 ovog tjedna dospio je u slijepu ulicu. Unatoč višednevnim razgovorima na visokoj razini u kojima su sudjelovali najviši rukovoditelji i vladini dužnosnici, Stroge kontrole izvoza nametnute najnaprednijoj umjetnoj inteligenciji tvrtke Anthropic ostaju čvrsto na svojim mjestima. Trenutna situacija sugerira da Washington više nije spreman popustiti dok se laboratoriji utrkuju prema sve snažnijim sustavima bez neprobojnih sigurnosnih jamstava.
U srži problema leži tehnika poznata kao jailbreaking, gdje korisnici manipuliraju AI uputama kako bi zaobišli sigurnosne protokole. Dok Anthropic dosljedno tvrdi da se rizici preuveličavaju, administracija zabrinutost je potvrđena dubinskom analizom provodi Nacionalna sigurnosna agencija. Drama je u biti povukla crtu u pijesku, pokazujući da Bijela kuća sada modele umjetne inteligencije na granicama promatra kao stratešku nacionalnu imovinu koja zahtijeva istu razinu nadzora kao napredno oružje ili nuklearna tehnologija.
Intervencija NSA-e i karantena zbog Claude Fablea 5
Napetost je porasla prošli tjedan kada je Ministarstvo trgovine izdalo direktivu kojom je učinkovito ukinuto međunarodno korištenje igre Fable 5. Ovaj potez nije bio samo slučajna birokratska prepreka; pokrenut je nakon što je izvršni direktor Amazona, Andy Jassy, navodno oglasio je uzbunu ministru financija Scottu Bessentu u vezi s potencijalnim ranjivostima u sustavu. Kada je NSA intervenirala kako bi provjerila te tvrdnje, zaključili su da zaštitne mjere namijenjene zaštiti Vrhunska kibernetička sigurnost modela Claudea Mythosa a biokemijske sposobnosti bi se doista mogle zaobići.
Budući da su ovi modeli toliko duboko međusobno povezani, proboj u Fableu 5 usmjerenom na korisnike mogao bi potencijalno predati ključeve kraljevstva lošim glumcima pokušavajući iskoristiti Mythosovu temeljnu moć. Anthropic je pokušao ublažiti situaciju onemogućavanjem modela globalno, tvrdeći da je operativno nemoguće ograničiti pristup isključivo stranim subjektima. Ovo potpuno gašenje ostavilo je mnoge korisnike u nezgodnoj situaciji, ali ističe kako Nacionalna sigurnost sada ima prioritet preko komercijalne dostupnosti u očima američke vlade.
Tehničko bojno polje: Je li moguć nulti rizik?
Dok vlada želi potpuno rješenje, mnogi u znanstvenoj zajednici misle da Washington traži nemoguće. Za razliku od tradicionalnog softvera gdje možete samo zakrpati rupu u kodu, AI jailbreakovi su pomalo pokretna meta jer... oslanjaju se na nijanse ljudskog jezika a ne specifična tehnička greška. Stručnjaci su istaknuli da će, sve dok su ovi modeli dizajnirani da budu fleksibilni i kreativni, vjerojatno uvijek postojati pametan način da ih se nagovori da rade nešto što ne bi smjeli.
Anthropic je promovirao strategiju "dubinske obrane", koja se usredotočuje na praćenje i brzi odgovor, a ne na obećanje savršenog štita. Međutim, čini se da Trumpova administracija još uvijek čeka viši standard provjerljive sigurnosti prije nego što puste model natrag u divljinu. Ovaj sukob filozofija stvara mnogo trenja, jer tehnološke tvrtke smatraju da su održavan na standardu savršenstva to jednostavno ne postoji u stvarnom svijetu inženjerstva.
Posljedice ove odluke već se osjećaju u cijeloj industriji, signalizirajući novo doba „regulacije u sjeni“ u kojem se kontrole izvoza koriste kao primarni alat za nadzor. Antropika je testni slučaj za ova nova pravilaBijela kuća šalje jasnu poruku drugim divovima poput OpenAI-a i Googlea. Ako želite implementirati sljedeću generaciju graničnih modela, morat ćete saveznim vlastima dokazati da je vaš Unutarnje barijere su više od samo pristojnog prijedloga korisniku.
U budućnosti će se fokus vjerojatno preusmjeriti na stvaranje standardiziranog okvira za mjerenje tih rizika kako se odluke ne bi donosile u hodu tijekom hitnih sastanaka. Zasad, kontrole izvoza na štandu Claude Fable 5 kao podsjetnik da se era razvoja umjetne inteligencije na Divljem zapadu bliži kraju. Industrija ulazi u strateškiju i možda ograničeniju fazu u kojoj Sigurnost i inovacije moraju konačno pronaći način koegzistirati pod budnim okom nacionalnih regulatora.
