- Kalifornijski istraživači koristili su Anthropicov Claude Mythos Preview kako bi za manje od tjedan dana izgradili funkcionalni exploit protiv Appleovog M5 Memory Integrity Enforcementa.
- Napad povezuje dvije greške i napredne tehnike kako bi potaknuo oštećenje memorije jezgre macOS-a i dobio pristup ograničenim područjima sustava.
- Stručnjaci ovo opisuju kao prvi javni exploit koji uspješno preživi Appleove nove hardverski potpomognute MIE zaštite na M5 čipovima.
- Slučaj potiče raspravu o kontroliranom pristupu moćnim modelima umjetne inteligencije koji mogu i ojačati i potkopati kibernetičku sigurnost.
Posljednjih dana, jedan manje poznati eksperiment kibernetičke sigurnosti postao je glavna tema razgovora u sigurnosnoj zajednici: probna verzija naprednog modela umjetne inteligencije Anthropica, Claude Mythos, pripisuje se zasluga za probijanje jedne od najnovijih Appleovih hardverskih obrana na njihovim M5 čipovima. Ova epizoda se smatra konkretnim primjerom kako vrhunska umjetna inteligencija može otkriti kritične nedostatke i potencijalno preoblikovati ravnotežu između napadača i branitelja.
Prema istraživačima startupa Calif sa sjedištem u Palo Altu, Pregled modela Mythos odigrao je ključnu sporednu ulogu u stvaranju radnog exploita koji ugrožava Appleovu najnoviju zaštitu Memory Integrity Enforcement (MIE) na Macovima temeljenim na M5 procesoru. Iako je napad i dalje zahtijevao duboko ljudsko znanje, tim kaže da je umjetna inteligencija drastično ubrzala otkrivanje iskorištenih grešaka, postavljajući nova pitanja o tome kome bi trebalo biti dopušteno koristiti takve sustave i pod kojim uvjetima.
Kako je Claude Mythos pomogao u probijanju Appleove M5 zaštite
Sredina priče usredotočuje se na Calif, tvrtku za kibernetičku sigurnost sa sjedištem u kalifornijskom tehnološkom središtu Palo Alto, koja je krenula u procjenu koliko je dobro Appleov novi MIE mehanizam na M5 čipovima mogao bi izdržati moderne tehnike iskorištavanja. Tijekom tog istraživanja, tim je koristio Anthropicov Claude Mythos Preview kao svojevrsnog AI kopilota za analizu putova koda, zaključivanje o potencijalnim slabostima i određivanje prioriteta obećavajućih površina za napad.
Kalifornijski istraživači izvještavaju da su na kraju uspjeli kombinirati dva različita softverska buga s nekoliko specijaliziranih tehnika hakiranja kako bi postigli oštećenje memorije na razini jezgre na macOS-u koji radi na M5 hardveru. To oštećenje im je zatim omogućilo da dopru do dijelova sustava koji su inače nedostupni, učinkovito zaobilazeći neke od Appleovih najnaprednijih hardverski potpomognutih zaštita.
Ono što ovaj slučaj izdvaja jest to što rezultirajući iskorištavajući program, riječima navedenim u više izvješća, čini se prvi javno poznati napad na oštećenje memorije jezgre macOS-a koji preživi Appleove MIE zaštite na M5 čipovima. Za obrambeni mehanizam koji Apple predstavlja kao veliki napredak nakon godina ulaganja, brzo pojavljivanje javnog iskorištavanja privuklo je pozornost industrije.
Izvori, uključujući The Wall Street Journal i medije usmjerene na Mac, istaknuli su da se iskorištavanje ne oslanja na egzotične hardverske kvarove ili trikove fizičkog pristupa. Umjesto toga, povezuje logičke nedostatke koji se, nakon što se identificiraju, mogu pretvoriti u dosljedan put napada sposoban neutralizirati MIE-ove zaštitne mjere na pogođenim sustavima.
Sama Kalifornija je projekt opisala kao test onoga što se događa kada Vrhunski AI alati upareni su s iskusnim developerima exploita, a ne scenarij automatiziranog hakiranja jednim klikom. Unatoč tome, brzina i sofisticiranost ishoda izazvali su zabrinutost oko toga koliko se brzo takve mogućnosti mogu proširiti ako se ne kontroliraju.
Što je zaštita integriteta memorije na M5 čipu?
Apple predstavio Provedba integriteta memorije kao vodeću sigurnosnu značajku za svoju liniju čipova M5, dizajniranu za zaštitu uređaja od cijelih kategorija napada oštećenja memorije. Ideja je jednostavna, ali ambiciozna: koristiti namjensku hardversku podršku za praćenje i ograničavanje korištenja memorije, što napadačima znatno otežava preuzimanje izvršavanja koda niske razine.
Prema kalifornijskoj analizi, Apple je otprilike pet godina razvijao MIE od koncepta do isporuke proizvoda, s investicijom koja je vjerojatno dosegla milijarde dolara. Tvrtka je MIE pozicionirala kao korak naprijed za hardverski potpomognuta sigurnost memorije, s ciljem uništavanja dugogodišnjih tehnika iskorištavanja koje su korištene protiv prethodnih generacija iOS i macOS uređaja.
Prije kalifornijskog istraživanja, MIE je navodno bio vrlo uspješan u praksi. Startup tvrdi da svaki javno poznati lanac iskorištavanja MIE je poremetio ciljanje trenutnih iOS sustava, uključujući visokoprofilne komplete poput nedavno procurjelih paketa Coruna i Darksword. Drugim riječima, MIE se smatrao glavnom preprekom za napadače koji se oslanjaju na klasične obrasce korupcije memorije.
U tom kontekstu, pojava javnog iskorištavanja oštećenja memorije kernela koje može funkcionirati unatoč MIE-ovoj zaštiti na M5 hardveru smatra se značajnim tehničkim i simboličkim razvojem. To ne znači da je MIE u cjelini zakazao, ali pokazuje da Odlučni istraživači još uvijek mogu pronaći održive puteve napada, posebno kada je podržano moćnim analitičkim alatima poput Claudea Mythosa.
Tehnički detalji ostaju strogo zadržani; Calif i Anthropic još nisu objavili potpunu dokumentaciju o lancu iskorištavanja, naglašavajući da čekaju da Apple u potpunosti riješi problem. Međutim, njihovi komentari sugeriraju da iako MIE znatno podiže ljestvicu, nije neprobojan štit i buduće mjere ublažavanja morat će pretpostaviti da Otkrivanje ranjivosti ubrzano umjetnom inteligencijom dio je krajolika prijetnji.
Vremenski okvir: od otkrivanja greške do uspješnog iskorištavanja za manje od tjedan dana
Jedan od najupečatljivijih elemenata u kalifornijskom izvještaju je tempo razvoja. Tvrtka je postavila prilično precizan vremenski okvir koji pokazuje da je cijeli iskorištavajući program - od početne identifikacije greške do pouzdanog radnog dokaza koncepta - završen za manje od sedam dana, brzinu koju čak i okorjeli sigurnosni stručnjaci smatraju značajnom.
Kako je opisao tim, proces je započeo kada istraživač Bruce Dang uočio je prve relevantne greške 25. travnja. U roku od nekoliko dana, sigurnosni stručnjak Dion Blazakis pridružio se naporima 27. travnja, donoseći dodatnu stručnost za oblikovanje strategije napada koja se razvija i bolje razumijevanje kako je MIE reagirao na rane pokušaje iskorištavanja.
Ubrzo nakon toga, inženjer Josh Maine usredotočio se na izradu potrebnog alata istražiti, testirati i poboljšati putove iskorištavanja koje su predložili i ljudski istraživači i Mythos model. Do 1. svibnja, samo nekoliko dana nakon početnog otkrića, Kalifornija tvrdi da je imala potpuno funkcionalan iskorištavanje kernela sposobno zaobići MIE na ciljanim sustavima temeljenim na M5.
Istraživači naglašavaju da ovaj brzi preokret nije bio isključivo rezultat automatizacije. Umjesto toga, opisuju tijek rada koji se odvija naprijed-natrag u kojem Mythos Preview otkrio je obećavajuće obrasce ranjivosti, što su ljudski stručnjaci potom potvrdili, usavršili i povezali u koherentni poduhvat. Čini se da je uska petlja između hipoteza koje generira umjetna inteligencija i stručne analize sažela ono što bi inače trajalo tjednima ili mjesecima u nekoliko dana.
Kalifornija je postignuće okarakterizirala kao ranu, ali znakovitu demonstraciju „što se događa kada se strojna inteligencija i ljudska stručnost spoje“ u domeni ofenzivne sigurnosti. Pojava kernel exploita protiv onoga što smatraju najsnažnijom Appleovom zaštitom „u tjedan dana“ je, prema njihovim riječima, znak da će ovaj spoj vjerojatno postati moćna sila – ona s kojom će se branitelji morati nositi u budućnosti.
Uloga Claudea Mythosa: moćna, ali ne i potpuno autonomna
Središnji dio ove priče je Anthropicov Pregled Claudea Mythosa, model koji nije objavljen široj javnosti upravo zbog svojih naprednih mogućnosti u analizi i iskorištavanju softverskih ranjivosti. Umjesto toga, pristup je ograničen na zatvorenu skupinu velikih tehnoloških tvrtki, financijskih institucija i provjerenih istraživačkih organizacija u okviru inicijative Anthropic Project Glasswing.
Kalifornija je više puta naglasila da je sustav umjetne inteligencije značajno doprinio svakoj fazi razvoja exploita. Prema startupu, Mythos je pokazao sposobnost brzog prepoznavanja kada se novootkrivene greške uklapaju u dobro razumljive klase iskorištavanja, te predložiti načine na koje bi se te slabosti mogle povezati ili manipulirati. Ova snaga prepoznavanja uzoraka omogućila je timu da preskoči velike dijelove ručnog pokušaja i pogrešaka.
Tvrtka je opisala Mythos jezikom koji ističe i njegovu snagu i općenitost: nakon što je model naučio napadati određeni kategorija sigurnosnih problema, može generalizirati to znanje na širok raspon sličnih ciljeva. To znači da se iste konceptualne tehnike koje funkcioniraju na jednom softveru potencijalno mogu prenijeti, uz prilagodbe, na potpuno različite sustave.
Unatoč tome, kalifornijski istraživači pažljivo naglašavaju da Ljudski sud ostao je središnjiMIE na M5 čipovima relativno je novi sloj ublažavanja, a dijelovi njegovog ponašanja pod aktivnim napadom još nisu bili u potpunosti mapirani, čak ni interno u Appleu. Kao rezultat toga, razumijevanje kako zaobići ili zaobići te zaštite zahtijevalo je od iskusnih programera iskorištavanja da interpretiraju prijedloge umjetne inteligencije, testiraju ih na stvarnom hardveru i ponavljaju na temelju suptilnih povratnih informacija iz rušenja, zapisnika i ponašanja sustava.
Tim se jako potrudio osporiti ideju da je Mythos "generator iskorištavanja na pritisak gumba". Umjesto toga, oni ga prikazuju kao izuzetno sposobnog asistenta koji pojačava ljudske sposobnosti - posebno skraćivanjem vremena potrebnog za prelazak s otkrivanje grešaka do praktične upotrebeIpak, činjenica da takav alat uopće postoji i da može biti ovako učinkovit u rukama stručnjaka potiče široku raspravu o kontrolama pristupa i odgovornom postavljanju.
Reakcija industrije i Appleov odgovor
Otkriće je privuklo značajan interes cijelog tehnološkog svijeta, kako zbog tehničke sofisticiranosti exploita, tako i zbog načina na koji je izgrađen. Mediji poput Wall Street Journal uokvirili su slučaj kao značajan pomak u ofenzivnim sposobnostima kibernetičke sigurnosti, pri čemu umjetna inteligencija prelazi iz teorijske brige u konkretnog omogućivača vrhunskih napada.
S Appleove strane, javni komentari ostali su oprezni. U izjavi koju je citirao WSJ, predstavnik Applea oslanjao se na standardnu tvrtku koja je sigurnost korisnika je glavni prioritet i da se sve prijavljene ranjivosti temeljito istraže. Osim toga, tvrtka nije dala detaljne komentare o specifičnom kalifornijskom iskorištavanju ili kako bi ono moglo preoblikovati buduće iteracije MIE-a.
Međutim, postoje naznake da je Apple već počeo ozbiljno shvaćati nalaze. Promatrači su primijetili reference na oba Kalifornijska i antropološka istraživanja u bilješkama o izdanju za macOS Tahoe 26.5, ažuriranje objavljeno nedavno u ponedjeljak. To je protumačeno kao znak da je barem dio rada na ublažavanju rizika u tijeku, iako ni Kalifornija ni Apple nisu točno potvrdili koji su aspekti exploita, ako ih ima, u potpunosti zakrpani.
Kalifornija je sa svoje strane naglasila da zadržava potpunu tehničku dokumentaciju dok Apple "konačno ne eliminira vektor napada". Tvrtka se odlučila za otkriti ranjivost osobno u Appleovom sjedištu u Kaliforniji umjesto da se oslanjaju na standardne kanale za prijavu grešaka, navodeći želju da se izbjegne gubljenje u poplavi izvješća koje veliki dobavljači primaju - posebno oko događaja poput Pwn2Own, gdje koordinirano otkrivanje može lako postati kaotično.
Ovaj relativno izravan pristup otkrivanja podataka licem u lice sugerira da sve strane prepoznaju osjetljivost propusta koji ne samo da cilja na najnoviju arhitekturu Appleovog čipa, već i pokazuje rastuću ulogu umjetne inteligencije u otkrivanju takvih nedostataka. Dok se ne pojave dodatni detalji, veći dio šire zajednice čita između redaka kratkih javnih izjava i oskudnih tehničkih naznaka.
Zašto je Anthropic ograničio pristup Claudeu Mythosu
Anthropicova odluka da zadrži Claude Mythos izvan ruku šire javnosti prethodi epizodi Calif-Apple, ali ovaj incident se smatra potvrdom tih opreznih instinkta. Tijekom internih testova i vanjskih evaluacija, tvrtka je navodno primijetila da Mythos može autonomno identificirati i, u nekim scenarijima, pomoći u iskorištavanju softverskih ranjivosti na razini koja nadilazi bilo koji prethodno javni AI sustav.
U svjetlu tih nalaza, Anthropic se odlučio za strogo kontrolirano uvođenje. U okviru inicijative koja se ponekad naziva Projekt GlasswingMythos je dostupan samo odabranim partnerima - velikim tehnološkim tvrtkama, bankama i kratkom popisu istraživačkih organizacija - koji pristaju na rad prema strogim smjernicama za korištenje. Cilj je iskoristiti snage modela za obrambenu sigurnost i istraživanje, a istovremeno smanjiti rizik da ga oportunistički napadači mogu zloupotrijebiti.
Ova strategija nije u potpunosti ublažila zabrinutost. Neki promatrači industrije tvrde da bi čak i ograničen pristup takvom alatu mogao ubrzati dinamiku „utrke u naoružanju“, gdje organizacije s privilegiranim pristupom mogu brzo razviti vrhunsku tehnologiju. ofenzivne sposobnosti, što potencijalno destabilizira širi ekosustav. Drugi pak tvrde da je za sposobne branitelje bolje da sada istraže i razumiju te tehnike, nego da čekaju da ih sustignu manje savjesni akteri.
Raspravu dodatno zakompliciraju izvješća da je Mythos već ostvario impresivne rezultate u isključivo obrambenim kontekstima. Na primjer, kaže se da je Mozilla primijetila model koji identificira stotine potencijalnih ranjivosti u Firefoxu tijekom internih testova - 271 problem u jednom navedenom primjeru. Nalazi poput ovih sugeriraju da iste karakteristike koje Mythos čine moćnim za razvoj iskorištavanja čine ga i neobično moćnim saveznikom za jačanje softvera.
Anthropic se nije javno obvezao na bilo kakav vremenski okvir za širi pristup Mythosu, a događaji poput M5 exploita vjerojatno će ojačati argumente za održavanje ili čak pooštravanje trenutnih ograničenja. Zasad, model ostaje vrsta specijaliziranog instrumenta, koji se koristi u nekolicini sigurnosnih okruženja s visokim ulozima gdje je njegova dvojna namjena izričito priznata.
Umjetna inteligencija u kibernetičkoj sigurnosti: sve veći mač s dvije oštrice
Slučaj iskorištavanja u Kaliforniji brzo je postao referentna točka u široj raspravi o Uloga umjetne inteligencije u kibernetičkoj sigurnostiS jedne strane, sposobnost alata poput Mythosa da brzo analiziraju kod, uočavaju suptilne obrasce grešaka i predlažu strategije napada ili obrane mogla bi dramatično poboljšati brzinu kojom branitelji pronalaze i ispravljaju nedostatke. S druge strane, iste mogućnosti mogu skratiti ciklus razvoja sofisticiranih iskorištavanja, posebno kada ih koriste visokokvalificirani timovi.
Sigurnosni stručnjaci već dugo brinu o budućnosti u kojoj bi sustavi umjetne inteligencije mogli preuzeti veliki dio ofenzivnog tijeka rada, od izviđanja do razvoja i bočnog kretanja. Epizoda M5 još ne predstavlja potpunu automatizaciju, ali nudi uvid u to kako to izgleda kada... Umjetna inteligencija postaje integralna, visokoučinkovita komponenta lanca napada u stvarnom svijetu, čak i u rukama odgovornih istraživača.
Mnogi u tom području sada očekuju da će iskorištavanje uz pomoć umjetne inteligencije sve više postajati norma na vrhu spektra prijetnji. Dobro financirani napadači, bilo da se radi o kriminalnim skupinama ili državnim akterima, vjerojatno će istražiti ili izgraditi vlastite analoge modela poput Mythosa, koristeći ih za pretraživanje ogromnih kodnih baza i otkrivanje slabih točaka koje bi ljudima bilo nepraktično pronaći sami.
Istovremeno, branitelji ovaj incident smatraju pozivom na buđenje. Ako se napad može ubrzati do te mjere, onda cjevovodi zakrpa, prakse pregleda koda i procesi upravljanja ranjivostima možda će trebati preispitati kako bi se održao korak. Neke organizacije već eksperimentiraju s alatima za reviziju potpomognutom umjetnom inteligencijom, nadajući se da će koristiti slične tehnike za sprječavanje napada otkrivanjem i ispravljanjem ranjivosti.
Priča o Kaliforniji i Appleu tako se nalazi usred promjenjivog krajolika, gdje umjetna inteligencija više nije apstraktna buduća briga, već aktivni igrač u sigurnosnoj areni. Način na koji tvrtke odluče implementirati, ograničiti ili regulirati takve modele u nadolazećim godinama vjerojatno će oblikovati ne samo pojedinačne incidente, već i cjelokupnu putanju digitalnog rizika.
Sve u svemu, iskorištavanje Appleovog M5 Memory Integrity Enforcement-a, središnju ulogu koju je odigrao Pregled Claudea Mythosa, i kontrolirani, ali kontroverzni način na koji Anthropic rješava pristup modelu, sve upućuje u istom smjeru: napredna umjetna inteligencija postaje čvrsto isprepletena s mehanikama moderne kibernetičke sigurnosti. Ovaj konkretan slučaj pokazuje da kada najsuvremeniji jezični modeli surađuju s iskusnim ljudskim istraživačima, mogu otkriti i operacionalizirati ozbiljne nedostatke na razini hardvera u zapanjujuće kratkim vremenskim okvirima - nova stvarnost s kojom će se i dobavljači i branitelji morati suočiti dok dizajniraju sljedeću generaciju zaštita.
