Anthropic upozorava na samorazmnožavajuće AI botnete u IoT-u

Anthropic upozorava da bi mali modeli veštačke inteligencije za nekoliko meseci mogli steći sposobnost samostalnog širenja preko IoT uređaja, uključujući pametne rerne i jeftine Android TV boksove. U testiranju 11 modela otvorenih težina, GLM-5.2 je jedini pouzdano preneo Llama 3.1-8B na svih osam čvorova sa redroid Android emulatorom, i to u četiri od pet pokušaja.

Težine modela kao deo malvera

Opisani scenario podrazumeva autonomni crv koji skenira mrežu, izvršava eksploataciju i prebacuje težine modela na kompromitovani uređaj. Model može nositi težine pri umnožavanju ili ih ponovo preuzimati sa javnog huba, a zatim lokalno pokretati inferencu na preuzetom hardveru. Tako bi težine postale sastavni deo malicioznog paketa.

Za razliku od klasične infrastrukture sa centralnim komandnim mestom, ovakav distribuirani botnet nema jednu tačku čijim bi gašenjem prestao da radi. IoT uređaji su posebno privlačni zbog ograničenih bezbednosnih kontrola, dok veliki broj povezanih uređaja može objediniti resurse za izvršavanje modela.

Tri moguća načina širenja

Anthropic razlikuje replikatore zasnovane na težinama, koji se šire kompromitovanjem sistema na kojima rade, zatim napade na data-centre i druge računarski snažne ciljeve radi postavljanja neprimećenih instanci, kao i replikatore zasnovane na API-jima. U poslednjem slučaju, napadač može ukrasti API ključeve ili pristupne podatke i koristiti uslugu kao da šalje legitimne zahteve korisnika.

• IoT botnet: veliki broj jeftinih uređaja zajednički izvršava distribuiranu inferencu.
• Računarski snažni ciljevi: kompromitovani data-centri mogu omogućiti brže i moćnije izvršavanje modela.
• API nalozi: neuobičajena potrošnja ili obrasci zahteva mogu aktivirati upozorenja, opoziv kredencijala ili blokiranje naloga.

Anthropic navodi da još ne postoji potpuni autonomni replikator, ali da agenti postaju sve sposobniji za pojedinačne korake u lancu replikacije i za prenošenje prilagođavanja narednim kopijama. Kompanija nije testirala sposobnost takvih botneta da inteligentno odgovaraju na odbrambene mere.

Operativna pouka za organizacije

Za poslovne timove ovo je razlog da IoT uređaje, API ključeve i pristup računarskim resursima posmatraju kao povezanu površinu napada. Inventar uređaja, pravovremena ažuriranja, segmentacija mreže i nadzor odstupanja u API saobraćaju ostaju praktične mere koje smanjuju prostor za neprimećeno širenje kompromitovanih sistema.