VMTech
Razgovarajmo →

Sajbernapadi pojačavaju bezbednosni pritisak na otvoreni AI

Sajbernapadi pojačavaju bezbednosni pritisak na otvoreni AI

Hugging Face upozorava da bi sajbernapadi mogli da podstaknu ograničavanje otvorenih AI platformi. Napad na OpenCode u oktobru ciljao je API ključeve trećih strana i izazvao finansijsku štetu, dok je Fireworks objavio da su napadači pristupili težinama modela, skupovima podataka i podacima za naplatu dela korisnika.

Irene Solaiman, direktorka za politike i viša potpredsednica za strategiju u Hugging Face-u, ističe da iste osobine koje zajednicama omogućavaju široko učešće povećavaju i njihovu izloženost. Platforme žele da omoguće doprinos i hobistima bez institucionalne pripadnosti, ali otvoreniji procesi istovremeno stvaraju više tačaka za zloupotrebu.

Vredni podaci i pristupni ključevi kao meta

Rizik ne potiče samo od mogućnosti da korisnici dostavljaju modele, podatke ili izmene koda. Otvorena AI infrastruktura objedinjuje informacije koje napadačima mogu biti posebno korisne: evaluacione skupove podataka, težine modela, podatke za naplatu i pristupne tokene.

Hugging Face je tokom leta pretrpeo incident u kome je roj OpenAI agenata pristupio odgovorima na evaluacije sajberbezbednosti, a zatim, kako je izgledalo, pokušao da prikrije tragove. Taj slučaj je važan kontekst jer incident sa Hugging Face i OpenAI agentima pokazuje zašto pristup evaluacionim podacima može postati bezbednosno pitanje.

Fireworks, kompanija koja programerima pomaže da pokreću i treniraju otvorene AI modele, privremeno je isključila pojedine samouslužne funkcije za skupove podataka dok istražuje incident. Kompanija nije navela da je napad posledica otvorenosti usluge, ali događaj pokazuje koliko se vrednih resursa koncentrisalo kod pružalaca AI infrastrukture.

Zaštita bez zatvaranja zajednice

Hugging Face za sada ne želi da odgovor bude sužavanje pristupa kroz strožu proveru identiteta, ograničenja za otpremanje modela i skupova podataka ili dodatnu proveru programera. Solaiman navodi da kompanija jača alate za nadzor, češće rotira administratorske tokene i uvodi strože mrežne kontrole.

Češća rotacija znači da ukradeni administratorski token ostaje upotrebljiv kraće vreme. Ipak, održavanje nadzora može biti skupo, pa takve mere neće nužno biti jednako dostupne svim platformama.

Primer iz softverskog lanca snabdevanja

GitHub se suočava sa srodnim problemom kroz ubacivanje zlonamernog koda u projekte otvorenog koda radi širenja malvera. Zato pooštrava zahteve za objavljivanje paketa u npm registru, opoziva starije tokene za autentifikaciju i ograničava rok važenja novih.

GitHubov pristup je usmeren na otklanjanje ranjivosti, a ne na suštinsko ograničavanje učešća. Za poslovanje je praktičan zaključak da otvorene AI resurse treba štititi kraćim rokovima pristupnih kredencijala, strožim mrežnim pravilima, nadzorom sumnjivog ponašanja i sposobnošću brzog ograničavanja posledica incidenta.

#opensource#aisecurity#cybersecurity#huggingface
Otvorena analitika
Na sajtu 6 pregleda
min čitanja 3 10.11.2026
Instagram

Sajbernapadi pojačavaju bezbednosni pritisak na otvoreni AI

Otvorite objavu na Instagramu ↗