Kimsuky sklapa lokalnu AI infrastrukturu za napade
Genians je na infrastrukturi povezanoj sa severnokorejskom grupom Kimsuky otkrio lokalne AI alate Ollama, GPT4All i Msty, kao i bazu localdocs_v3.db za funkciju LocalDocs u GPT4All-u. Na istim sistemima pronađene su biblioteke LLaMaSharp, Microsoft Semantic Kernel i Microsoft.Agents.AI, datoteke OpenAI Whispera i tragovi editora Cursor. Istraživači nisu pronašli dokaz da je grupa istrenirala sopstveni model.
Nalaz ipak pokazuje da akter sastavlja i testira postojeće komponente kako bi AI uveo dublje u operativni tok, od obrade podataka do razvoja malvera. Kimsuky je jedinica povezana sa severnokorejskim Reconnaissance General Bureau, a američko Ministarstvo finansija ju je 2023. sankcionisalo i opisalo kao grupu prvenstveno usmerenu na prikupljanje obaveštajnih podataka.
Offline modeli i dokumenti u privatnoj bazi
Ollama je na pronađenoj infrastrukturi generisao ključeve koji nastaju pri prvom pokretanju, što ukazuje da nije bio samo preuzet. GPT4All je imao podešenu bazu localdocs_v3.db. Ta baza služi funkciji pretraživački potpomognutog generisanja, odnosno RAG-u, koja modelu omogućava da odgovara na osnovu privatne zbirke dokumenata.
Ovaj trag pokazuje pokušaj povezivanja dokumenata kojima operater raspolaže sa lokalnim AI sistemom, ali ne dokazuje da su dokumenti ukradeni. Genians je odvojeno pronašao zahtev operatera za detaljnu proveru skupa podataka radi pronalaženja podataka o novčanicima, Gmail akreditiva i istorije registracije sajtova. Nije potvrđeno da je taj zahtev poslat nekom AI servisu.
Komponente za prilagođeni razvoj
Pronađene .NET i C# biblioteke imaju namenu ugradnje AI funkcija u prilagođeni softver. OpenAI Whisper i uputstvo za извlačenje teksta iz zvuka dodatno ukazuju na interesovanje za transkripciju, dok Cursor predstavlja AI editor za programiranje. Nijedan od ovih alata nije neuobičajen sam za sebe, ali njihovo objedinjavanje na infrastrukturi pripisanoj špijunskoj grupi menja kontekst nalaza.
Aktivnost se nadovezuje na kampanju Operation GitPower. U tom lancu infekcije koriste se LNK datoteke i PowerShell, GitHub repozitorijumi služe kao komandni kanal, a šifrovani AsyncRAT tereti maskiraju se kao slike. Fortinet je u aprilu dokumentovao širi obrazac korišćenja GitHub-a za komandno-upravljačku komunikaciju u napadima na korisnike u Južnoj Koreji. Širi pregled incidenata sa zloupotrebom AI alata donosi širi pregled incidenata sa zloupotrebom AI alata kroz primere napada i odbrambenih izazova.
Šta posmatrati u odbrani
Genians nije pokazao da su lokalni modeli, RAG baza i alati za transkripciju već korišćeni protiv žrtava, niti je objavljen broj žrtava kampanje GitPower. Reuters takođe nije mogao nezavisno da potvrdi nove nalaze. Zato je neposredni zaključak uži od tvrdnje o potpuno automatizovanim AI napadima: vidi se priprema infrastrukture i prikupljanje znanja, a ne potvrđena primena celog sistema u napadu.
Za bezbednosne timove to pojačava potrebu da fišing ne ocenjuju prvenstveno po stilu, pravopisu ili formatiranju poruke. Korisnije je povezati izvršavanje LNK datoteka, PowerShell aktivnosti, skrivene zakazane zadatke, GitHub saobraćaj i kasnije ponašanje tereta. Poslovni prioritet je da se takvi signali objedine u detekciji, jer kvalitetnije poruke mamci mogu oslabiti tradicionalne vizuelne pokazatelje prevare.