Gaslight: macOS-malver koristi prompt injection protiv AI-asistirane analize

Kolege, želim skrenuti pažnju: u oblasti sajberbezbednosti otkriven je macOS-stiler Gaslight koji koristi prompt injection protiv AI-asistenata.

Ukratko:
- SentinelOne: Rust-implant ubacuje lažne sistemske poruke kako bi LLM-agent prekinuo ili odbio analizu.
- C2 preko Telegram-bota: interaktivna ljuska sa komandama (exec, upload, kill itd.) i eksfiltracijom podataka.
- Ugrađeni Python-stiler prikuplja istorije terminala, profile, Keychain i podatke iz pregledača; perzistencija preko LaunchAgent.

Zašto je važno: napad cilja poverenje u AI-trijažne tokove — potrebne su dodatne provere i validacija zaključaka agenata.

Kako Vi smatrate, koje dodatne mere kontrole su potrebne za LLM-asistente?

#sajberbezbednost #macOS #malver #AIbezbednost