Generativni AI slabi bihejvioralnu detekciju pretnji u e-pošti
Proofpoint navodi da generativni AI potiskuje signale na kojima su se godinama zasnivali filteri e-pošte: poruke su sada tečne, lokalizovane i prilagođene primaocu. FBI-jev Internet Crime Complaint Center je tokom 2025. zabeležio više od 22.000 prijava povezanih sa AI, uz gotovo 900 miliona dolara gubitaka, dok je 24.768 prijava poslovne kompromitacije e-pošte, odnosno BEC-a, bilo povezano sa približno 3,05 milijardi dolara prijavljenih gubitaka.
Na konferenciji Protect 2026, Proofpoint je prikazao kampanju u kojoj je više od 30 agenata za nekretnine u istoj kompaniji dobilo različite upite sa različitih naloga o različitim objektima. Iako su uvodne poruke bile prilagođene konkretnim oglasima, svaki razgovor se završavao istim zahtevom: pridruživanjem video-sastanku.
Od prepoznatljivog obrasca do procene namere
Tradicionalni filteri traže ponavljanje: novu infrastrukturu, neuobičajen jezik, sumnjivo vreme slanja ili zahtev koji ne odgovara toku razgovora. Ranije su napadači zbog ograničenog vremena ponavljali predloške, infrastrukturu i formulacije, pa su takvi tragovi bili korisni za otkrivanje kampanja.
Generativni AI umanjuje ta ograničenja. Napadač može brzo da pripremi jedinstven tekst za svakog primaoca, da prilagodi stil komunikacije ulozi osobe i postojećoj prepisci, kao i da kreira izmišljenu istoriju razgovora. U primeru sa nekretninama, prvi upiti odnosili su se na cenu, termin obilaska i dostupnost objekta, dok je završni poziv vodio ka sastanku.
U jednom slučaju, pozivnica je koristila stvarno Google preusmerenje, zbog čega su reputacione provere mogle da izgledaju uredno, ali je parametar u adresi preusmeravao klik na nepovezani sajt. Pošto je svaki nalog prvi put kontaktirao pojedinog agenta, nije postojala prethodna istorija pošiljaoca, a različit sadržaj nije ostavljao ponovljeni tekstualni obrazac.
Tri sloja zaštite i brža istraga
Proofpoint zato predlaže procenu namere kao dodatni, a ne zamenski sloj. Pravila, potpisi, reputacija infrastrukture i indikatori kompromitacije ostaju korisni za poznate pretnje. Bihejvioralne osnove i obaveštajni podaci o akterima i dalje mogu da otkriju odstupanja. Procena namere cilja poruke koje prolaze oba prethodna sloja.
Takva procena razmatra šta poruka pokušava da postigne, da li je zahtev uverljiv u odnosu na poslovni odnos i tok razgovora i kojom tehnikom se ostvaruje cilj. Kod zahteva za promenu bankovnih podataka, upozoravajući detalji mogu biti prva promena računa posle više godina, rok vezan za konkretnu isplatu, zahtev da se komunikacija premesti van prepiske ili unapred zatvaranje kanala za nezavisnu proveru.
Kompanija opisuje višeslojni model obrade: prvi nivo procenjuje svu poštu za manje od 500 milisekundi, drugi obrađuje manje od 1% poruka tokom nekoliko sekundi ili minuta, a treći manje od 0,01% poruka uz dublju analizu. Organizacijski graf treba da poveže naizgled nepovezane poruke koje stižu različitim zaposlenima, ali imaju isti operativni cilj.
Praktična posledica za organizacije
Zaštita e-pošte više ne može da se oslanja samo na loš stil pisanja, nepoznat domen ili ponovljeni predložak. Posebnu proveru zahtevaju zahtevi za plaćanje, promena podataka za uplatu, pozivi na prijavu, zahtevi za video-sastanak i pokušaji da se poslovna komunikacija izmesti iz postojećeg toka. Poslovni zaključak je da kontrole treba da zadrže postojeća pravila i reputacione provere, ali da odluke o osetljivim radnjama zasnuju i na proveri poslovne svrhe zahteva.