Napad na Fireworks AI izložio razgovore korisnika Notion AI

Napad na platformu Fireworks AI omogućio je neovlašćen pristup delu podataka njenih klijenata, a Notion je potvrdio da su među njima transkripti razgovora korisnika funkcije Notion AI Insights. Notion navodi da je događaj zahvatio približno 1% njegovih korisnika, dok Fireworks AI govori o pristupu podacima za naplatu i pojedinim skupovima podataka klijenata.
Fireworks AI je platforma preko koje programeri pristupaju i koriste otvorene AI modele. Kompanija navodi da je napadač kompromitovao njenog cloud provajdera, a zatim pristupio razvojnom sistemu Fireworksa. Posledica nije ostala ograničena na samu platformu, već je obuhvatila i podatke organizacija koje su njene usluge uključile u sopstvene proizvode.
Šta je potvrđeno za Notion AI
Notion je saopštio da ga je Fireworks obavestio o bezbednosnom incidentu, a potom potvrdio krađu određenih podataka korisnika. Ukradeni su transkripti razgovora korisnika Notion AI koji su koristili funkciju Insights. Transkript obuhvata svaki unos upisan u razgovor i svaki odgovor modela koji je u tom razgovoru prikazan.
Kompanija je dodala da se značajan deo tih podataka ne može pripisati određenom korisniku. To ne menja činjenicu da sadržaj razgovora može sadržati poslovni kontekst koji je korisnik uneo u AI alat, pa je za pogođene organizacije važno da razumeju koje su vrste podataka slane spoljnim servisima.
Notion je 3. novembra prekinuo vezu svojih sistema sa Fireworks AI, obrisao podatke uskladištene u njegovim sistemima i zaustavio svu povezanost između dve strane. U izvoru se ne navodi ponovno uspostavljanje te integracije.
Rizik zavisnosti od AI dobavljača
Fireworks AI navodi da veruje kako su napadači finansijski motivisani. Njihov cilj, prema kompaniji, može biti prodaja tokena dobijenih kompromitovanjem pristupa velikim jezičkim modelima, odnosno LLM-ovima. Neovlašćeni kupci tako mogu trošiti kapacitet modela bez sopstvenih resursa.
Ovo je drugi bezbednosni incident koji je pogodio Fireworks AI u dva meseca, nakon događaja u oktobru. Slučaj pokazuje da bezbednosni rizik AI funkcije ne prestaje na granici aplikacije koju zaposleni neposredno koriste. On se proteže na provajdere infrastrukture, razvojne sisteme i posredničke platforme koje obrađuju podatke.
Praktičan zaključak za organizacije
Organizacije koje uvode AI treba da evidentiraju koje podatke šalju spoljnim modelima, koje podizvođače koriste njihovi dobavljači i kako se integracija može brzo obustaviti. Prekid veze koji je sproveo Notion pokazuje zašto plan reagovanja mora unapred obuhvatiti uklanjanje podataka, obustavu pristupa i jasnu procenu izloženog sadržaja.

