Otvorene Grok aplikacije izložile interne podatke i lozinke

Bezbednosna kompanija Claroc pronašla je 37.571 aplikaciju izrađenu uz Grok, od kojih je 35.578 bilo dostupno bez prijave. Među njima su bile 24 aplikacije koje su napravili zaposleni u društvenoj mreži X i kompaniji SpaceXSI, proizvođaču asistenta Grok, dok je oko jedne desetine otvorenih aplikacija sadržalo interne poslovne ili lične podatke.
Istraživači procenjuju da je približno 2% otvorenih aplikacija sadržalo materijal dovoljne ozbiljnosti za ocenu visokog ili kritičnog rizika. SpaceXSI je uklonio svih 24 aplikacija zaposlenih, ali Claroc navodi da druge korisničke aplikacije nisu uklonjene.
Šta je bilo dostupno javnosti
U aplikacijama zaposlenih nalazili su se poverljivi plan uvođenja novog zaposlenog u prodaji, mapa prodajnih teritorija sa 594 naloga i poverljiva reklamna ponuda kompanije X jednoj saveznoj agenciji SAD. Claroc je takođe identifikovao interne podatke iz 30 drugih organizacija, od građevine i energetike do zdravstva i odbrane.
Izloženi sadržaj obuhvatao je pretraživu listu sa više od 3.500 zaposlenih jedne bolničke grupe, izveštaj intenzivne nege o jednom pacijentu, tablu smena vatrogasne službe i evidenciju rada izvođača. U kodu poslednje aplikacije sve lozinke zaposlenih bile su upisane kao običan tekst.
Zašto naziv poddomena nije zaštita
Grok može da napravi funkcionalnu aplikaciju na osnovu opisa unetog u razgovor, a ta mogućnost je otvorena svim Grok planovima 19. avgusta. Objavljena aplikacija dobija zaseban poddomen grok.me, a autor pri objavi bira ko joj može pristupiti.
Na plaćenom nalogu koji je Claroc koristio, unapred je bilo izabrano podešavanje „Anyone with the link“, uz opcije „Invited users“ i „Only you“. Iako Grok predlaže ime sastavljeno od četiri nasumične reči, adresa ne ostaje tajna: učitavanje aplikacije stvara DNS upit, a servisi za pasivni DNS beleže takve upite i omogućavaju pretragu po obrascu.
Claroc je pronašao nazive aplikacija standardnim metodama za otkrivanje poddomena i učitao početnu stranicu svake aplikacije samo jednom, bez prijave. Za poređenje, istraživači navode da ChatGPT pri deljenju aplikacije početno postavlja pristup na „Only me“, pa adresa pronađena u DNS podacima ne daje pristup drugima.
Testovi pristupa i koraci za proveru
Istraživači su na sopstvenim test aplikacijama proverili zaštitu koju Grok dodaje automatski. U kontakt-listi bez prijave, korisnik iz privatnog prozora mogao je bez autentikacije da doda red koji je sledeći posetilac video. U drugoj aplikaciji, sa dugmadima za prijavu preko Google-a i X-a, generisani kod je korisnika prvo dodavao u tim, a tek potom proveravao pripadnost timu.
Zbog tog redosleda je nepozvani Google nalog pristupio listi klijenata četvoročlanog prodajnog tima, video sve podatke, izmenio jedan zapis i obrisao drugi. Claroc nije proveravao da li su tako izmenjive i aplikacije koje je pronašao javno dostupnim.
Organizacije bi trebalo da utvrde koje AI graditelje aplikacija zaposleni koriste, pretraže domene tih servisa u pasivnim DNS podacima i rezultate provere iz privatnog prozora. Za Grok aplikacije sa internim sadržajem potrebno je izabrati „Invited users“ ili „Only you“, proveriti da spoljašnji nalog ne može da uđe, pregledati učitane skripte zbog imena, e-pošte i lozinki i povući aplikacije bez vlasnika. Claroc je potvrdio da podešavanje „Only you“ nepoznatom posetiocu vraća grešku 401 i za stranicu i za podatke, a povlačenje objave gasi aplikaciju za nekoliko sekundi.

