OpenAI представила Lockdown Mode для защиты от prompt injection — что важно знать

OpenAI je predstavio Lockdown Mode za zaštitu od prompt injection — šta je važno znati

Kolege, želim da skrenem pažnju u oblasti sajberbezbednosti: OpenAI je predstavio Lockdown Mode za dodatnu zaštitu od prompt injection.

- Šta radi: isključuje live web browsing (samo keš), blokira preuzimanje i prikaz web-slika, onemogućava dubinsko istraživanje i režime agenata.
- Ograničenja: režim nije apsolutan — zlonamerna uputstva mogu biti sakrivena u kešu ili učitanim fajlovima i uticati na odgovore.
- Dostupnost: trenutno za ChatGPT Business i neke lične naloge.

Zašto je ovo važno: režim smanjuje rizik curenja osetljivih podataka pri radu sa LLM-ovima.

Po Vašem mišljenju, da li bi trebalo uvesti ovakav režim u Vašem korporativnom okruženju?

#sajberbezbednost #veštačkainteligencija #poverenljivost #OpenAI