AI pojmovi koje vredi razumeti: od LLM-a do opaque recurrence
Rečnik veštačke inteligencije ubrzano se širi: uz LLM, AI agente, RAG i RLHF, pažnju privlači i opaque recurrence, tehnika zaključivanja povezana sa OpenAI-jevim modelom Astra. Ona ponavlja obradu istog upita kroz interne slojeve modela, umesto da problem razlaže u čitljive tekstualne korake, što otvara pitanja o nadzoru i bezbednosti.
Zašto se AI terminologija menja
Pojmovi nisu samo stručni žargon. Oni opisuju različite slojeve sistema: modele, podatke, računarsku infrastrukturu, integracije i načine na koje softver donosi izlazne rezultate. Za organizacije koje uvode AI, razumevanje razlike između obuke i inferencije ili između chatbota i agenta pomaže da se preciznije odrede zahtevi, troškovi i odgovornosti.
Veliki jezički modeli, odnosno LLM-ovi, duboke su neuronske mreže sa milijardama numeričkih parametara. U asistentima kao što su ChatGPT, Claude, Gemini, Llama, Copilot, Le Chat i Mistral, oni obrađuju upit i stvaraju nastavak teksta koji statistički odgovara zadatom kontekstu. Tokeni su manje jedinice teksta koje model obrađuje, a njihov broj često utiče na cenu korišćenja usluge.
Obuka je faza u kojoj model uči obrasce iz podataka, dok je inferencija njegovo pokretanje radi predviđanja ili generisanja odgovora. Računarska snaga, odnosno compute, obuhvata infrastrukturu poput GPU-a, CPU-a i TPU-a koja podržava oba procesa. Keširanje, uključujući KV keš u modelima zasnovanim na transformerima, može smanjiti broj ponovljenih proračuna tokom inferencije i ubrzati odgovore.
Agenti, integracije i standardi
AI agent nije samo konverzacijski interfejs. To je sistem koji može da izvrši niz koraka ka cilju, na primer da koristi više alata ili servisa. Kodni agenti su uža kategorija: mogu da pišu, testiraju i otklanjaju greške u kodu, ali njihov rad i dalje zahteva ljudski pregled.
API endpointi su programske tačke preko kojih aplikacije pokreću funkcije drugih sistema i razmenjuju podatke. Model Context Protocol, ili MCP, otvoreni je standard koji povezuje AI modele sa spoljnim alatima i podacima bez izrade posebnog konektora za svaku kombinaciju. Anthropic ga je predstavio 2024. godine, potom predao Linux Foundation, a standard su prihvatili OpenAI, Google i Microsoft.
Čitljivost zaključivanja postaje pitanje upravljanja rizikom
Chain-of-thought pristup razlaže složen problem na posredne korake i može poboljšati rezultat u zadacima logike ili programiranja, iako odgovor često stiže sporije. Modeli za zaključivanje se razvijaju iz LLM-ova i mogu se optimizovati pojačanim učenjem, uključujući RLHF, gde ljudska povratna informacija usmerava ponašanje sistema.
Opaque recurrence, poznat i kao recurrent depth, koristi drugačiji obrazac: isti upit kruži kroz slojeve modela više puta. Time manji model može postići bolje rezultate uz manje računske snage, ali nastaje manje čitljivih tragova nego kod tekstualno izraženog zaključivanja. Bezbednosna dilema koju otvara bezbednosna dilema tehnike opaque recurrence pokazuje zašto takav pristup može otežati uočavanje neželjenog ponašanja.
Halucinacije ostaju zaseban problem: model može generisati netačne informacije, naročito kada postoje praznine u podacima na kojima je obučen. Fino podešavanje, transferno učenje i specijalizovani modeli mogu usmeriti sistem na uži zadatak, ali ne uklanjaju potrebu za proverom rezultata i jasnim pravilima korišćenja.
Praktičan okvir za poslovnu primenu
Pri proceni AI rešenja korisno je razdvojiti sposobnost modela od načina na koji je povezan sa podacima i alatima. Treba utvrditi koje API dozvole agent dobija, gde se obrađuju podaci, kako se meri kvalitet odgovora, ko proverava izlaze i da li su postupci modela dovoljno vidljivi za internu kontrolu.
Poslovna odluka zato ne bi trebalo da se zasniva samo na brzini ili impresivnosti demonstracije. Razumevanje osnovnih AI pojmova omogućava nam da automatizaciju uvedemo u zadatke sa odgovarajućim kontrolama, ljudskom odgovornošću i proverljivim granicama rizika.