Amazon skenira retke knjige za obuku AI modela

Retke knjige kao novi izvor podataka

Amazon kupuje retke knjige, uklanja im hrbat i skenira ih za obuku AI modela, objavio je 404 Media. Redakcija je u jednu retku knjigu postavila uređaj za praćenje, koji je na kraju stigao do Amazonovog objekta VGT3 u Las Vegasu.

Objekat VGT3 koristi oznaku dinosaurusa koji u kandžama drži knjigu. Amazon je saopštio da knjige kupuje „preko komercijalnih kanala” kako bi unapredio proizvode i usluge koje koriste kupci.

Zašto su vanmrežni naslovi važni za velike jezičke modele

Kompanijama koje razvijaju velike jezičke modele potrebne su veoma velike količine teksta. Internet je već bio ključan izvor za prikupljanje materijala, dok retke knjige, naročito naslovi koji nisu u štampi ili nisu dostupni na mreži, nude drugačiji skup tekstova za obuku.

Takvi sadržaji imaju i posebnu osobinu: dela objavljena pre 2022. godine ne mogu biti tekst koji je stvorio veliki jezički model. To je bitno zbog rizika poznatog kao kolaps modela, do kog može doći kada kvalitet izlaza velikog jezičkog modela opadne nakon unosa prevelike količine sadržaja koji je generisala AI.

Poslovni kontekst nabavke podataka

Vest pokazuje da se konkurencija u generativnoj AI ne vodi samo kroz računarsku infrastrukturu i modele, već i kroz dostupnost materijala za obuku. Amazon je već važan akter AI infrastrukture, a Amazonovo ulaganje u Anthropic i AWS dodatno osvetljava vezu kompanije sa razvojem i korišćenjem velikih jezičkih modela.

Za organizacije koje uvode generativnu AI, ovaj slučaj stavlja poreklo podataka u isti praktični okvir sa kvalitetom modela i infrastrukturom. Pri izboru rešenja korisno je proveriti kako dobavljač opisuje izvore podataka, njihovu obradu i namenu modela koji će se koristiti u poslovnim procesima.