Safeworld razvija simulacije za bezbednije robote sa generativnom AI
Kompanija Safeworld izašla je iz tajnosti sa početnom investicionom rundom većom od 12 miliona dolara za proveru bezbednosti robota koje pokreće generativna AI. Kompaniju su osnovali dr Ding Zhao, direktor laboratorije Safe AI na Univerzitetu Carnegie Mellon, startap menadžer Kyle Wong i inženjer mašinskog učenja Simo Rachidi, a rundu predvode Shine Capital i a16z Speedrun.
Dodatni investitori su Box Group, Carnegie Mellon University Endowment, Innovation Endeavors i SV Angel. Safeworld želi da odgovori na problem koji postaje izraženiji kako se upravljanje robotima prepušta generativnim modelima: njihovo ponašanje je verovatnosno i manje predvidivo od ponašanja zasnovanog na tradicionalnim algoritmima.
Simulacija susreta robota i ljudi
Platforma Safeworlda procenjuje upravljački sistem robota u simulacijama sa realističnim modelima ljudi. Za konkretan prostor, poput ugla fabrike sa ograničenom vidljivošću, kompanija pravi digitalnu verziju okruženja u modelima Genesis ili MuJoCo. U njega unosi model robota koji koristi stvarni softver, a zatim pokreće hiljade scenarija susreta robota i čoveka.
Takvi testovi treba da utvrde, na primer, brzinu i zaustavni put potrebne da robot ne udari osobu koja izlazi iza slepog ugla ili nosi kutije. Simulacije obuhvataju i spoticanje i padove, jer bi njihovo stalno izvođenje u fizičkom testiranju bilo nepraktično.
Bezbednost zavisi od konkretnog radnog mesta
Za razliku od strogo uređenih okruženja, roboti rade u prostorima čija se pravila, raspored i rizici razlikuju od pogona do pogona. Tim Safeworlda navodi da su posebno zahtevni rubni slučajevi pri širokom uvođenju robota među ljudima koji ranije možda nisu radili pored takvih sistema.
Gritt Robotics već sarađuje sa Safeworldom dok razvija bezbednosne simulacije. Roboti te kompanije pomažu radnicima pri postavljanju fotonaponskih panela na industrijskim solarnim farmama, a planiraju i složenije građevinske zadatke. Njihovi sistemi moraju da uzmu u obzir ljude različitog izgleda i visine, kao i položaje poput klečanja, čučanja, trčanja, stajanja, spoticanja i pada.
Nezavisna provera kao deo primene
Osnivači Safeworlda smatraju da proizvođačima robota može biti potreban nezavisni proveravač, pored internih alata koje već koriste. Takva treća strana mogla bi da podrži razmenu informacija o bezbednosnim slučajevima među konkurentima, dok Safeworld još odlučuje da li će proizvod nuditi kao platformu spoljnim korisnicima ili kroz usluge.
Za poslovanje koje uvodi robote praktičan zaključak je da procena bezbednosti mora obuhvatiti stvarne prostorije, stvarni upravljački softver i širok skup ljudskih ponašanja pre rada u neposrednoj blizini zaposlenih.