MIT je pokazao neural transparency: kako unapred videti ponašanje ličnog AI-ja

Prijatelji, želim da podelim vest iz sveta AI-ja. U MIT Media Lab predstavili su neural transparency — interfejs koji omogućava da se zaviri u „unutrašnjost“ četbota pre početka dijaloga.

Suština je u tome da korisnik vidi verovatne crte ponašanja modela već u fazi podešavanja:
- empatija, iskrenost, toksičnost i sklonost ulizivanju;
- vizuelizacija pomaže da se rizici uoče unapred;
- u istraživanju su ljudi grešili u prognozi ponašanja po 11 od 15 karakteristika.

Zanimljivo je da je transparentnost povećala poverenje, ali sama po sebi nije promenila način na koji ljudi projektuju AI.

Zašto je ovo važno: takvi alati mogu pomoći da se prepoznaju rizici pre primene.

#AI #MIT #veštačkainteligencija #tehnologija