DetectifAI razvija lokalnu detekciju AI glasova za telefone
Sanfranciska kompanija DetectifAI, koju je osnovala Tarini Padmanabhuni, razvija softver za otkrivanje AI-generisanih glasova direktno u operativnom sistemu pametnog telefona. Kompanija želi da proizvođačima telefona licencira SDK, dok već obrađuje više od 100.000 poziva mesečno za finansijske institucije u Indiji, uz detekciju deepfake sadržaja i proveru identiteta sagovornika.
Povod za pokretanje kompanije bio je slučaj u kojem je osnivačicin deda poverovao da razgovara sa svojim bratom. Glas je tvrdio da je brat otet i tražio otkupninu, koju je deda platio. Kasnije se ispostavilo da brat nije znao ništa o navodnoj otmici, a poziv je koristio AI-generisanu imitaciju njegovog glasa.
Detekcija bez slanja zvuka u oblak
Padmanabhuni ocenjuje da se postojeća rešenja za prepoznavanje lažnih glasova uglavnom izvršavaju na udaljenim serverima u oblaku. To, prema njenom stavu, otežava proizvođačima da zaštitu ugrade neposredno u uređaj koji korisnik drži u ruci.
DetectifAI zato ne pokušava da velike modele iz oblaka smanji za telefon, već navodi da od početka projektuje kompaktne AI modele. Plan je da model tokom poziva, glasovne poruke ili drugog audio-zapisa odmah proceni da li je glas generisala veštačka inteligencija, pri čemu audio ne napušta uređaj.
SDK kao put do proizvođača uređaja
Osnov proizvoda je softverski razvojni komplet, odnosno SDK, koji druge kompanije mogu da ugrade u sopstvene proizvode i licenciraju kroz postojeće kanale. Prva prodajna meta su proizvođači telefona, kako bi funkcija detekcije stigla kao ugrađeni deo operativnog sistema, a sekundarni prihod kompanija očekuje od licenci za preduzeća i firme za sprečavanje prevara.
Tržište već okuplja kompanije kao što su Reality Defender, Pindrop, Resemble AI, Microsoft Azure AI Content Safety i Nuance, koji je u vlasništvu Microsofta. U tom okruženju DetectifAI pokušava da se razlikuje lokalnim izvršavanjem modela na uređaju.
Rast finansijskih prevara podstiče potražnju
FBI navodi da su Amerikanci prošle godine izgubili gotovo 900 miliona dolara zbog prevara pokretanih AI tehnologijom, što je rast od 24% u odnosu na 2024. Osobe starije od 60 godina izgubile su dvostruko više od grupe između 50 i 59 godina.
Kompanija je takođe sprovela beta-test putem WhatsAppa, gde korisnici prosleđuju sumnjive glasovne poruke i dobijaju procenu njihove autentičnosti. DetectifAI je prikazan i među startupima odabranim za takmičenje Startup Battlefield na događaju TechCrunch Disrupt, koji se održava od 13. do 15. oktobra u San Francisku.
Za poslovanje je ključna praktična pouka da zaštita od glasovnih prevara mora biti dostupna dok razgovor još traje. Ugrađena provera identiteta i porekla glasa može pomoći organizacijama da rizične pozive prepoznaju pre nego što zaposleni ili korisnici donesu finansijsku odluku.