DetectifAI предложила встроить защиту от голосовых дипфейков в смартфоны
Стартап DetectifAI из Сан-Франциско разрабатывает программный комплект для выявления голосовых дипфейков прямо в операционной системе смартфона. Основательница Тарини Падманабхуни утверждает, что компания уже обрабатывает более 100 тыс. звонков в месяц для финансовых организаций Индии, где на каждом вызове применяются обнаружение дипфейков и проверка личности говорящего.
Идея проекта возникла после мошенничества с её дедом около двух лет назад. Он получил звонок с голосом, похожим на голос его брата, и услышал историю о похищении с требованием выкупа. Деньги были переведены, а затем выяснилось, что брат находился в другом месте и ничего о звонке не знал: голос был сгенерирован ИИ.
Модель должна работать без передачи аудио в облако
DetectifAI делает ставку на компактные модели ИИ, изначально рассчитанные на работу в смартфоне. По замыслу компании, система должна мгновенно оценивать, создан ли голос искусственным интеллектом, во время звонков, в голосовых сообщениях и других аудиоматериалах. При этом аудио не должно покидать устройство.
Падманабхуни противопоставляет этот подход облачным продуктам, которые выполняют анализ на удалённых серверах. По её оценке, такая архитектура затрудняет встраивание защиты непосредственно в телефоны и оставляет человека, которому звонят мошенники, без встроенного инструмента проверки.
Продажа через производителей устройств и финансовый сектор
Основным продуктом DetectifAI стал SDK — набор кода, который другие компании могут встроить в собственные продукты и лицензировать через существующие каналы. Первой целевой аудиторией стартап называет производителей телефонов: они смогут включать выявление голосовых дипфейков в функции операционной системы.
Вторым направлением станет лицензирование технологии бизнесу и компаниям, которые занимаются предотвращением мошенничества. В Индии технология уже используется при звонках ИИ-голосовых агентов, которые ведут взыскание задолженности и напоминают о документах по кредитам. Имена клиентов компания не раскрывает, ссылаясь на соглашения о конфиденциальности.
Растущий рынок защиты от синтетического голоса
ФБР сообщает, что в прошлом году жители США потеряли почти $900 млн из-за мошенничества с применением ИИ, что на 24% больше показателя 2024 года. Потери людей в возрасте от 60 лет были вдвое выше, чем у группы от 50 до 59 лет.
На рынке обнаружения голосовых дипфейков уже работают Reality Defender, Pindrop, Resemble AI, Microsoft Azure AI Content Safety и Nuance, принадлежащая Microsoft. DetectifAI рассчитывает отличиться локальной обработкой на устройстве и поставкой технологии как встроенной возможности телефона. Для бизнеса этот пример показывает, что проверку голоса необходимо учитывать не только в антифрод-системах, но и в каналах связи, где подтверждается личность клиента.