AIUC привлекла $40 млн на аудит безопасности ИИ-агентов
Стартап Artificial Intelligence Underwriting Company (AIUC), основанный бывшим сотрудником Anthropic Руне Квистом и бывшим операционным директором METR Радживом Даттани, привлек $40 млн в раунде Series A. Общий объем финансирования компании достиг $55 млн. AIUC предлагает независимый аудит и сертификацию ИИ-агентов; среди ее клиентов названы Cursor, Lovable, Harvey и ElevenLabs.
Стандарт для проверки агентов
Раунд Series A возглавил Ribbit Capital, участие также принял First Harmonic. До этого AIUC получила $15 млн посевного финансирования от фонда NFDG Ната Фридмана, Emergence, Terrain и сооснователя Anthropic Бена Манна, а также других инвесторов.
Ключевой продукт компании — стандарт AIUC-1 и сервис тестирования, созданные по аналогии с распространенным стандартом кибербезопасности SOC 2. AIUC сформировала консорциум примерно из 250 руководителей по безопасности и управлению рисками. Их требования к поставщикам агентов используются при формировании программы проверки.
По словам Квиста, банки, больницы, государственные и военные организации отказываются от внедрения ИИ не только из-за способностей моделей. Для них важны обязательства перед собственными клиентами и возможность понимать, что именно система будет и не будет делать.
Около 5 тысяч сценариев и финальная проверка человеком
AIUC проверяет агента примерно в 5 тыс. сценариев, включая попытки обхода ограничений, галлюцинации и утечки данных. По итогам заказчик получает отчет объемом около 100 страниц: в нем отмечены ситуации, где агент работает безопасно и надежно, а также выявленные ограничения и риски.
Для запуска тестов и анализа результатов AIUC использует ИИ-агентов и другие ИИ-инструменты. При этом финальный аудит, как уточняет Квист, верифицируют люди. Такой подход должен дать покупателю независимую оценку продукта, а не только описание возможностей от его разработчика.
У Даттани есть опыт схожей работы в METR, где он был COO в 2024–2025 годах и остается членом совета. Организация проводит независимые оценки для разработчиков передовых моделей, причем ее исследования до недавнего времени были в основном сосредоточены на том, насколько надежно агенты выполняют задачи. Вопрос независимой оценки особенно заметен на фоне того, как рост Anthropic и корпоративное внедрение моделей показывает, что развитие Anthropic связано не только с выпуском моделей, но и с их внедрением в корпоративные процессы.
Что это меняет для заказчиков
AIUC не предлагает размещать своих специалистов внутри инфраструктуры клиента, но продвигает близкую логику: предприятию нужна внешняя оценка того, где агент проходит проверку, а где его применение требует дополнительных ограничений. Для бизнеса практический вывод состоит в том, чтобы при выборе ИИ-агента запрашивать не только демонстрацию функций, но и результаты независимых испытаний на релевантных рисках.