Safeworld привлекла более $12 млн на симуляции безопасности роботов
Американский стартап Safeworld вышел из скрытого режима и привлек более $12 млн посевных инвестиций на проверку безопасности роботов с генеративным ИИ. Раунд возглавили Shine Capital и a16z Speedrun; также участвовали Box Group, Carnegie Mellon University Endowment, Innovation Endeavors и SV Angel. Компания создана руководителем лаборатории Safe AI в Carnegie Mellon Дином Чжао, стартап-менеджером Кайлом Вонгом и инженером машинного обучения Симо Рашиди.
Проверка робота в цифровой копии объекта
Safeworld намерена оценивать системы управления роботами в симуляциях с реалистичными моделями людей. Подход рассчитан на случаи, когда робот работает рядом с человеком в производственном или другом неструктурированном пространстве, а не действует в заранее подготовленной демонстрационной зоне.
Например, для конкретного угла в цехе компания может собрать цифровую модель участка в Genesis или MuJoCo, добавить модель проверяемого робота и запустить его настоящее программное обеспечение. Затем система воспроизводит тысячи вариантов встречи человека и машины. Среди вопросов — заметит ли робот работника, несущего коробки, каковы допустимая скорость и тормозной путь возле слепого угла, а также как устройство отреагирует на падение человека.
По словам основателей, сложность состоит не только в вероятностном характере генеративных моделей. Люди ведут себя по-разному: могут стоять, бежать, приседать, вставать на колени, спотыкаться и падать. Для проверки нужно учитывать и разнообразие внешности, одежды, размеров и поз.
Почему разработчикам нужен независимый тест
Safeworld сравнивает свою задачу с испытаниями автономных автомобилей Tesla и Wayve, которым также требуется корректно реагировать на неожиданные события. Однако для роботов условия отличаются: каждая площадка имеет собственную планировку и требования безопасности, а взаимодействие происходит в непосредственной близости от людей.
Команда полагает, что производителям роботов может понадобиться независимая валидация, даже если у них есть внутренние инструменты тестирования. Внешняя оценка способна помочь обмениваться данными о сценариях безопасности между конкурентами. Партнером Safeworld уже стала Gritt Robotics, разрабатывающая ИИ-управление для роботов, которые помогают рабочим устанавливать фотоэлектрические панели на крупных солнечных электростанциях.
Что это означает для внедрения
Технический директор Gritt Robotics Вишал Дугар отмечает, что безопасность таких систем трудно формально доказать уравнениями: ее необходимо проверять эмпирически, перебирая множество возможных ситуаций. Для робота с манипулятором, работающего рядом с людьми, это означает проверку того, не заденет ли он человека при самых разных вариантах его движения.
Safeworld пока выбирает модель поставки продукта — платформу для внешних пользователей или сервисный формат. Для компаний, планирующих внедрение роботов с генеративным ИИ, практический вывод состоит в необходимости заранее моделировать особенности конкретной площадки и редкие человеческие действия, а не ограничиваться испытаниями в контролируемой среде.