MIT оценил риски единого алгоритма для найма сотрудников
Исследователи MIT Брайан Хедден и Маниш Рагхаван изучили, как использование одного алгоритма найма многими компаниями влияет на рынок труда. Работа «Algorithmic Monoculture and its Critics», опубликованная в Philosophical Perspectives, показывает: единая система отбора не обязательно ведёт к систематическому исключению кандидатов, а объединённый алгоритм из нескольких моделей в ряде симуляций способен работать не хуже или лучше набора независимых решений.
Почему единый алгоритм не всегда означает массовый отсев
Алгоритмической монокультурой авторы называют ситуацию, когда решения в определённой области принимаются с помощью одной и той же системы. В качестве близкого примера они приводят кредитные оценки FICO: банки используют стандартизированную информацию о заёмщике. В найме несколько систем автоматического скрининга резюме уже применяются многими компаниями из списка Fortune 500.
Распространённое опасение состоит в том, что кандидат, отклонённый алгоритмом одной компании, будет отклонён и всеми остальными. Однако авторы рассмотрели этот аргумент в моделях разных ситуаций и пришли к выводу, что сам по себе он не является решающим возражением против всех форм монокультуры.
Число занятых вакансий при этом не меняется: работодатели соперничают за один и тот же пул кандидатов. По словам Рагхавана, такая конкуренция может усиливать переговорную позицию соискателей и повышать зарплаты. Но этот вывод не отменяет важность устройства конкретного процесса отбора.
Право на исправление и риск подстройки
Исследователи отдельно рассмотрели вопрос агентности кандидата. Если резюме автоматически передаётся всем компаниям, использующим систему, у человека может не быть возможности изменить документ и подать его заново. Хедден отмечает, что это весомое возражение против плохих форм монокультуры, но оно не работает, если платформа позволяет пересмотреть резюме и повторно отправить материалы.
Единая система также может облегчить подстройку под её правила: например, кандидат меняет формат резюме, если это улучшает результат. Впрочем, авторы не считают очевидным, что один алгоритм создаёт для такого поведения больше стимулов, чем множество разных систем. При разнообразии моделей можно пытаться оптимизировать материалы под алгоритмы нескольких конкретных работодателей.
Эхо-камеры и объединение моделей
Более существенный риск связан с однородностью информации. Теория «мудрости толпы» предполагает, что независимые решения разнообразной группы могут превосходить оценку одного участника. Когда все работодатели используют одну систему, кандидаты с одинаковыми характеристиками могут получать одинаковый результат у каждой фирмы. Это ограничивает поиск альтернативных сильных претендентов.
Авторы математически показали, что монокультура склонна создавать информационные эхо-камеры, которые сдерживают исследование новых вариантов. В найме это способно уменьшить вероятность того, что лучшие кандидаты получат работу. Рагхаван добавляет, что в единую платформу можно встроить случайность, чтобы повысить уровень такого поиска.
Результат зависит и от точности алгоритма. Если одна система заметно точнее множества используемых разными компаниями моделей, монокультура может оказаться предпочтительнее. В симуляциях исследователи объединяли несколько алгоритмов найма в ансамбль, рассчитывающий для кандидата среднюю оценку. В некоторых сценариях такой подход превосходил использование разных алгоритмов компаниями.
Практическая реализуемость подобного объединения моделей ещё требует изучения. Для бизнеса вывод MIT состоит в том, что оценивать нужно не только степень унификации автоматизации, но и точность системы, возможность кандидата исправить данные и механизмы поиска альтернативных решений.