Математики предупредили о рисках AI-гонки за доказательствами
Двадцать пять ведущих математиков, включая лауреатов Филдсовской медали, подписали открытое письмо о рисках конкуренции AI-лабораторий за решения известных задач. На этом фоне профессор Нью-Йоркского университета Тристан Бакмастер обвинил OpenAI в давлении вокруг указания соавтора из Anthropic, а сама OpenAI отозвала спонсорство математического мероприятия Caltech после критики исследователей университета.
Спор о доказательствах и авторстве
Авторы письма не отвергают потенциальную пользу моделей, способных помогать с нерешёнными математическими задачами. Однако они подчёркивают, что такие результаты должны быть понятны, проверяемы и передаваемы научному сообществу, а затем — более широкому кругу людей.
По мнению подписантов, решения нередко объявляют в спешке. Это оставляет мало времени на полноценное изложение доказательства, выделение новых методов и идей, а также на ссылки на релевантные работы других исследователей. Упомянутое в споре доказательство OpenAI, как отмечается в письме, пока не прошло верификацию.
Бакмастер заявил, что OpenAI просила не указывать в числе авторов его коллегу, работающего в Anthropic, при публикации решения важной задачи. Он также поставил вопрос, могла ли компания использовать работу исследователей через Codex, чтобы за один продолжительный уикенд инференса получить собственное значимое доказательство.
Почему учёные говорят об угрозе открытости
Математики опасаются, что исследователи начнут скрывать промежуточные результаты и откажутся от открытого обмена идеями. Если лаборатория видит перспективный путь к открытию, она может потратить десятки миллионов долларов на использование больших языковых моделей и опередить авторов исходной идеи с готовым доказательством.
В письме это названо проблемой атрибуции и возможного плагиата. Авторы также отмечают: без математиков, которые развивают идеи, встраивают их в корпус знаний и передают следующим поколениям, созданные AI подходы не станут полноценной частью дисциплины.
Параллели с конфликтами вокруг обучения и использования моделей видны и в деле, где спор OpenAI и NYT о логах и доказательствах поднимает вопросы о логах и доказательствах в споре об авторских правах. В обоих случаях значение имеют происхождение материалов, возможность проверки и правила работы с результатами.
Рекомендации для организаций
Новое письмо следует за Лейденской декларацией, опубликованной рабочей группой математиков в июне. В ней предложены рекомендации для исследователей, организаций и политиков о том, как работать с доказательствами, полученными с участием больших языковых моделей.
Для компаний, применяющих AI в научных и интеллектуальных процессах, практический вывод состоит в необходимости заранее фиксировать порядок проверки результатов, авторства и обращения с рабочими материалами. Это помогает сохранять воспроизводимость работы и не подменять готовым ответом обсуждение методов, на котором строится развитие знаний.