OpenAI создала независимую группу по ИИ и математике
OpenAI сообщила, что её новая внутренняя модель, обучение которой началось 28 августа, решила более 100 давно открытых задач в различных областях математики, включая проблему тысячелетия о существовании и гладкости решений уравнений Навье—Стокса. Компания объявила о создании независимой консультативной группы по математике и искусственному интеллекту.
Зачем OpenAI привлекает математиков
В OpenAI отметили, что скорость прогресса модели в математике удивила работающих в компании математиков. Это вызвало внутреннее обсуждение того, как информировать профессиональное сообщество о быстро появляющихся результатах, чтобы оно могло подготовиться и адаптироваться.
Компания признаёт, что математические открытия способны получить широкий прикладной эффект за пределами самой дисциплины. Поэтому вопросы ответственного развития и внедрения ИИ-инструментов для математики, по её оценке, важны не только для исследователей.
Поводом для диалога стало открытое письмо математиков «A Severe Misalignment of AI in Mathematics». Его авторы выразили обеспокоенность негативными последствиями использования решения открытых задач как бенчмарка для новых систем ИИ.
Как будет работать консультативная группа
Группа должна стать связующим звеном между OpenAI, математическим сообществом и общественностью. Она будет консультировать компанию по проверке появляющихся результатов, оценке их значимости, координации распространения и соблюдению академических и профессиональных стандартов математических исследований.
Отдельным направлением станет оценка того, как инструменты OpenAI могут помогать математическим исследованиям и обучению. Компания заявила, что хочет дать математикам способные инструменты, чтобы они могли заниматься известными им вопросами и развивать новые идеи.
Консультативный орган будет работать независимо от OpenAI: он сможет давать непрошенные рекомендации, публично комментировать влияние компании на математику и публиковать свои советы. Участники не будут получать оплату от OpenAI, а сама группа сможет менять состав по собственному усмотрению.
Границы полномочий и состав
При этом группа не будет определять темп внутреннего прогресса OpenAI в области математики. Компания называет сотрудничество первым шагом и отмечает, что впереди остаются сложные вопросы о поддержке математического понимания и распространении пользы таких возможностей среди более широкого сообщества.
Первоначальный состав группы размещён при Institute for Advanced Study. В него вошли Франсуа Шарль, Камилло Де Леллис, Тимоти Гауэрс, Мартин Хайрер, Нихил Шривастава, Ульрике Тилльманн, Рави Вакиль, Эдвард Виттен и Мелани Матчетт Вуд.
Для бизнеса этот шаг показывает, что при использовании ИИ в областях с высокой ценой ошибки необходимы не только технические возможности, но и независимая экспертиза, понятная процедура проверки результатов и правила их публичного раскрытия.