OpenAI: сверхинтеллект может стать исполнителем рутинной работы
Авторы платформы OpenAI Intelligence Age Хемант Асирватхам и Эллиотт Мокски предположили, что будущая ценность сверхинтеллекта будет зависеть не только от способности генерировать открытия, но и от умения выполнять и координировать рутинную работу. В эссе приводится оценка: для поддержания закона Мура сейчас нужно более чем в 18 раз больше исследователей, чем в начале 1970-х.
Текст опубликован как первая работа серии о «следующей экономике». Авторы отдельно подчёркивают, что изложенные в нём взгляды не являются позицией OpenAI или их коллег.
Почему идеи требуют инфраструктуры
Авторы называют интеллект и способность воплощать идеи взаимодополняющими ресурсами. Гипотеза нуждается в доказательствах, приборах и исполнении, а крупный проект — в финансировании, правовых механизмах, цепочках поставок и множестве корректных локальных действий внутри организаций.
В качестве примера усложнения науки они сопоставляют телескоп Галилея с космической обсерваторией James Webb. Для создания Webb стоимостью 10 млрд долларов потребовались 300 организаций из 14 стран, а 18 сегментов зеркала были изготовлены с точностью до 50 нанометров. Чтобы видеть дальше, потребовались не только знания, но и глобальная экономика.
Авторы также ссылаются на исследование Ника Блума и соавторов: с 1930-х годов эффективные затраты исследовательских усилий в экономике США выросли в 23 раза, тогда как измеряемая производительность исследований снизилась в 41 раз. Численность технических специалистов растёт вдвое быстрее числа учёных, а специализированное оборудование в науке за четыре десятилетия стало использоваться вдвое чаще.
ИИ снимает один дефицит, но может создать другой
Современные ИИ-системы уже делают исполнение менее дефицитным: пишут код, изучают незнакомую литературу и превращают наброски в рабочие прототипы. По мысли авторов, это позволяет одному человеку развивать идеи, для которых раньше требовалась целая организация.
Однако по мере роста возможностей ИИ он может не только реализовывать человеческие программы, но и самостоятельно предлагать множество исследовательских направлений. Тогда дефицитом станет не число идей, а возможность проверить их в физическом мире: провести эксперименты, построить оборудование, получить энергию и организовать производство.
Два сценария развития
Первый сценарий авторы называют «цивилизацией глубины». В нём сильный интеллект точнее выбирает эксперименты, использует моделирование и извлекает новые выводы из уже накопленных данных. Физические проверки остаются необходимыми, но становятся редкими и целенаправленными.
Второй сценарий — «цивилизация ширины». Даже сверхинтеллекту понадобятся всё более сложные эксперименты и крупная инфраструктура. В качестве близкой аналогии приводится биология: цифровые модели помогают отбирать кандидаты на лекарства, но пока не заменяют масштабные испытания на людях, необходимые для проверки безопасности и эффективности.
В таком сценарии основная масса машинного интеллекта будет занята не выдающимися идеями, а организацией исполнения: автоматизацией лабораторий, управлением фабриками, энергетикой и логистикой. Авторы подчёркивают, что это не означает провал интеллекта: более сильный разум может находить больше достойных проектов, которым затем требуются материалы, энергия и координация.
Практический вывод
Для компаний ключевой вопрос состоит не только в том, какие творческие задачи передать ИИ. Не менее важно выявить процессы, которые связывают идею с результатом: поиск информации, проектирование, согласования, снабжение, испытания и контроль исполнения. Если именно эти операции станут ограничением, наибольшую ценность дадут системы, способные надёжно координировать повседневную работу вокруг новых решений.