OpenAI направит $5 млн на надзор за ИИ в национальной безопасности
OpenAI запустила инициативу для демократических органов, контролирующих использование искусственного интеллекта в национальной безопасности. В течение следующего года компания предоставит 5 млн долларов на обучение, техническую поддержку и кредиты OpenAI, а также намерена пилотировать инструменты проверки решений, принятых с участием ИИ.
Надзор должен успевать за системами ИИ
OpenAI отмечает, что ИИ может применяться для противодействия кибератакам, защиты критической инфраструктуры, раннего выявления угроз и поддержки госслужащих во время кризисов. Одновременно такие системы способны быстро масштабировать ошибки, если работают на неполном или устаревшем контексте, неверно настроенных целях либо несогласованных предположениях.
Традиционный контроль требует много ручной работы. По оценке компании, небольшим группам проверяющих, использующим подходы «бумажной эпохи», становится почти невозможно анализировать работу систем на машинной скорости. Особенно это важно для задач национальной безопасности, где решения могут быть секретными и иметь высокие последствия.
Инициатива продолжает подход OpenAI к государственным партнёрствам, описанный в рамки OpenAI для ИИ в национальной безопасности и предполагающий применение защитных мер, содержательного человеческого суждения и надлежащего контроля в чувствительных сценариях.
Что именно планирует OpenAI
Компания будет совместно с уполномоченными должностными лицами искать практические сценарии, в которых ИИ-инструменты или техническая поддержка сделают контроль эффективнее. Отдельное направление — пилоты для анализа записей, связанных с решениями государственных органов при участии ИИ.
Проверяющие смогут изучать релевантные входные данные, результаты работы моделей и использование инструментов, чтобы понять, как ИИ повлиял на итог. OpenAI планирует делать такие решения совместимыми с разными моделями там, где это возможно. Контроль над доказательствами, результатами и выводами сохранится за участвующими институтами, а доступ к ним получат только уполномоченные государственные служащие.
Границы роли разработчика
OpenAI отдельно подчёркивает, что не будет выполнять надзорную функцию в отношении правительства: она принадлежит избранным представителям и созданным законом институтам. Компания сформулировала три принципа работы: ИИ должен усиливать, а не заменять человеческое и институциональное суждение; его вклад в решение должен быть понятен уполномоченным проверяющим; сами органы контроля должны иметь возможность ответственно применять ИИ в рамках своих полномочий.
К разработке подходов OpenAI также хочет привлекать организации гражданского общества и технических экспертов. Для бизнеса этот план показывает практический ориентир в высокорисковых процессах: вместе с внедрением ИИ необходимо заранее создавать механизмы проверки, фиксировать роль системы в решениях и сохранять ответственность за уполномоченными людьми и организациями.