Пол Кристиано вошёл в совет OpenAI Foundation и комитет безопасности
OpenAI назначила Пола Кристиано членом совета OpenAI Foundation: он станет наблюдателем без права голоса в совете OpenAI Group PBC и войдёт в Комитет по безопасности и защите Foundation. В комитете Кристиано будет работать вместе с председателем Зико Колтером.
Новая роль в системе управления OpenAI
Комитет по безопасности и защите, или Safety and Security Committee, осуществляет надзор за практиками безопасности и защиты во всей OpenAI, включая OpenAI Group PBC. Назначение Кристиано расширяет участие специалиста по alignment ИИ в управленческих решениях организации.
Кристиано ранее был старшим техническим советником Center for AI Standards and Innovation при Национальном институте стандартов и технологий США. В CAISI и его предшественнике, U.S. AI Safety Institute, он работал над оценкой передовых моделей ИИ, в том числе способностей с последствиями для национальной безопасности, а также над подходами к снижению сопутствующих рисков.
В этой роли Кристиано будет отстраняться от всех вопросов, связанных с OpenAI, а также от любых оценок моделей. Такой порядок указан в сообщении компании в связи с его должностью в CAISI.
Опыт в исследованиях alignment
Кристиано основал некоммерческий Alignment Research Center, который изучает согласование продвинутых систем ИИ с интересами человека. С 2017 по 2021 год он руководил исследованиями alignment в OpenAI и участвовал в фундаментальных работах по обучению с подкреплением на основе обратной связи от человека, RLHF.
Председатель советов OpenAI Foundation и OpenAI Group PBC Брет Тейлор заявил, что опыт Кристиано в безопасности передовых систем, стандартах и технической оценке усилит надзор совета и работу комитета. Сам Кристиано отметил быстрое развитие возможностей ИИ за последний год и сложность технической задачи alignment.
Назначение продолжает изменения в управлении, оформленные при рекапитализации OpenAI в октябре 2025 года. В компании также указали на обязательства, сформированные по итогам проверок генеральных прокуроров Калифорнии и Делавэра.
Что это значит для пользователей технологий
OpenAI Foundation остаётся отдельной благотворительной организацией, контролирует OpenAI Group PBC и владеет значительной долей в ней. Foundation ведёт собственные благотворительные программы и поддерживает инициативы в области науки, устойчивости общества и ответственного применения ИИ.
Контекст политики OpenAI дополняет приоритетами безопасности, защиты подростков и инфраструктуры приоритетами безопасности, защиты подростков и инфраструктуры, а новое назначение добавляет к этим направлениям технический голос в надзоре. Для бизнеса это означает необходимость учитывать не только возможности моделей, но и требования к их безопасному внедрению, оценке рисков и управлению доступом.