Уволенные специалисты OpenAI предупредили об эффекте страха в безопасности ИИ
Джасмин Ван, Томек Корбак и Микита Балесни, которых OpenAI уволила на прошлой неделе, опубликовали открытое письмо комитетам компании по безопасности. Трое исследователей отвергли утверждения о ненадлежащем обращении с чувствительной информацией и заявили, что увольнения могут заставить коллег избегать открытых обсуждений рисков ИИ.
Ранее OpenAI сообщала, что сотрудники нарушили внутренние правила при доступе к чувствительным данным и работе с ними, а также передали конфиденциальную информацию сторонней организации, занимающейся безопасностью ИИ. Исследователи настаивают, что действовали добросовестно и в рамках норм, действовавших в компании на тот момент.
Спор о внешней экспертизе и правилах
Авторы письма считают, что разработка ИИ требует тесного сотрудничества с внешними специалистами по безопасности. По их словам, свобода такого взаимодействия без страха наказания и ясные внутренние процедуры сами по себе являются важным механизмом безопасности.
Ван, Корбак и Балесни также заявили, что не были причастны к утечке в The Information о менее наблюдаемых архитектурах в новых моделях OpenAI, усложняющих контроль над рассуждениями chain-of-thought. Они отдельно отвергли контакты с внешними сторонами за пределами рабочих полномочий.
Контекст увольнений описан в материале увольнение специалистов из-за передачи данных, где речь шла о передаче данных внешней организации. В новом письме исследователи утверждают, что сотрудники теперь не понимают, какое поведение считается допустимым, если действия, привычные месяцем ранее, внезапно становятся основанием для увольнения.
Объяснения сотрудников и позиция компании
Корбак указал, что во время расследования инцидента Hugging Face внутренние правила формировались в реальном времени. По версии авторов письма, он считал, что общение с внешними оценщиками соответствует политике и нормам OpenAI и помогает выстроить доверие в беспрецедентной ситуации.
Балесни, согласно письму, работал внутри компании над проблемой наблюдаемости ИИ и согласовывал работу с руководством и членами совета директоров. Авторы утверждают, что перед передачей материалов он удалял чувствительные детали и поддерживал связь со своей управленческой линией.
В отдельной публикации в X Ван сообщила, что ей указали на доступ к почте руководителя. Она заявила, что доступ был предоставлен для рекрутинга, а после завершения задачи она просила ИТ-службу его отозвать. По ее словам, чувствительное письмо открылось случайно в почтовом приложении, после чего она сразу уведомила руководителя и вновь обратилась в ИТ-службу.
Какие гарантии требуют исследователи
OpenAI не дала формального ответа на открытое письмо. Однако в служебной записке, переданной TechCrunch, руководитель исследовательского направления поблагодарил троих сотрудников за вклад в безопасность ИИ и заявил, что решения не были связаны с выражением опасений. В записке сказано, что компания не увольняет сотрудников за поднятые вопросы безопасности.
При этом OpenAI не ответила напрямую на вопросы о конкретных нарушенных правилах, обстоятельствах увольнений и защите работников, сообщающих о рисках или взаимодействующих с внешними оценщиками. Авторы письма призвали компанию выполнить публичные обязательства по привлечению независимых аудиторов, сохранению наблюдаемости передовых моделей и поддержке открытого диалога.
Для бизнеса эта история показывает важность заранее определенных правил доступа к данным, расследований и работы с независимыми экспертами. Когда процедуры и границы полномочий понятны всем участникам, обсуждение рисков не зависит от неформальных норм и не подменяется страхом последствий.