WSJ сообщила об увольнениях в OpenAI из-за чатов об «охраняемом секрете»

Служба безопасности OpenAI перед увольнением трех исследователей проверила их личные телефоны и обнаружила у некоторых исчезающие сообщения в переписке с внешним специалистом по безопасности ИИ в мессенджере Signal. Об этом сообщает The Wall Street Journal (WSJ) со ссылкой на заявления исследователей, а также комментарии компании.

OpenAI подозревала Томека Корбака, Микиту Балесни и Жасмин Ван в передаче сведений об «одном из самых охраняемых секретов» компании — внутреннем устройстве ее ИИ-моделей, пишет газета. После проверки переписки в Signal через неделю всех троих одновременно вызвали на новые встречи и уволили в начале октября.

«Мне сказали, что доверие было нарушено, поскольку я взаимодействовал с третьей стороной через неразрешенные каналы», — рассказал Корбак. Он и Балесни утверждают, что руководство назвало использование исчезающих сообщений одной из причин увольнения. В OpenAI подтвердили, что Signal не был разрешенным каналом общения, но подчеркнули, что дело не ограничивалось использованием приложения.

Компания заявила WSJ, что расследование выявило нарушение правил обращения с конфиденциальной информацией, а увольнения не связаны с высказыванием опасений по поводу безопасности. Исследователи отрицают передачу секретов и утверждают, что письменных объяснений предполагаемых нарушений не получили.

Кроме того, как пишет WSJ, уволенные исследователи выступали против новых архитектур, при которых модели оставляют меньше записей о промежуточных шагах решения задач. По их мнению, это затруднит выявление опасного поведения. Балесни утверждает, что с разрешения OpenAI обсуждал предложение по этому вопросу с внешним исследователем Райаном Гринблаттом, исключив из него секреты компании.

Уволенные сотрудники опасаются, что произошедшее заставит коллег избегать общения с независимыми специалистами, пишет газета. OpenAI, со своей стороны, сообщила, что продолжает сотрудничать с внешними организациями.

Материал дополняется

Авторы