OpenAI покинул еще один специалист по безопасности ИИ

В посте на X Венг написала, что после 7 лет работы в OpenAI почувствовала, что «готова начать все с чистого листа и исследовать что-то новое». Она добавила, что решение покинуть компанию было «крайне трудным»:

Венг пришла в OpenAI в команду стартапа по робототехнике, а в 2021 году перевелась в подразделение по исследованию прикладного ИИ. После запуска GPT-4 в 2023 году Лилиан было поручено создать специальную команду для разработки систем безопасности, где сейчас порядка 80 человек.

Уход Венг стал еще одним звеном в длинной цепи покидающих OpenAI исследователей в области безопасности ИИ, многие из которых обвиняли компанию в том, что она ставит коммерческую выгоду от продукта выше безопасности.

Ранее компанию оставили Илья Суцкевер и Ян Лейке — руководители распущенной команды Superalignment, которая пыталась разработать методы управления сверхразумными системами ИИ. Среди ушедших из-за неосторожности в отношении политик ИИ были также Андрей Карпати, Майлз Брандейдж и Сучире Баладжи.

Кроме того, OpenAI массово оставляет и топ-менеджмент. Среди руководителей, покинувших OpenAI в последние месяцы, — технический директор Мира Мурати, соучредитель Джон Шульман, директор по исследованиям Боб МакГрю и вице-президент по исследованиям Баррет Зоф.

Некоторые из этих людей, в том числе Лейке и Шульман, перешли в конкурирующую с OpenAI компанию Anthropic, а другие основали собственные предприятия.

Фото на обложке: Unsplash