OpenAI пока не начала обучение GPT-5

Альтман затронул эту тему во время виртуального мероприятия в Massachusetts Institute of Technology, пишет Gizmochina. Там же руководитель компании подчеркнул значимость вопросов безопасности, связанных с большими языковыми моделями.

По его словам, в OpenAI потратили более шести месяцев на обучение GPT-4 перед его публичным выпуском. Столь детальное обучение необходимо как раз в разрезе повышения безопасности использования продукта.

Не так давно в сети было опубликовано открытое письмо представителей отрасли (предположительно подписанное также и Илоном Маском, после чего появились новости о его собственных идеях бизнеса в сфере ИИ). Как оказалось, некоторые опасения, высказанные в письме, близки и Альтману.

Он согласен с тем, что повышать уровень безопасности очень важно, поскольку возможности ИИ становятся все более серьезными: «нам крайне важно соблюдать осторожность».

Что же до паузы в разработке крупномасштабных языковых моделей, которую как раз предлагают сделать авторы письма, то тут Альтман отметил, что в документе на этот счет отсутствуют важные технические нюансы и не дается конкретных указаний о том, в каком сегменте разработок должна быть сделала пауза. 

Хотя OpenAI всегда заявляла о стремлении быть открытой и прозрачной компанией, никакой информации о данных обучения GPT-4 или его архитектуре, конструкции или другой внутренней работе она не публиковала. 

Это решение, по словам Альтмана, основано на опасениях, связанных с конкурентной средой и последствиями для безопасности крупномасштабных языковых моделей, таких как GPT-4.

В целом комментарии Альтмана свидетельствуют о том, что OpenAI придерживается взвешенного подхода к разработке языковых моделей и сосредоточена на решении проблем безопасности по мере продвижения на рынке. 

Генеральный директор OpenAI подчеркнул, что GPT-5 пока что не проходит никакого обучения, поскольку компания стремится модернизировать существующие модели для повышения их производительности и безопасности.

Фото на обложке: Unsplash