OpenAI: создатель ChatGPT и потенциальная «угроза для человечества»

Недавно OpenAI выпустила раннюю демо-версию ChatGPT, и разговорный чат-бот быстро стал вирусным в социальных сетях. Всего за 5 дней у него было свыше 1 млн пользователей. И это неудивительно — люди выкладывают в социальные сети впечатляющие примеры его возможностей — от обычных разговоров до эссе и программного кода.

Сейчас создавшая его компания получает поддержку от самой Microsoft, но в ее истории упоминается немало других громких имен.

В 2015 году Илон Маск и бывший президент Y Combinator Сэм Альтман стали соучредителями OpenAI. Вместе с другими заметными представителями Долины, включая Питера Тиля и соучредителя LinkedIn Рида Хоффмана, они пообещали выделить на проект $1 млрд.

Группа стремилась создать некоммерческую организацию, ориентированную на разработку искусственного интеллекта «таким образом, который, скорее всего, принесет пользу человечеству в целом». Во всяком случае, именно так гласило заявление, опубликованное на сайте OpenAI 11 декабря 2015 года.

В то время Маск говорил, что ИИ является «самой большой экзистенциальной угрозой» для человечества.

Он не единственный, кто предупреждал о потенциальном вреде искусственного интеллекта. В 2014 году Стивен Хокинг предупреждал, что ИИ может привести к гибели человечества.

В течение следующего года OpenAI выпустила два продукта.

В 2016 году была представлена платформа Gym, которая позволяла исследователям разрабатывать и сравнивать системы обучения с подкреплением. Эти системы учат ИИ принимать решения с наилучшим совокупным вознаграждением.

Позже в том же году был выпущен набор инструментов Universe для обучения интеллектуальных агентов на сайтах и игровых платформах.

В 2018 году, через три года после того, как Маск помог основать компанию, он ушел из совета директоров OpenAI.

Тогда в корпоративном блоге сообщили, что CEO Tesla подал в отставку, чтобы «исключить потенциальный конфликт интересов в будущем», поскольку автопроизводитель также разрабатывает ИИ. Добавлялось также, что Маск продолжит делать

Читайте по теме:
Нейросеть ChatGPT: новый бесплатный чат-бот с искусственным интеллектом
Киберпреступники начали использовать ChatGPT для создания вредоносного кода
Больше устных экзаменов: как университеты меняют подход к обучению из-за развития генеративного ИИ

Маск годами рассказывал инвесторам Tesla о планах сделать свои электрокары автономными.

Позже он объяснил, что уволился из компании, потому что «не был согласен с кое-чем из того, что хотела сделать команда OpenAI».

В 2019 году миллиардер написал в Twitter, что Tesla также конкурировала за тех же сотрудников, что и OpenAI, добавив, что уже «более года» не был связан с компанией.

«Стоит сложить все вместе, и ясно, что лучше было расстаться по-хорошему», — объяснил он.

В последние годы Маск продолжал критиковать OpenAI. В 2020 году он писал в Twitter, что его доверие к компании было «невысоким», когда речь заходила о безопасности.

«По моему мнению, OpenAI должна быть более открытой», — прокомментировал он расследование MIT Technology Review. Журналисты обнаружили, что в лаборатории была распространена культура скрытности, хотя как НКО она должна была быть прозрачной.

Фото в тексте: THEO WARGO / WIREIMAGE / GETTY IMAGES

Совсем недавно Маск заявил, что приостановил доступ OpenAI к базе данных Twitter для обучения ее программы.

«Нужно больше понимать о структуре управления и планах доходов на будущее, — написал он в Twitter. — OpenAI был создан как некоммерческая организация с открытым исходным кодом. Ни то, ни другое уже не является правдой».

В 2019 году компания создала ИИ-инструмент, который мог создавать фейковые новости. Сначала в OpenAI сообщили, что он настолько хорош, что они решили не выпускать его. Но позже в том же году была выпущена новая версия инструмента GPT-2.

В 2020 году компания выпустила еще одного чат-бота под названием GPT-3. В том же году OpenAI отказалась от своего статуса НКО.

В корпоративном блоге опубликовали следующее сообщение:

«Мы хотим увеличить нашу способность привлекать капитал, продолжая выполнять нашу миссию, и ни одна из ранее существовавших юридических структур, о которых мы знаем, не обеспечивает правильного баланса. Наше решение заключается в создании OpenAI LP как гибрида коммерческой и некоммерческой организации, которую мы называем компанией с ограниченной прибылью».

Благодаря новой структуре прибыли инвесторы OpenAI могли бы заработать в 100 раз больше своих первоначальных инвестиций, но ничего сверх этого. Оставшиеся деньги пойдут на некоммерческую работу.

В конце 2019 года OpenAI объявила о партнерстве с Microsoft.

Корпорация инвестировала в разработчика ИИ $1 млрд, и OpenAI заявила, что будет лицензировать свою технологию исключительно у Microsoft.

«Масштаб коммерческого и творческого потенциала, который может быть раскрыт с помощью модели GPT-3, огромен, и некоторые из этих возможностей настолько новы, что мы их даже не представляем.

Непосредственная помощь человеческому творчеству и изобретательности в таких областях, как написание и композиция, описание и обобщение больших блоков данных длинной формы (включая код), преобразование естественного языка в другой язык — возможности ограничены только идеями и сценариями, которые мы можем предложить», – говорится в сообщении Microsoft в блоге.

Партнерство позволяет Microsoft конкурировать с DeepMind, подразделением Google по искусственному интеллекту.

Читайте по теме:

Мафия DeepMind: стартапы, созданные бывшими сотрудниками лаборатории ИИ Google

Вдохновлено DALL-E: как биолаборатории используют ИИ для изобретения новых лекарств

В прошлом году компания выпустила ИИ-генератор изображений DALL-E, а в ноябре 2022 года представила обновленную версию программы. 30 ноября 2022 года заработал GPT-3.5.

В 2023 году представлено новое улучшенное поколение ChatGPT-4. Нейросеть понимает запросы с картинками и превосходит предыдущую версию по всем тестам. Разработчики уже назвали ее «произведением искусства».

Невероятный успех продукта OpenAI привлек внимание в технологической отрасли. Сразу несколько крупных компаний, в том числе Google и Tencent, сообщили о разработке аналогичных инструментов.

Илон Маск неоднократно выступал с критикой компании. Он утверждает, что человечество «недалеко от опасно сильного ИИ», а сам ChatGPT называет «пугающе хорошим». В марте 2023 года миллиардер и группа специалистов в области ИИ призвали приостановить обучение систем на полгода.

«Мощные системы искусственного интеллекта следует разрабатывать только тогда, когда мы уверены, что их эффекты будут положительными, а их риски — управляемыми», — говорится в открытом письме.

Впрочем, CEO OpenAI Сэм Альтман разделяет подобные опасения. По его словам, не бояться ИИ «было бы безумием», но он верит: «лучшее в нас победит»

Источник.

Фото на обложке: rafapress / Shutterstock