«Люди думали, что это полное безумие»: главное из интервью CEO OpenAI Сэма Альтмана

Содержание

• О создании GPT
• О предвзятости моделей
• О модерации
• Об отличиях между GPT-4 и 3.5
• О влиянии ИИ на человеческую жизнь
• О страхах и опасности ИИ
• О конкуренции и ответственности
• О Маске
• О Microsoft
• Об универсальном базовом доходе
• О том, заменит ли ИИ людей

О создании GPT

«Я бы сказал, это намного более научная задача, чем я когда-либо осмеливался представить… Как и в любой новой области науки, мы будем находить то, что не соответствует данным, и предлагать более хорошие объяснения. Это непрерывный процесс открытий в науке… Думаю, мы должны испытывать страх перед тем, насколько потрясающе то, что мы можем прогнозировать сейчас».

«Мы вкладываем в это столько усилий, денег и времени, и для нас важно понимать, насколько то, что получается, полезно людям. Сколько удовольствия это им приносит? Насколько это помогает создать лучший мир? Новую науку, новые продукты, новые услуги, что угодно. Вот что важно…

Понимаем ли мы, почему модель действует так, а не иначе? Определенно, не всегда, но я бы сказал, мы рассеиваем туман. И нам потребовалось многое понимать, чтобы сделать GPT-4».

«Что действительно впечатляет в этой системе, это то, что она может строить логические рассуждения… Ученые и диванные эксперты из Twitter могут поспорить, но, я думаю, те, кто использовал систему, согласятся, что она делает нечто подобное… Думаю, эта способность дополнит человеческую мудрость».

О предвзятости моделей

«Мы делаем технологию публичной, потому что я думаю, что миру важно быстрее получить к ней доступ, чтобы повлиять на то, как она будет развиваться, и помочь нам найти в ней хорошее и плохое.

Каждый раз, когда мы открываем доступ к новой модели, коллективный разум и внешний мир помогают нам обнаружить то, что мы не могли представить, что мы никогда не сделали бы сами. Это и новые возможности, и уязвимости, которые нам нужно исправить. Мы верим, что этот итеративный процесс очень важен.

Недостаток в том, что мы выкладываем то, что будет несовершенным в своей основе. Мы хотим допускать ошибки, пока ставки еще низкие. Мы хотим, чтобы каждая попытка была все лучше и лучше. Я определенно не горжусь уровнем предвзятости у ChatGPT версии 3.5, но у GPT-4 все намного лучше…

Вы не найдете двух людей, которые согласятся, что какая-то определенная модель будет непредвзятой по каждой теме. И я думаю, ответ в том, чтобы со временем дать пользователям больше персонального, детального контроля».

«Мы будем пытаться сделать версию по умолчанию как можно более нейтральной, но она не будет нейтральной, когда она сделана для более чем одного человека. И в этом случае большая управляемость, больший контроль в руках пользователя, будут решением».

О модерации

«Да, мы пытаемся, система пытается выучить вопросы, на которые не стоит отвечать».

«Мне не нравится ощущение, что компьютер меня поучает… Меня всегда впечатляла история, не знаю, насколько она правдива, что Стив Джобс поместил на обратной стороне первого iMac напоминание: никогда не доверяйте компьютеру, который нельзя выбросить в окно. Конечно, немногие выбрасывают компьютеры, но приятно знать, что ты можешь это сделать».

«В офисе я часто говорю, что нужно относиться к нашим пользователям как к взрослым».

Об отличиях между GPT-4 и 3.5

«Одна из вещей, которые хорошо удаются нам в OpenAI, это находить множество небольших побед и приумножать их. В некотором смысле, каждая из них — большой секрет, но мультипликативный эффект, детали и внимание к ним позволяют совершать большие скачки...

Это сотни сложных вещей… То, как мы собираем данные, очищаем их, организуем обучение, как мы строим оптимизатор и архитектуру».

О влиянии ИИ на человеческую жизнь

«Для меня система, которая не способна на важный вклад в доступное нам научное знание, на открытие или изобретение, не может быть названа суперинтеллектуальной. Думаю, для этого нам нужно найти способы расширить парадигму GPT, но пока у нас нет для этого идей… Мы пытаемся их найти».

«Невероятно, какое улучшение качества жизни может обеспечить ИИ. Мы можем сделать мир и жизни людей прекрасными. Мы можем лечить болезни, увеличивать материальное богатство, помочь людям стать более счастливыми, реализованными. И тогда, говорят люди, никто не будет работать. Но людям нужны статус, драма, новые вещи, создавать и чувствовать себя нужными…

И поэтому мы будем находить для них новые и иные способы это делать, даже при невероятно высоком уровне жизни».

«Я никогда не чувствовал, что к нашим системам стоит применять какие-то местоимения кроме "оно", но большинство других людей говорят про них "он", "она" или что-то подобное. И меня удивляет, почему я так отличаюсь. Не знаю, может дело в том, что я видел, как они создавались… Важно объяснить, просветить людей, что это инструмент, а не существо… Я думаю, опасно проецировать это на инструмент».

«Сейчас компании, которые предлагают ИИ для романтических отношений... Лично я совершенно не испытываю к этому интереса. Но я понимаю, почему это происходит с другими».

О страхах и опасности ИИ

«Думаю, существует вероятность [того, что ИИ уничтожит человечество], и очень важно признавать это, потому что если мы не обсуждаем это, не считаем потенциально реальным, то не будем прикладывать достаточно усилий, чтобы решить проблему. Многие из прогнозов о возможностях ИИ в плане безопасности оказались неверными.

Единственный известный мне способ решить такую проблему это двигаться поэтапно, сразу извлекать уроки и ограничить число единоразовых событий».

«Когда я говорю, что немного боюсь, люди думают, что это забавно, и мне кажется это странным… Я считаю, было бы безумием не бояться… И я понимаю тех, кому очень страшно».

«Сейчас я опасаюсь, что [AGI] станет проблемой в плане дезинформации, экономических шоков или чего-то еще, на уровне, к которому мы не готовы… И мне кажется, этому уделяют недостаточно внимания, но сейчас об этом думают все больше и больше».

Читайте по теме:

Маск и Возняк призвали замедлить развитие систем AI мощнее GPT-4

OpenAI: создатель ChatGPT и потенциальная «угроза для человечества»

Отвечая на вопрос о предотвращении масштабных систем, способных влиять на геополитику, Сэм Альтман сказал:

«Думаю, мы этого не заметим… Вскоре появится множество больших языковых моделей с открытым исходным кодом, возможности которых практически не ограничены. И мы можем влиять на это со стороны регулирования, использовать более мощный ИИ, чтобы определить, что это происходит. Я бы хотел, чтобы мы начали пробовать как можно больше в ближайшее время».

О конкуренции и ответственности

«Ты держишься того, во что веришь. Ты держишься своей миссии. Я уверен, что нас будут опережать самыми разными способами, срезая углы там, где мы этого не сделаем… Думаю, в мире будет много AGI, и нам не нужно превосходить всех. Мы внесем свой вклад, другие — свой…

У нас очень необычная структура, и у нас нет стимула гнаться за бесконечной ценностью… Мы — странная организация, и нам хорошо удается сопротивляться… Долгое время нас не понимали и смеялись над нами. В конце 2015 года, когда мы запустили организацию и сказали, что будем создавать AGI, люди думали, что это полное безумие».

«Мы не можем контролировать то, что будут делать другие. Мы можем попытаться создать что-то и говорить об этом, влиять на других, предлагать миру ценность и хорошие системы, но они будут делать то, что хотят».

«Думаю, никто не просыпается, думая: "Сегодня я хочу уничтожить мир"… С другой стороны, есть люди, которые прекрасно это осознают, и довольно много обсуждают, как сотрудничество позволит минимизировать эти ужасающие последствия».

«Мне кажется, люди в OpenAI чувствуют груз ответственности за то, что делают… Но мне бы очень хотелось, и я много говорю об этом, не только на камеру, получать любую обратную связь о том, как можно делать лучше, для нас это неизведанная территория. Разговоры с умными людьми помогают нам определить, как лучше поступить».

На вопрос о давлении со стороны общества, политиков и источников финансирования Сэм ответил:

«Меня это беспокоит, но в то же время я хочу этого. В какой-то степени мы находимся в пузыре и не должны принимать все эти решения. Мы хотим большего вклада со стороны общества. В некотором смысле это на нас давит».

«Я не думаю, что я хороший представитель движения за ИИ. Это мог бы быть кто-то другой, кому бы это доставляло больше удовольствия. Кто-то более харизматичный. Кто-то, кто лучше находит общий язык с людьми… Я довольно оторван от реалий большинства людей и пытаюсь не только сочувствовать, но и пропустить через себя, какое последствие на людей будет оказывать AGI».

«Мы в OpenAI несем ответственность за инструменты, которые выпускаем в мир. Думаю, сами по себе инструменты не могут нести ответственность в том смысле, в котором мы это понимаем».

«Они будут приносить вред. Инструменты создают как невероятно хорошее, так и очень плохое. И мы будем минимизировать плохое и увеличивать хорошее».

О Маске

«Думаю, мы сходимся во мнении о том, насколько опасен AGI и как нам нужно попасть в мир, где существование AGI делает жизнь людей намного лучше, чем без него».

«Илон определенно нападает на нас в Twitter с разных сторон. И я понимаю, потому что он очень беспокоится из-за безопасности AGI. Уверен, у него есть и иная мотивация, но это определенно одна из причин.

Я видел старый ролик, на котором Илон говорил о SpaceX… и многие из первопроходцев космической отрасли критиковали SpaceX, а может и самого Илона. Было заметно, что это его очень ранит, и он говорил, что эти люди для него герои, и что ему хотелось бы, чтобы они увидели их старания.

Определенно, когда я рос, Илон был моим героем. Несмотря на то, что он делает в Twitter. Я счастлив, что он существует, но мне бы хотелось, чтобы он приложил больше усилий и увидел, как мы трудимся, чтобы сделать все правильно».

«Он подтолкнул мир в важном направлении. Думаю, что с ним мы перейдем на электротранспорт намного быстрее, чем без него. И, как гражданин мира, я это очень ценю. Кроме того, несмотря на его поведение в Twitter, он очень забавный и приятный парень».

О Microsoft

«Не все было идеально или просто, но в целом это замечательный партнер. Наши взгляды с Сатьей и Кевином Макхейлом полностью совпадают, они очень гибкие, и делают все возможное и даже больше того, что нам требуется, чтобы все получилось».

«Думаю, на таком уровне это уникальная компания, в которой понимают, зачем нам нужны положения о правах контроля».

«Мне кажется, большинство CEO — либо отличные лидеры, либо прекрасные управленцы. И судя по тому, что я наблюдаю, у Сатьи есть оба этих качества… Думаю, такое встречается довольно редко… Я большой фанат Сатьи».

Об универсальном базовом доходе

«Я думаю, что это компонент чего-то, к чему мы должны стремиться. Это не полное решение. Я думаю, помимо денег, у людей есть множество причин работать. И я думаю, что мы обнаружим новые невероятные профессии, и общество в целом, и люди в отдельности станут намного, намного богаче. Но в качестве подушки для этого серьезного перехода миру нужно избавиться от бедности, если это возможно.

Думаю, что это отличная цель, которую можно реализовать с помощью целого пакета мер. Я помог запустить проект World Coin, который предлагает технологичное решение. Также мы профинансировали, возможно, самое крупнейшее и полное исследование, посвященное универсальному базовому доходу. И, думаю, это направление, в котором нужно двигаться».

О том, заменит ли ИИ людей

«Хочу выразиться ясно. Я думаю, что из-за этих систем множество профессий исчезнет. К этому приводит каждая технологическая революция. Эти системы расширят возможности многих профессий, сделают их намного лучше, интереснее, денежнее и создадут новые профессии, которые нам трудно вообразить, даже если мы начинаем видеть их первые проявления».

Читайте по теме:

Развитие генеративного AI затронет 25% рабочих мест в развитых экономиках — Goldman Sachs

Исследователи назвали профессии, которые заменит ChatGPT

«Как общество, мы не понимаем, хотим мы работать больше или меньше… Если мы сможем переместить людей на более хорошие рабочие места и трудиться над чем-то большим… Не чтобы было что поесть, а чтобы выражать себя творчески и найти путь к самореализации, счастью и чему угодно. Даже если эти профессии будут отличаться от сегодняшних, это будет здорово. Об этом я ничуть не переживаю».

Отредактировано для краткости. Полная версия интервью доступна по ссылке.

Иллюстрации снегерированы нейросетью Midjourney. Фото на обложке: David Paul Morris / Getty Images