Интервью / Искусственный интеллект

Стивен Хокинг ответил на вопросы пользователей Reddit

Знаменитый астрофизик — о развитии технологий и искусственном интеллекте

14 октября 2015, 13:00

8 октября знаменитый астрофизик Стивен Хокинг опубликовал ответы на вопросы, заданные в рамках его первой сессии AMA на Reddit. Эта сессия стала частью онлайн-конференции #maketechhuman, посвященной роли технологий в современном мире, повседневной жизни общества и каждого человека. Стивен Хокинг принял участие в этом обсуждении после того, как он в числе других подписал открытое письмо, призывающее научное сообщество ответственно подойти к вопросам реализации проекта искусственного интеллекта.

Со времени старта сессии AMA в июле Хокингу пришло более 9000 вопросов – это третья по количеству вопросов конференция в подобном формате. Чтобы избавить вас от чтения всех этих бесчисленных комментариев, мы отобрали наиболее интересные тезисы ученого — от его взгляда на будущее искусственного интеллекта до вопросов о женщинах.

Каким бы гениальным ни был Стивен Хокинг, в обыденных вещах он не отличается от всех нас. Как и многие, он любит посмотреть сериал «Теория большого взрыва», а его любимая песня – Have I Told You Lately Рода Стюарта.

Но не менее интересно узнать его мнение по актуальным и спорным проблемам современности, таким как создание искусственного интеллекта. Вот некоторые из его ответов:

По поводу трактовки в СМИ высказываний Хокинга об «опасности искусственного интеллекта» и его истинных взглядов на проблему ИИ:

«Действительно, СМИ иногда не совсем верно трактуют то, что было мною сказано. Я не говорю, что ИИ обязательно восстанет против человека. Дело скорее в компетентности самих ученых, которые будут работать с искусственным интеллектом. Сверхпроизводительный ИИ будет невероятно полезным изобретением для достижения разных задач. Но его цели должны совпадать с нашими, иначе быть беде. Мы ведь, например, не убиваем муравьев намеренно, не топчем их специально. Но если стоит задача построить водохранилище, то придется затопить определенную площадь земли, а вместе с ней и муравейники, и всех муравьев. Так вот, я считаю, что человек должен позаботиться о том, чтобы не оказаться в роли муравьев».

По теме: Стивен Хокинг предупреждает об опасности искусственного интеллекта

Об опасениях, что машины заменят человека и станут причиной роста безработицы:

«Если машины однажды начнут производить абсолютно все, что нужно человеку, то дальнейший сценарий будет зависеть от того, как будут распределяться эти блага. Если производимые товары и услуги будут распределяться поровну, то проблема бедности исчезнет сама собой, и каждый будет купаться в роскоши. Если же владельцы машин выступят против такого перераспределения благ, то большинство людей будут влачить полубедное существование. Пока что всё развивается по второму сценарию, и любое дальнейшее развитие технологий будет только усугублять неравенство».

По теме: Страх автоматизации

О том, что машины могут стать умнее своих создателей:

«Совершенно очевидно, что последующие поколения становятся умнее своих предшественников: мы умнее наших предков-обезьян, а Эйнштейн был умнее своих родителей».

А что если машины смогут создавать еще более совершенные машины, чем создал человек?

«Если это произойдет, то мы увидим взрывной рост интеллекта. В конце концов появятся машины, чей интеллект будет превышать наш, как человеческий ум превышает интеллект улитки».

По теме: Илон Маск: «Искусственный интеллект нас уничтожит»

Но давайте ближе к делу. Что если человечество все же столкнется с угрозой со стороны умных машин. Или просто нужно готовиться к будущему?

«Скорее, второе. Исследователи ИИ не имеют единого мнения относительно того, когда будет создана машина уровня человека и выше. Не верьте, если кто-то заявляет, что знает точно, когда это случится. Когда это, наконец, произойдет, это станет либо самым лучшим, либо самым худшим моментом в истории человечества, поэтому нужно постараться сделать все правильно. Следует создавать не просто нейтральную умную машину, а благонамеренный интеллект. На это могут уйти десятилетия, но лучше начать работать над этим сегодня, чем за день до запуска первого мощного ИИ».