Стивен Хокинг ответил на вопросы пользователей Reddit

По поводу трактовки в СМИ высказываний Хокинга об «опасности искусственного интеллекта» и его истинных взглядов на проблему ИИ:

«Действительно, СМИ иногда не совсем верно трактуют то, что было мною сказано. Я не говорю, что ИИ обязательно восстанет против человека. Дело скорее в компетентности самих ученых, которые будут работать с искусственным интеллектом. Сверхпроизводительный ИИ будет невероятно полезным изобретением для достижения разных задач. Но его цели должны совпадать с нашими, иначе быть беде. Мы ведь, например, не убиваем муравьев намеренно, не топчем их специально. Но если стоит задача построить водохранилище, то придется затопить определенную площадь земли, а вместе с ней и муравейники, и всех муравьев. Так вот, я считаю, что человек должен позаботиться о том, чтобы не оказаться в роли муравьев».

По теме: Стивен Хокинг предупреждает об опасности искусственного интеллекта

Об опасениях, что машины заменят человека и станут причиной роста безработицы:

«Если машины однажды начнут производить абсолютно все, что нужно человеку, то дальнейший сценарий будет зависеть от того, как будут распределяться эти блага. Если производимые товары и услуги будут распределяться поровну, то проблема бедности исчезнет сама собой, и каждый будет купаться в роскоши. Если же владельцы машин выступят против такого перераспределения благ, то большинство людей будут влачить полубедное существование. Пока что всё развивается по второму сценарию, и любое дальнейшее развитие технологий будет только усугублять неравенство».

По теме: Страх автоматизации

О том, что машины могут стать умнее своих создателей:

«Совершенно очевидно, что последующие поколения становятся умнее своих предшественников: мы умнее наших предков-обезьян, а Эйнштейн был умнее своих родителей».

А что если машины смогут создавать еще более совершенные машины, чем создал человек?

«Если это произойдет, то мы увидим взрывной рост интеллекта. В конце концов появятся машины, чей интеллект будет превышать наш, как человеческий ум превышает интеллект улитки».

По теме: Илон Маск: «Искусственный интеллект нас уничтожит»

Но давайте ближе к делу. Что если человечество все же столкнется с угрозой со стороны умных машин. Или просто нужно готовиться к будущему?

«Скорее, второе. Исследователи ИИ не имеют единого мнения относительно того, когда будет создана машина уровня человека и выше. Не верьте, если кто-то заявляет, что знает точно, когда это случится. Когда это, наконец, произойдет, это станет либо самым лучшим, либо самым худшим моментом в истории человечества, поэтому нужно постараться сделать все правильно. Следует создавать не просто нейтральную умную машину, а благонамеренный интеллект. На это могут уйти десятилетия, но лучше начать работать над этим сегодня, чем за день до запуска первого мощного ИИ».

И наконец, о том, какую тайну Хокинг считает наиболее неразрешимой:

По теме: Мы — это данные. Будущее искусственного интеллекта