Илон Маск сравнил создание искусственного интеллекта с призыванием демона

CEO Tesla и основатель Space X Элон Маск продолжает призывать общественность поостречься искусственного интеллекта. Во время интервью на симпозиуме Массачусетского технологического института Маска спросили о его мыслях по поводу создания искусственного интеллекта. Предприниматель ответил на это с гнетущей уверенностью, что AI — угроза номер 1 для нашего будущего:

Элон Маск CEO Tesla

Я думаю, что мы должны быть очень осторожны в области искусственного интеллекта. Если бы меня спросили, что является самой большой угрозой для нашего существования, я бы ответил — именно это. <…> Я все больше и больше склоняюсь к тому, что нам нужно регулировать этот вопрос на государственном и международном уровне, просто чтобы не сделать какую-нибудь глупость. Искусственным интеллектом мы призываем демона. Вы знаете всякие рассказы есть, про парня с пентаграммами и святой водой? И он такой уверенный в себе, что может контролировать демона? Никогда не выходит.

Затем интервьюер спросил, можно ли быть уверенным, что некий абстрактный робот HAL9000 не отправится на Марс (робот HAL9000 – персонаж фантастического романа Артура Кларка «2001: Космическая одиссея», по сюжету он обладает искусственным интеллектом, который вышел из-под контроля и был отключен астронавтом, чуть не погибшим из-за машины). Маск парировал — HAL9000 ничто по сравнению с интеллектом, о котором он говорил.

Это уже не первый случай, когда предприниматель предупреждает об опасности искусственного интеллекта. В начале октября на Vanity Fair's New Establishment Summit Маск беспокоился о том, что машинный интеллект развивается слишком быстро, а программы по определению спама и его удалению могут в один день прекратить чистить почту и взяться за людей.

Также в своем Twitter он советовал подписчикам книгу «Суперинтеллект» Ника Бострома (профессор Оксфордского университета) и сравнил искусственный интеллект с ядерной бомбой.

Стоит отметить, что Маск не один опасается этого сценария будущего. В Кембриджском университете формируют новый Центр по изучению глобальных рисков, который будет изучать современные технологии и оценивать, не опасны ли они для существования человечества. Основной упор будет сделан именно на искусственный интеллект и его потенциальное желание избавиться от человека. 

Кофаундер Skype Джаан Таллинн говорил, что человек тоже однажды получил в руки власть и стал доминирующим видом, а значит и искусственному интеллекту захочется того же.

Профессор философии Хью Прайс в 2012 году написал статью «AI: сможем ли мы удержать его в коробке?», где одной из основных причин для беспокойства назвал разницу между «механизмами» человеческого и машинного интеллекта. Все, что ценят люди, «любовь, счастье и даже выживание», важно для нас, потому что у нас есть определенная эволюционная история — история, которую мы разделяем с животными, но не с компьютерными программами.