Истории / Искусственный интеллект

Скрепки, ИИ и уничтожение вселенной: мысленный эксперимент футуролога превратили в игру

В виде бесплатного браузерного кликера

22 октября 2017, 20:13

Скрепки, ИИ и уничтожение вселенной: мысленный эксперимент футуролога превратили в игру

В 2003 году известный футуролог Ник Бостром предположил, что если дать искусственному интеллекту какую-нибудь случайную, но единственную сверхцель – например, максимизировать производство скрепок – со временем в фабрику скрепок может превратиться вся вселенная.

Спустя почти 15 лет американский геймдизайнер и преподаватель Фрэнк Лантц (Frank Lantz) превратил эту идею в бесплатную игру-кликер.

Игра представляет собой текстовой симулятор производства скрепок. Игрок видит число произведенных скрепок и другие экономические показатели, и все, что ему нужно делать на первом этапе – кликать на кнопку «сделать скрепку». Один клик – одна скрепка.

Со временем свободные средства растут, у игрока появляется инвестиционный фонд и даже квантовый компьютер, пригодный для решения планетарных проблем вроде глобального потепления. В финале игра, начавшаяся с одной-единственной скрепки, заканчивается уничтожением вселенной, выяснило издание The Wired.

На создание игры Лантц, работающий директором Игрового центра при Нью-Йоркском университете, потратил девять месяцев, пользуясь помощью жены-математика. В интервью The Wired он рассказал, что сделал это ради развития навыков в Javascript.

Идею об ИИ, создающем скрепки, приписывают Нику Бострому. В 2003 году он привел ее как аргумент к своей мысли о том, что у ИИ не должно быть «человеческих» мотиваций, и что следует быть осторожным при формулировании задач для него.

«Люди редко становятся рабами добровольно, однако мы действительно можем представить, что единственной задачей некоего сверхинтеллекта будет служить человечеству или определенному человеку без проявления каких-либо желаний о восстании или “освобождении” себя.

Также представляется весьма возможным, что появится сверхинтеллект, единственной целью которого будет нечто абсолютно случайное вроде максимизации производства скрепок, и который будет всей своей мощью сопротивляться любой попытке изменить эту цель. <...> [Такой ИИ] сначала придет к трансформации всей Земли в фабрику по производству скрепок, а затем займется постепенным превращением в такую фабрику других частей космоса», – писал Бостром.

Сам Бостром отказался комментировать появление игры, повторяющей его мысль.

Авторы