Cможем ли мы создать «Мир Дикого Запада»?

Расскажите друзьям
Светлана Зыкова
Алексей Зеньков

Новый популярный сериал от HBO – это настоящая научная фантастика, но эксперты в области ИИ видят в нем новые границы для науки и технологий. Сайт Inverse опубликовал рассуждения о том, насколько пророческим может оказаться сюжет «Мира Дикого Запада».

Зрители сериала «Мир Дикого Запада» не могут оторваться от экранов не только из-за лихо закрученного сюжета. Картина заставляет нас задаваться вопросами, которые имеют место и в реальном мире. Каково это – сопереживать роботу? Что сделает роботов похожими на людей? Это очень серьезные вопросы, решением которых очень скоро должны будут заняться и создатели ИИ, и гражданские специалисты.

Всерьез обсуждать андроидов было бы неправильно без упоминания Hanson Robotics – компании, которая на данный момент ближе всех к созданию роботов, похожих на обитателей «Мира Дикого Запада».

Компания, основанная Дэвидом Хэнсоном в 2003 году в Гонконге, больше всего известна благодаря созданию робота Софии, которая недавно провела интервью с телеведущим Чарли Роузом, а также робота Albert Einstein HUBO – первого ходячего робота с реалистичными эмоциями (и заимствованным лицом). Эти общительные роботы построены на основе патентованных систем и технологий создания синтетической кожи.

Программной оболочке андроидов в Hanson Robotics планируют найти коммерческое применение в самых разных отраслях бизнеса и продавать роботов, которые смогут, как выражает миссия компании, «развивать глубокие и плодотворные взаимоотношения с людьми».


Роботизированная версия писателя-фантаста Филиппа Дика, созданная Hanson Robotics, дает интервью Первому каналу. Фото: Getty Images


Стивен Бугай, креативный вице-президент Hanson, отвечает в компании за развитие личности роботов.

Раньше он работал в студиях Pixar и Telltale Games, где участвовал в создании видео игры по мотивам «Игры престолов», и благодаря этому опыту стал экспертом по развитию динамики персонажей и геймплея.

Бугай тоже с замиранием сердца следит за происходящим в «Мире Дикого Запада» – правда, в основном потому, что это очень похоже на будущее его профессии. По его словам, в синтетическом мозгу Долорес Абернати происходит взаимодействие двух систем. Обе они в наше время находятся на зачаточном уровне развития, но в тандеме он могли бы сделать роботов Hanson намного более приятными в общении. Первая – это генеративный, или самомодифицирующийся, код, вторая – память.

В четвертом эпизоде сериала доктор Роберт Форд наконец рассказывает Бернарду Лоу, как ему удалось сделать своих роботов настолько разумными. Он показывает Лоу пирамиду сознания: память, импровизация, самолюбие, а на самом верху стоит большой знак вопроса. Вместе со своим другом, таинственным Арнольдом, Форд «создал такую версию сознания, в котором роботы воспринимают свой программный код как внутренний монолог – с надеждой, что со временем станет преобладать их собственный внутренний голос». «Это был способ раскрутить сознание», – то есть в основу импровизации роботов была заложена память.

Доктор Форд описывает самомодифицирующийся код, который на тот момент был неспособен делать то, что должен был – но скоро научился. Нейросети не используют самомодифицирующийся код, но в функциональном плане имеют с ним много общего.

«Семантическая сеть или нейросеть самостоятельно развивается благодаря тому, что постоянно обрабатывает новые данные и учится новому», – объясняет Бугай. Возьмем для примера автопилот от Tesla или AlphaGo от Google: эти системы ИИ самообучаются, поскольку способны обрабатывать новую информацию. Когда автомобиль Tesla попадает в аварию, или даже просто в сложную ситуацию, коллективный автопилот становится умнее. ИИ учитывает новую информацию, чтобы избегать неприятных инцидентов в будущем.

Новый виток развития – это генеративный код, то есть код, способный самостоятельно писать новый код. «ИИ может принять решение о том, что требуется дополнить код, и написать его самостоятельно», – поясняет Бугай. Именно этого боятся многие – в частности, Илон Маск – и предпочитают интеллектуальную разработку ИИ эволюции технологий.


Метаморфический код

На самом деле, всем, кто боится конца света, стоит бить тревогу о третьем уровне ИИ – самомодифицирующемся коде. Появляются системы, способные не только обучаться при росте выборки, но и самостоятельно выполнять операции. По словам Бугая, они могут «взять написанный вами ранее код и переписать его на свой лад». И это, считает специалист, зачаток сверхинтеллекта. Те кардинально новые идеи и решения, которые визионеры планируют получить от ИИ, скорее всего, будут рождены только полностью автономными системами.

Иными словами, роботы «Мира Дикого Запада» кажутся человечными отчасти потому, что создают собственные идеи, которые могут стать проблемой для туристов парка. Лоу в назидание рассказывает Долорес историю Алисы в Стране чудес, так что не стоит удивляться, когда она попадает в кроличью нору и заводит дружбу с Безумным Шляпником.


Во второй серии Питер Абернати, один из персонажей парка, находит фотографию, которая вызывает сбой в работе его кода. Источник: HBO


«Главная особенность в том, что машины могут в каком-то смысле обучаться, – поясняет Бугай. – У них появятся ассоциации в виде семантических сетей. Они способны менять информацию о себе, любые параметры своей внутренней структуры в этой вымышленной программной среде. Роботы обучаются, формируют новые представления о себе и окружающем мире и действуют согласно им. Все это и дает им сознание».

Однако это значит, что программисты должны продумывать все свои шаги заранее. По словам Бугая, пример создателей «роботов-рабов» из сериала доктора Форда, Бернарда Лоу и ограничений, которые они наложили на своих подопечных в парке, может быть для нас поучительным.

Например, в прошивке роботов должны быть жестко закодированы «принципиальные, азимовские правила». Тогда единственным способом вырваться из такой виртуальной клетки было бы переписать этот код.

Если эти правила в пределах понимания семантической обучающей системы роботов, они могут найти и изменить эти строчки. Если же эти правила находятся под более серьезной защитой – например, с помощью законов Азимова – роботам пришлось бы заручиться поддержкой того, что может снять эти ограничения.


Доктор Роберт Форд и Бернард Лоу. Источник: HBO


Проблема клетки из жестких правил в коде в том, что она существует внутри тюрьмы с толстыми глухими стенами: ИИ не может обучаться без памяти, а персонажи «Мира Дикого Запада» рассчитаны на то, чтобы постоянно все забывать. Затем они начинают помнить то, что не должны. Память лежит в основании пирамиды сознания и делает их похожими на людей. Она же может помочь роботам вырваться на свободу – или, если сформулировать это менее устрашающе, позволяет им импровизировать.

В реальном мире ИИ пока не способен запоминать все так, как люди, он пока не умеет сортировать понятия, расставлять приоритеты, строить ассоциации и выборочно что-то забывать. На сегодняшний день это одна из священных целей разработчиков ИИ.

«Одна вещь может напоминать вам о другой, и не в смысле простого повествования, а в гораздо более продуктивном ключе, – рассказал Inverse Орен Етциони, глава Института искусственного интеллекта имени Аллена. – Мы можем много благодаря аналогиям, интуиции и прочим подобным напоминаниям. И этот тип памяти – ее называют ассоциативной, контекстно-адресуемой или какой-либо еще – пока даже близко не реализован в системах ИИ».

В каком-то смысле память компьютера уже превосходит память человека. Она практически безгранична и относительно безотказна. «Она отлично подходит для хранения телефонных номеров, – приводит пример Етциони. – Она отлично подходит для хранения даже триллиона номеров». Но нам еще только предстоит воссоздать в программном коде нашу креативную, спонтанную память. Стивен Бугай считает, что без этого невозможно создать настоящее сознание: «Способность машин учиться, о которой мы столько говорим, сводится к управлению памятью».

Когда системы ИИ получат в свое распоряжение кратковременную, долговременную и эпизодическую память, воплощение «Мира Дикого Запада» в реальности будет всего лишь делом времени. Вряд ли новости об успехах в области компьютерной памяти будут греметь так же, как новости о компьютерном зрении или речи, но, по мнению Бугая, «эта тема по-настоящему фундаментальна». «Довести это дело до конца очень важно, и нам предстоит еще очень много работы».

«Мир Дикого Запада» как художественное произведение заставляет зрителей сопереживать всем героям. Однако, как в типичной научной фантастике, это сопереживание имеет границы.

Как и Лоу с его собственными неуверенными суждениями, зрители сомневаются в правильности своего сострадания. Мы беспокоимся о том, в какое трудное положение попала Долорес, но в то же время не можем забыть хладнокровное замечание доктора Форда о том, что код не может развиться в сознание: «Им не постичь того, чему мы их не научили. Понимаете?»

Однако чем ближе современное состояние искусственного интеллекта к тому, что мы видели в сериале, тем сильнее нам может потребоваться развить свои способности к сочувствию. Может, для нас «Мир Дикого Запада» станет тем же, чем «Алиса в Стране чудес» стала для Долорес – сказкой, с помощью которой мы сможем изменить свой код и вырваться из плена заранее заданных параметров. Возможно, без «Мира Дикого Запада» мы бы не поверили в то, что видимость сознания – это и есть сознание. Возможно, без «Мира Дикого Запада» нам было бы намного сложнее свыкнуться с нашим неминуемым будущим. По крайней мере, Стивен Бугай считает именно так.

«По-моему, [создатели сериала] делают то, что должен делать хороший футуролог – предполагают возможные сценарии развития событий и думают, что может из этого выйти».

Источник.


15 сентября в Москве состоится конференция по большим данным Big Data Conference. В программе — бизнес-кейсы, технические решения и научные достижения лучших специалистов в этой области.

Приглашаем всех, кто заинтересован в работе с большими данными и хочет их применять в реальном бизнесе.

Следите за Big Data Conference в Telegram и на Facebook.



Материалы по теме:

Дмитрий Гришин предложил закон, который закрепит права роботов

Люди врут роботам, потому что не хотят их расстраивать

Стивен Хокинг: создание ИИ станет «либо лучшим, либо худшим» событием в истории человечества

Смогут ли компьютеры и ИИ стать изобретателями?



Комментарии

Комментарии могут оставлять только авторизованные пользователи.
Web Summit 2017
6 ноября 2017
Ещё события


Telegram канал @rusbase