Cможем ли мы создать «Мир Дикого Запада»?

Зрители сериала «Мир Дикого Запада» не могут оторваться от экранов не только из-за лихо закрученного сюжета. Картина заставляет нас задаваться вопросами, которые имеют место и в реальном мире. Каково это – сопереживать роботу? Что сделает роботов похожими на людей? Это очень серьезные вопросы, решением которых очень скоро должны будут заняться и создатели ИИ, и гражданские специалисты.

Компания, основанная Дэвидом Хэнсоном в 2003 году в Гонконге, больше всего известна благодаря созданию робота Софии, которая недавно провела интервью с телеведущим Чарли Роузом, а также робота Albert Einstein HUBO – первого ходячего робота с реалистичными эмоциями (и заимствованным лицом). Эти общительные роботы построены на основе патентованных систем и технологий создания синтетической кожи.

Программной оболочке андроидов в Hanson Robotics планируют найти коммерческое применение в самых разных отраслях бизнеса и продавать роботов, которые смогут, как выражает миссия компании, «развивать глубокие и плодотворные взаимоотношения с людьми».

Роботизированная версия писателя-фантаста Филиппа Дика, созданная Hanson Robotics, дает интервью Первому каналу. Фото: Getty Images

Стивен Бугай, креативный вице-президент Hanson, отвечает в компании за развитие личности роботов.

Бугай тоже с замиранием сердца следит за происходящим в «Мире Дикого Запада» – правда, в основном потому, что это очень похоже на будущее его профессии. По его словам, в синтетическом мозгу Долорес Абернати происходит взаимодействие двух систем. Обе они в наше время находятся на зачаточном уровне развития, но в тандеме он могли бы сделать роботов Hanson намного более приятными в общении. Первая – это генеративный, или самомодифицирующийся, код, вторая – память.

В четвертом эпизоде сериала доктор Роберт Форд наконец рассказывает Бернарду Лоу, как ему удалось сделать своих роботов настолько разумными. Он показывает Лоу пирамиду сознания: память, импровизация, самолюбие, а на самом верху стоит большой знак вопроса. Вместе со своим другом, таинственным Арнольдом, Форд «создал такую версию сознания, в котором роботы воспринимают свой программный код как внутренний монолог – с надеждой, что со временем станет преобладать их собственный внутренний голос». «Это был способ раскрутить сознание», – то есть в основу импровизации роботов была заложена память.

«Семантическая сеть или нейросеть самостоятельно развивается благодаря тому, что постоянно обрабатывает новые данные и учится новому», – объясняет Бугай. Возьмем для примера автопилот от Tesla или AlphaGo от Google: эти системы ИИ самообучаются, поскольку способны обрабатывать новую информацию. Когда автомобиль Tesla попадает в аварию, или даже просто в сложную ситуацию, коллективный автопилот становится умнее. ИИ учитывает новую информацию, чтобы избегать неприятных инцидентов в будущем.

Новый виток развития – это генеративный код, то есть код, способный самостоятельно писать новый код. «ИИ может принять решение о том, что требуется дополнить код, и написать его самостоятельно», – поясняет Бугай. Именно этого боятся многие – в частности, Илон Маск – и предпочитают интеллектуальную разработку ИИ эволюции технологий.

Метаморфический код

На самом деле, всем, кто боится конца света, стоит бить тревогу о третьем уровне ИИ – самомодифицирующемся коде. Появляются системы, способные не только обучаться при росте выборки, но и самостоятельно выполнять операции. По словам Бугая, они могут «взять написанный вами ранее код и переписать его на свой лад». И это, считает специалист, зачаток сверхинтеллекта. Те кардинально новые идеи и решения, которые визионеры планируют получить от ИИ, скорее всего, будут рождены только полностью автономными системами.

Иными словами, роботы «Мира Дикого Запада» кажутся человечными отчасти потому, что создают собственные идеи, которые могут стать проблемой для туристов парка. Лоу в назидание рассказывает Долорес историю Алисы в Стране чудес, так что не стоит удивляться, когда она попадает в кроличью нору и заводит дружбу с Безумным Шляпником.

Во второй серии Питер Абернати, один из персонажей парка, находит фотографию, которая вызывает сбой в работе его кода. Источник: HBO

«Главная особенность в том, что машины могут в каком-то смысле обучаться, – поясняет Бугай. – У них появятся ассоциации в виде семантических сетей. Они способны менять информацию о себе, любые параметры своей внутренней структуры в этой вымышленной программной среде. Роботы обучаются, формируют новые представления о себе и окружающем мире и действуют согласно им. Все это и дает им сознание».

Однако это значит, что программисты должны продумывать все свои шаги заранее. По словам Бугая, пример создателей «роботов-рабов» из сериала доктора Форда, Бернарда Лоу и ограничений, которые они наложили на своих подопечных в парке, может быть для нас поучительным.

Если эти правила в пределах понимания семантической обучающей системы роботов, они могут найти и изменить эти строчки. Если же эти правила находятся под более серьезной защитой – например, с помощью законов Азимова – роботам пришлось бы заручиться поддержкой того, что может снять эти ограничения.

Доктор Роберт Форд и Бернард Лоу. Источник: HBO

Проблема клетки из жестких правил в коде в том, что она существует внутри тюрьмы с толстыми глухими стенами: ИИ не может обучаться без памяти, а персонажи «Мира Дикого Запада» рассчитаны на то, чтобы постоянно все забывать. Затем они начинают помнить то, что не должны. Память лежит в основании пирамиды сознания и делает их похожими на людей. Она же может помочь роботам вырваться на свободу – или, если сформулировать это менее устрашающе, позволяет им импровизировать.

«Одна вещь может напоминать вам о другой, и не в смысле простого повествования, а в гораздо более продуктивном ключе, – рассказал Inverse Орен Етциони, глава Института искусственного интеллекта имени Аллена. – Мы можем много благодаря аналогиям, интуиции и прочим подобным напоминаниям. И этот тип памяти – ее называют ассоциативной, контекстно-адресуемой или какой-либо еще – пока даже близко не реализован в системах ИИ».

В каком-то смысле память компьютера уже превосходит память человека. Она практически безгранична и относительно безотказна. «Она отлично подходит для хранения телефонных номеров, – приводит пример Етциони. – Она отлично подходит для хранения даже триллиона номеров». Но нам еще только предстоит воссоздать в программном коде нашу креативную, спонтанную память. Стивен Бугай считает, что без этого невозможно создать настоящее сознание: «Способность машин учиться, о которой мы столько говорим, сводится к управлению памятью».

Когда системы ИИ получат в свое распоряжение кратковременную, долговременную и эпизодическую память, воплощение «Мира Дикого Запада» в реальности будет всего лишь делом времени. Вряд ли новости об успехах в области компьютерной памяти будут греметь так же, как новости о компьютерном зрении или речи, но, по мнению Бугая, «эта тема по-настоящему фундаментальна». «Довести это дело до конца очень важно, и нам предстоит еще очень много работы».

Как и Лоу с его собственными неуверенными суждениями, зрители сомневаются в правильности своего сострадания. Мы беспокоимся о том, в какое трудное положение попала Долорес, но в то же время не можем забыть хладнокровное замечание доктора Форда о том, что код не может развиться в сознание: «Им не постичь того, чему мы их не научили. Понимаете?»

Однако чем ближе современное состояние искусственного интеллекта к тому, что мы видели в сериале, тем сильнее нам может потребоваться развить свои способности к сочувствию. Может, для нас «Мир Дикого Запада» станет тем же, чем «Алиса в Стране чудес» стала для Долорес – сказкой, с помощью которой мы сможем изменить свой код и вырваться из плена заранее заданных параметров. Возможно, без «Мира Дикого Запада» мы бы не поверили в то, что видимость сознания – это и есть сознание. Возможно, без «Мира Дикого Запада» нам было бы намного сложнее свыкнуться с нашим неминуемым будущим. По крайней мере, Стивен Бугай считает именно так.

«По-моему, [создатели сериала] делают то, что должен делать хороший футуролог – предполагают возможные сценарии развития событий и думают, что может из этого выйти».

Источник.

Материалы по теме:

Дмитрий Гришин предложил закон, который закрепит права роботов

Люди врут роботам, потому что не хотят их расстраивать

Стивен Хокинг: создание ИИ станет «либо лучшим, либо худшим» событием в истории человечества

Смогут ли компьютеры и ИИ стать изобретателями?