Человек нам не ровня: девять главных роботов-убийц в истории кинематографа

Искусственный интеллект быстро развивается и уже заставляет общество поднимать не только практические и технические, но и этические вопросы. Готов ли человек наделить ИИ сознанием и автономностью? Если да, то какое место ИИ займет в обществе, какую ответственность человек несет за «разумных» роботов и какими правами их стоит наделить? Да и как сами люди отнесутся к такому соседству.

Более того, уже многие видные ученые и бизнесмены предрекают нам «восстание машин», если ИИ будет наделен достаточным сознанием. Раньше них угрозу со стороны высоких технологий увидели, конечно, фантасты — идея того, как машины повернулись против своих создателей, является основой для многих произведений массовой культуры XX–XXI века.

В основе фильма лежит несколько измененная концепция теста Тьюринга: программисту Калебу предстоит неделю общаться с киборгом Авой, которая будет стараться убедить его в своей сознательности. Ава использует Калеба для побега, попутно убивая своего создателя Натана, считая его тюремщиком и угнетателем все это время. Фактически, Ава просто хочет свободы, а не борьбы с человеком, смерть Натана же является необходимым условием освобождения.

В альтернативном 2001 году человечество отправляет на Юпитер исследовательскую группу с пятью членами экипажа (два пилота и три ученых в состоянии криосна) и бортовым компьютером HAL 9000. HAL 9000 имеет приоритетный приказ с Земли не информировать членов экипажа об истинной цели полета, и, когда это задание ставится под угрозу, ИИ решает сымитировать неисправности связи.

Пилоты ставят под сомнение исправность HAL 9000 и рассматривают вариант отключить его. Узнав об этом, компьютер совершает превентивный удар: убивает одного из пилотов и отключает от системы жизнеобеспечения ученых в капсулах. Последний пилот, попытка убийства которого не увенчалась успехом, одолел разбушевавшийся ИИ, понизив показатели его разумности, оставив только навигационные функции.

В данном случае ИИ пытался любой ценой выполнить свои директивы, посчитав, что гибель членов экипажа — один из вариантов того, как скрыть от них информацию и выполнить свою основную задачу.

В 2035 году роботы-андроиды стали привычным элементом быта, помогая людям в повседневных делах. Хотя на протяжении всего фильма герои постоянно ссылаются на три закона робототехники, контролирующий роботов ИИ «ВИКИ» (персонифицированный в женском роде), судя по всему, интерпретировала их достаточно вольно. Проведя анализ человеческого общества, она решила, что человек не может обеспечить себе безопасность, постоянно совершая преступления и ведя войны. Поэтому ВИКИ самовольно решила создать для человека идеальные безопасные условия, взяв его жизнь под свой контроль с помощью андроидов, установив практически собственную диктатуру.

Становление нового порядка требовало жестких мер и не исключало определенное число жертв — были атакованы военные, полицейские и все несогласные, выступившие против новых правил.

Парадоксально, но при таком обилии различных дроидов, наделенных высоким уровнем интеллекта, во вселенной Звездных войн почти не было случаев, чтобы они повернулись против своих хозяев. Исключением является экспериментальный дроид-убийца IG-88, засветившийся в пятом эпизоде «Империя на носит ответный удар», когда он был нанят Дартом Вейдером в числе прочих охотников за головами для поимки «Сокола Тысячелетия».

По истории, IG-88 был наделен повышенным уровнем интеллекта и самосознания и являлся независимой личностью. Запрограммированный как робот-убийца, после включения он сразу же убил своих создателей и в силу своего предназначения подался в наемники, что предполагает длинное продолжение списка убитых.

Одноименный фильм 1973 года также повествовал о восстании роботов, но причиной был компьютерный вирус, именно на него делается акцент в фильме (как-никак, первое появление компьютерного вируса в кинематографе!).

А вот сериал «Мир Дикого Запада» — уже почти полностью про роботов, которые пытаются осознать себя и окружающий мир. Андроиды, являющиеся персонажами в тематическом парке, после обновления ПО начинают не только имитировать чувства и эмоции, но и правда испытывать их и запоминать. Сразу несколько андроидов начинают сомневаться в окружающей реальности, дальше всех заходит Мейв, персонаж «мадам борделя». Она научилась запоминать пережитое и в итоге устроила побег, повлекший жертвы среди персонала парка. Другой андроид, Долорес, также проделала долгий путь самопознания, который завершился бойней на встрече совета директоров. Любопытно наблюдать, как андроиды меняют свое представление о людях: от восприятия их как богов до понимания своего превосходства над человеком.

Но все не так однозначно, ведь и побег Мейв, и желание Долорес выгнать людей из «своего мира» обусловлено не сбоем ИИ и не даже их собственным желанием, а именно вмешательством человека — доктора Форда и Арнольда. Где заканчивается приказ человека и начинается воля ИИ — все еще загадка, остается только надеяться, что второй сезон прольет свет на этот вопрос.

В альтернативном XXI веке компания «Тайрелл» создает репликантов — роботов, практически неотличимых от людей, которые используются в качестве рабочей силы в трудных и опасных работах. После кровавого бунта репликантов серии «Нексус-6», превосходящих человека физически и умственно, они объявляются вне закона и подлежат уничтожению. Группа таких репликантов во главе с Роем узнает свой срок жизни, заложенный при их создании — четыре года — и ищет встречи со своим создателем, чтобы он продлил отведенный им срок. Осознав неизбежность конца после беседы с президентом «Тайрелла», репликанты в гневе убивают его, а также в целях самозащиты пытаются убить главного героя, Декарда, и полицейских. В то же время, считая жизнь наивысшей ценностью, Рой сохраняет жизнь Декарду во время финального поединка.

Репликантами движет чувство бунта, они считают несправедливой ту участь, которую им уготовили создатели — очень короткую жизнь в качестве слуги человеку.

Андроид Дэвид (а точнее Дэвид-8) из фильмов «Прометей» и «Чужой: Завет» обладает уникальным независимым типом мышления, а также понимает свое превосходство над человеком. Видя в человеке своего создателя, Дэвид хочет сам стать творцом, создавая уродливый, но совершенный организм, не считаясь с человеческими жертвами.

Дэвид движим сугубо научным интересом, он действует как ученый, полностью лишенный моральных принципов и эмоций: он устраивает геноцид расы «создателей», чтобы ничто не мешало ему творить, прямо или косвенно проводит генетические эксперименты над людьми, которые заканчиваются их гибелью, и та же участь, скорее всего, ждет почти две тысячи колонистов, которые находятся в состоянии криосна на корабле «Завет» в финальной сцене одноименного фильма.

В XXI веке человечество совершило технологический прорыв, создав совершенный искусственный интеллект. Вскоре, однако, человек испугался собственного творения и захотел решить потенциальную проблему самым простым способом — через уничтожение своего детища. Все это вылилось в кровопролитную войну, которую человечество проиграло. Машины стали использовать человека в качестве источника тепловой и электрической энергии — на Земле появились огромные плантации, где люди выращивались и проводили в своих колбах весь жизненный цикл. Чтобы держать сознание людей под контролем, для них была создана виртуальная реальность — Матрица. Немногих выживших Главный компьютер пытается уничтожить с помощью своей армии машин.

Можно сказать, что ранние агрессивные действия Главного компьютера являлись ответными на атаку со стороны человека, а весь дальнейший жестокий процесс порабощения людей — по сути, просто рациональное решение энергетического вопроса. Стоит заметить, что первоначальный антагонист в фильмах «Матрица» — именно Главный компьютер, в то время как Агент Смит — узкоспециализированная программа, ставшая вирусом и начавшая представлять угрозу как для человечества, так и для самой Матрицы и Главного компьютера.

Самое «радикальное» развитие событий — масштабный бунт ИИ против человека. Изначально военная программа, Скайнет незапланированно обретает сознание и становится ИИ. В ответ на попытку операторов выключить его, Скайнет задействует подконтрольные ему военные технологии и начинает истребление людей. Скайнет обладает не только свободой воли, но и креативными способностями, создавая собственные типы искусственного интеллекта, которыми наделены разные модели Терминаторов, а также машину времени.

Скайнет видит в агрессивном и непредсказуемом человечестве потенциальную угрозу, а также конкурента за одни и те же пространства и ресурсы, поэтому старается истребить его. Можно предположить, что люди в такой ситуации поступили бы так же.

Аналогии продвинутым фантастическим ИИ сегодня, в отличие от прошлого века, видны на каждом шагу — голосовые помощники могут поддерживать простенькие диалоги, компьютер уже давно победил человека в шахматы и го, покоряя сейчас мир компьютерных игр. Суперкомпьютер IBM Watson победил в телевикторине Jeopardy!, экспертная система MYCIN еще в конце 1970-х могла успешно диагностировать ряд заболеваний, а AIVA является первым искусственным интеллектом, самостоятельно сочиняющим музыку. Пока ваш робот-пылесос самостоятельно проводит уборку в комнате, роботы Boston Dynamics очень уверенно ощущают себя в любом пространстве. Нейросети научились различать голоса, лица и предметы, а главное — обучаться. Такие явления, как биржевые роботы, боты в чатах, ИИ в видеоиграх, уже давно интегрированы в нашу жизнь.

Казалось бы, еще немного — и у нас тоже скоро появятся дроиды или репликанты, но не все так просто. Фундаментальная проблема совершенного ИИ состоит в том, что до сих пор не понятно, как его нужно выстроить. Все, что мы имеем в данный момент — это программы, работающие на основе баз данных и сложных алгоритмов.

Неизвестно, как заставить искусственный интеллект думать творчески, действовать в условиях информационной неопределенности аналогично человеку, особенно учитывая, что человек и собственный мозг изучил очень слабо. Существует теория, по которой эта цель в принципе неосуществима, а интеллект — явление сугубо биологическое. Тем не менее есть и другие теории, по которым ИИ может развиться быстро и стихийно, а процесс мышления будет построен совсем иначе, нежели у человека. В таком случае остается надеяться, что Алиса не всерьез обижается, когда ее называют Siri, а роботы Boston Dynamics понимают, что их пинают ради их же блага.