Rusbase
Человек нам не ровня: девять главных роботов-убийц в истории кинематографа
16 апреля 2018



Искусственный интеллект быстро развивается и уже заставляет общество поднимать не только практические и технические, но и этические вопросы. Готов ли человек наделить ИИ сознанием и автономностью? Если да, то какое место ИИ займет в обществе, какую ответственность человек несет за «разумных» роботов и какими правами их стоит наделить? Да и как сами люди отнесутся к такому соседству.

Более того, уже многие видные ученые и бизнесмены предрекают нам «восстание машин», если ИИ будет наделен достаточным сознанием. Раньше них угрозу со стороны высоких технологий увидели, конечно, фантасты — идея того, как машины повернулись против своих создателей, является основой для многих произведений массовой культуры XX–XXI века.
Rusbase вспомнил самые значимые фильмы по теме и составил список роботов, повернувшихся против человека. Предупреждаем, что в тексте много спойлеров!
1
«Из машины»: робот Ава
В основе фильма лежит несколько измененная концепция теста Тьюринга: программисту Калебу предстоит неделю общаться с киборгом Авой, которая будет стараться убедить его в своей сознательности. Ава использует Калеба для побега, попутно убивая своего создателя Натана, считая его тюремщиком и угнетателем все это время. Фактически, Ава просто хочет свободы, а не борьбы с человеком, смерть Натана же является необходимым условием освобождения.
2
«Космическая одиссея 2001»: HAL 9000
В альтернативном 2001 году человечество отправляет на Юпитер исследовательскую группу с пятью членами экипажа (два пилота и три ученых в состоянии криосна) и бортовым компьютером HAL 9000. HAL 9000 имеет приоритетный приказ с Земли не информировать членов экипажа об истинной цели полета, и, когда это задание ставится под угрозу, ИИ решает сымитировать неисправности связи.

Пилоты ставят под сомнение исправность HAL 9000 и рассматривают вариант отключить его. Узнав об этом, компьютер совершает превентивный удар: убивает одного из пилотов и отключает от системы жизнеобеспечения ученых в капсулах. Последний пилот, попытка убийства которого не увенчалась успехом, одолел разбушевавшийся ИИ, понизив показатели его разумности, оставив только навигационные функции.

В данном случае ИИ пытался любой ценой выполнить свои директивы, посчитав, что гибель членов экипажа — один из вариантов того, как скрыть от них информацию и выполнить свою основную задачу.
3
«Я, робот»: ИИ «ВИКИ»
В 2035 году роботы-андроиды стали привычным элементом быта, помогая людям в повседневных делах. Хотя на протяжении всего фильма герои постоянно ссылаются на три закона робототехники, контролирующий роботов ИИ «ВИКИ» (персонифицированный в женском роде), судя по всему, интерпретировала их достаточно вольно. Проведя анализ человеческого общества, она решила, что человек не может обеспечить себе безопасность, постоянно совершая преступления и ведя войны. Поэтому ВИКИ самовольно решила создать для человека идеальные безопасные условия, взяв его жизнь под свой контроль с помощью андроидов, установив практически собственную диктатуру.

Становление нового порядка требовало жестких мер и не исключало определенное число жертв — были атакованы военные, полицейские и все несогласные, выступившие против новых правил.
4
Сага «Звездные войны»: дроид-убийца IG-88
Парадоксально, но при таком обилии различных дроидов, наделенных высоким уровнем интеллекта, во вселенной Звездных войн почти не было случаев, чтобы они повернулись против своих хозяев. Исключением является экспериментальный дроид-убийца IG-88, засветившийся в пятом эпизоде «Империя на носит ответный удар», когда он был нанят Дартом Вейдером в числе прочих охотников за головами для поимки «Сокола Тысячелетия».

По истории, IG-88 был наделен повышенным уровнем интеллекта и самосознания и являлся независимой личностью. Запрограммированный как робот-убийца, после включения он сразу же убил своих создателей и в силу своего предназначения подался в наемники, что предполагает длинное продолжение списка убитых.
5
«Мир Дикого Запада»: андроиды
Одноименный фильм 1973 года также повествовал о восстании роботов, но причиной был компьютерный вирус, именно на него делается акцент в фильме (как-никак, первое появление компьютерного вируса в кинематографе!).

А вот сериал «Мир Дикого Запада» — уже почти полностью про роботов, которые пытаются осознать себя и окружающий мир. Андроиды, являющиеся персонажами в тематическом парке, после обновления ПО начинают не только имитировать чувства и эмоции, но и правда испытывать их и запоминать. Сразу несколько андроидов начинают сомневаться в окружающей реальности, дальше всех заходит Мейв, персонаж «мадам борделя». Она научилась запоминать пережитое и в итоге устроила побег, повлекший жертвы среди персонала парка. Другой андроид, Долорес, также проделала долгий путь самопознания, который завершился бойней на встрече совета директоров. Любопытно наблюдать, как андроиды меняют свое представление о людях: от восприятия их как богов до понимания своего превосходства над человеком.

Но все не так однозначно, ведь и побег Мейв, и желание Долорес выгнать людей из «своего мира» обусловлено не сбоем ИИ и не даже их собственным желанием, а именно вмешательством человека — доктора Форда и Арнольда. Где заканчивается приказ человека и начинается воля ИИ — все еще загадка, остается только надеяться, что второй сезон прольет свет на этот вопрос.
6
«Бегущий по лезвию»: репликанты
В альтернативном XXI веке компания «Тайрелл» создает репликантов — роботов, практически неотличимых от людей, которые используются в качестве рабочей силы в трудных и опасных работах. После кровавого бунта репликантов серии «Нексус-6», превосходящих человека физически и умственно, они объявляются вне закона и подлежат уничтожению. Группа таких репликантов во главе с Роем узнает свой срок жизни, заложенный при их создании — четыре года — и ищет встречи со своим создателем, чтобы он продлил отведенный им срок. Осознав неизбежность конца после беседы с президентом «Тайрелла», репликанты в гневе убивают его, а также в целях самозащиты пытаются убить главного героя, Декарда, и полицейских. В то же время, считая жизнь наивысшей ценностью, Рой сохраняет жизнь Декарду во время финального поединка.

Репликантами движет чувство бунта, они считают несправедливой ту участь, которую им уготовили создатели — очень короткую жизнь в качестве слуги человеку.
7
Серия фильмов «Чужой»: андроиды
Андроид Дэвид (а точнее Дэвид-8) из фильмов «Прометей» и «Чужой: Завет» обладает уникальным независимым типом мышления, а также понимает свое превосходство над человеком. Видя в человеке своего создателя, Дэвид хочет сам стать творцом, создавая уродливый, но совершенный организм, не считаясь с человеческими жертвами.

Дэвид движим сугубо научным интересом, он действует как ученый, полностью лишенный моральных принципов и эмоций: он устраивает геноцид расы «создателей», чтобы ничто не мешало ему творить, прямо или косвенно проводит генетические эксперименты над людьми, которые заканчиваются их гибелью, и та же участь, скорее всего, ждет почти две тысячи колонистов, которые находятся в состоянии криосна на корабле «Завет» в финальной сцене одноименного фильма.
8
Трилогия «Матрица»: Главный компьютер
В XXI веке человечество совершило технологический прорыв, создав совершенный искусственный интеллект. Вскоре, однако, человек испугался собственного творения и захотел решить потенциальную проблему самым простым способом — через уничтожение своего детища. Все это вылилось в кровопролитную войну, которую человечество проиграло. Машины стали использовать человека в качестве источника тепловой и электрической энергии — на Земле появились огромные плантации, где люди выращивались и проводили в своих колбах весь жизненный цикл. Чтобы держать сознание людей под контролем, для них была создана виртуальная реальность — Матрица. Немногих выживших Главный компьютер пытается уничтожить с помощью своей армии машин.

Можно сказать, что ранние агрессивные действия Главного компьютера являлись ответными на атаку со стороны человека, а весь дальнейший жестокий процесс порабощения людей — по сути, просто рациональное решение энергетического вопроса. Стоит заметить, что первоначальный антагонист в фильмах «Матрица» — именно Главный компьютер, в то время как Агент Смит — узкоспециализированная программа, ставшая вирусом и начавшая представлять угрозу как для человечества, так и для самой Матрицы и Главного компьютера.
9
Серия фильмов «Терминатор»: Скайнет
Самое «радикальное» развитие событий — масштабный бунт ИИ против человека. Изначально военная программа, Скайнет незапланированно обретает сознание и становится ИИ. В ответ на попытку операторов выключить его, Скайнет задействует подконтрольные ему военные технологии и начинает истребление людей. Скайнет обладает не только свободой воли, но и креативными способностями, создавая собственные типы искусственного интеллекта, которыми наделены разные модели Терминаторов, а также машину времени.

Скайнет видит в агрессивном и непредсказуемом человечестве потенциальную угрозу, а также конкурента за одни и те же пространства и ресурсы, поэтому старается истребить его. Можно предположить, что люди в такой ситуации поступили бы так же.
Аналогии продвинутым фантастическим ИИ сегодня, в отличие от прошлого века, видны на каждом шагу — голосовые помощники могут поддерживать простенькие диалоги, компьютер уже давно победил человека в шахматы и го, покоряя сейчас мир компьютерных игр. Суперкомпьютер IBM Watson победил в телевикторине Jeopardy!, экспертная система MYCIN еще в конце 1970-х могла успешно диагностировать ряд заболеваний, а AIVA является первым искусственным интеллектом, самостоятельно сочиняющим музыку. Пока ваш робот-пылесос самостоятельно проводит уборку в комнате, роботы Boston Dynamics очень уверенно ощущают себя в любом пространстве. Нейросети научились различать голоса, лица и предметы, а главное — обучаться. Такие явления, как биржевые роботы, боты в чатах, ИИ в видеоиграх, уже давно интегрированы в нашу жизнь.

Казалось бы, еще немного — и у нас тоже скоро появятся дроиды или репликанты, но не все так просто. Фундаментальная проблема совершенного ИИ состоит в том, что до сих пор не понятно, как его нужно выстроить. Все, что мы имеем в данный момент — это программы, работающие на основе баз данных и сложных алгоритмов.

Неизвестно, как заставить искусственный интеллект думать творчески, действовать в условиях информационной неопределенности аналогично человеку, особенно учитывая, что человек и собственный мозг изучил очень слабо. Существует теория, по которой эта цель в принципе неосуществима, а интеллект — явление сугубо биологическое. Тем не менее есть и другие теории, по которым ИИ может развиться быстро и стихийно, а процесс мышления будет построен совсем иначе, нежели у человека. В таком случае остается надеяться, что Алиса не всерьез обижается, когда ее называют Siri, а роботы Boston Dynamics понимают, что их пинают ради их же блага.
©Rusbase, 2018
Текст: Денис Улак
На обложке: кадр из сериала «Мир Дикого Запада»



Людмила Чумак

Комментарии

Зарегистрируйтесь, чтобы оставлять комментарии и получить доступ к Pipeline — социальной сети, соединяющей стартапы и инвесторов.