«Мир Дикого запада». Что не так с жестоким обращением с роботами?

Анна Самойдюк
Расскажите друзьям
Анна Самойдюк

На HBO стартовал второй сезон сериала «Мир Дикого запада» — о футуристическом парке развлечений, населённом андроидами. Психолог Пол Блум и нейроученый Сэм Харрис написали колонку для New York Times об этическом смысле этого сюжета и о том, насколько человечно люди должны относиться к роботам. Публикуем ее перевод.

«Мир Дикого запада» — это адаптация одноименного фильма, написанного и поставленного Майклом Крайтоном в 1973 году. Место действия — вымышленный футуристический парк развлечений «Мир Дикого запада», населённый андроидами. Роботы обслуживают высокооплачиваемых посетителей. Они выглядят так же, как и люди. Зачастую даже зрители не могут полностью понять, кто перед ними – робот или человек.

Гости могут делать все, что пожелают, и не бояться возмездия. Некоторые предпочитают издеваться над андроидами – пытать их, насиловать или убивать. Роботы запрограммированы таким образом, что не могут причинить вред людям.

Кадр из сериала «Мир Дикого запада»

Однако важен не сюжет сериала, а его посыл и реакция зрителей на идентичных людям роботов, человеческую природу и будущее технологий.

Вероятнее всего, когда-то мы создадим сознательные машины, которые смогут чувствовать, страдать и мыслить.

Философы и ученые все еще не могут дать точный ответ на вопрос «откуда в материальном мире появляется сознание?». Предположим, оно возникает в сложной системе, которая обрабатывает информацию. Нет никаких оснований полагать, что такая система должна состоять из плоти. Разуму, вероятнее всего, не нужна «платформа». Кажется, это только вопрос времени, когда мы сами создадим сознательные системы или что-то в этом роде.

Даже если предположить, что только биологические системы могут обладать сознанием, у человечества все равно есть шанс добиться успеха в этой области – возможно, благодаря сочетанию искусственного интеллекта и генной инженерии. Действительно, роботы в сериале «Мир Дикого запада» частично биологические: мы видели, как они истекают кровью.

Если бы мы правда создали сознательные машины, с моральной точки зрения было бы неправильно причинять им вред или порабощать их, поскольку они могут чувствовать боль и страдать.

Кадр из сериала «Мир Дикого запада»

Но откуда мы узнаем, есть ли у машин сознание? Возможно, в будущем ученые смогут это определить. Тем не менее, нет никаких сомнений в том, что мы создадим машины, которые будут казаться нам сознательными.

В сериале «Мир Дикого запада» все герои кажутся живыми, независимо от того, понимаем ли мы, что такое сознание. Согласно многим исследованиям и экспериментам, мы быстро начинаем приписывать чувства машинам, которые выглядят и ведут себя так же, как человек. Речь идет не о мультяшных роботах с торчащими проводами и голосом, как у Siri. Представьте, что перед вами стоит красивый незнакомец, который может поддерживать с вами приятный разговор и понимать ваши чувства и эмоции лучше, чем кто-либо другой. Сможете ли вы не видеть в нем человека?

Сериал «Мир Дикого запада» можно назвать философским трудом современности. Одно дело – сидеть на семинарах и спорить о будущем роботов, совсем другое – видеть страдания машин, пусть и по телевизору. Важно также понять, какие эмоции у вас вызывают люди, которые насилуют, пытают и убивают роботов. Скорее всего, это будет отвращение. Получается, как раз роботы в сериале человечные, а люди, которые издеваются над ними, – монстры.

Кадр из сериала «Мир Дикого запада»

У Канта довольно странные взгляды на животных: он видит в них простые вещи, лишенные нравственной ценности; однако он всегда настаивал на том, что с ними следует обходиться хорошо, поскольку от этого зависит то, как мы будем относиться друг к другу. «Человек, который жестоко обращается с животными, будет жестоко обращаться и с людьми». То же самое можно сказать и о роботах. Даже если мы будем уверены в том, что они не могут страдать и чувствовать боль, мы не должны причинять им вред, потому что это окажет влияние именно на нас и на людей, которые нас окружают.

Отчасти поэтому многие уверены, что видеоигры влияют на психику: считается, люди переносят насилие из виртуального мира в реальный. Доказательства этого довольно слабы. Наоборот, с появлением реалистичных видеоигр резко сократился уровень преступности. Стоит беспокоиться как раз о том, что будет, если мы все-таки построим место вроде «Мира Дикого запада», потому что убийство робота идентично убийству человека, чего нельзя сказать о видеоиграх.

Все эти проблемы выходят далеко за рамки садизма. Машины созданы для того, чтобы делать жизнь людей лучше. Однако будет ли правильно использовать их в качестве прислуги, даже если они запрограммированы таким образом? Генетическое проектирование расы рабов-добровольцев – одна из самых распространенных тем научной фантастики, где позже человечество понимает, что совершило нечто ужасное. Чем же тогда будет отличаться производство разумных роботов-рабов?

Впервые в истории мы рискуем создать машины, которые по своему усмотрению смогут использовать только монстры.

Источник.


Материалы по теме:

Amazon ведет секретную разработку домашнего робота – Bloomberg

Человек нам не ровня: девять главных роботов-убийц в истории кинематографа

Британские рабочие могут больше не бояться роботов

Семь самых необычных роботов в ресторанах


Актуальные материалы — в Telegram-канале @Rusbase

Нашли опечатку? Выделите текст и нажмите Ctrl + Enter


Комментарии

Зарегистрируйтесь, чтобы оставлять комментарии и получить доступ к Pipeline — социальной сети, соединяющей стартапы и инвесторов.
Промышленная кибербезопасность: цифровая трансформация — вызовы и возможности
19 сентября 2018
Ещё события


Telegram канал @rusbase