Почему беспилотные авто нужно программировать на убийство?

Все новые технологии в сфере автоматизации раньше всего проникают в автомобильную промышленность. Сегодня серийные машины стандартно оснащаются круиз-контролем, программой параллельной парковки и даже функцией автоматического обгона. Имея все эти новшества, водитель может спокойно (ну или не совсем спокойно) сидеть и наблюдать за тем, как компьютер управляет его машиной.

Поэтому закономерно, что многие автопроизводители начинают задумываться о том, чтобы полностью передать управление под контроль компьютера. Такие автомобили будут более безопасными, экологичными и экономичными, нежели их «ручные» предшественники. Но абсолютную безопасность, как известно, обеспечить невозможно.

По теме: «Интернет машин» — будущее комфортного передвижения

И это порождает ряд трудных вопросов. Например, как нужно запрограммировать машину на случай неизбежной аварии? Должна ли система минимизировать человеческие потери, даже если придется пожертвовать жизнями пассажиров? Или она должна будет спасать пассажиров любой ценой? Или выбор между двумя этими альтернативами должен быть случайным?

Ответы на подобные вопросы могут повлиять на то, как беспилотные автомобили будут восприняты обществом. Ведь кто захочет купить машину, которая в экстремальной ситуации может убить владельца?

Так поможет ли здесь наука? Возможно, к ответу на этот вопрос смогли приблизиться ученые из Тулузской школы экономики – Жан-Франсуа Боннефон и его коллеги. Они пришли к выводу, что, поскольку на приведенные морально-этические вопросы не может быть правильного или неправильного ответа, последнее слово в развитии беспилотных автомобильных систем будет за общественным мнением.

Поэтому ученые решили изучить общественное мнение с применением нового научного метода – экспериментальной этики. Этот подход подразумевает изучение реакции большого количества людей на поставленные перед ними этические дилеммы. Результаты оказались интересными, хотя и немного предсказуемыми.

«Полученные данные являются лишь первыми шагами в направлении изучения сложнейших проблем морального свойства при программировании автономных транспортных средств», — говорят исследователи.

И вот какую дилемму предлагали разрешить испытуемым. Представьте, что в недалеком будущем у вас есть беспилотная машина. Вы едете в ней, и вдруг дорогу впереди переходит группа из десяти людей. Машина не успевает остановиться, чтобы избежать наезда, но может свернуть в сторону и врезаться в стену. Но в таком случае погибнете вы. Какой вариант должна выбрать машина?

Один из подходов к решению данной проблемы – исходить из идеи, что количество жертв необходимо минимизировать. Смерть одного человека лучше, чем смерть десяти.

Но у такого подхода могут быть и другие последствия. Если беспилотные автомобили будут покупать меньше из-за того, что они потенциально способны привести к гибели владельца, то больше людей будут погибать в авариях с участием обычных машин. Получается безвыходная ситуация.

Боннефон и его коллеги ищут приемлемое решение этой этической дилеммы, отталкиваясь от общественного мнения. В начале они предположили, что люди чаще всего выбирают сценарий, который подразумевает сохранение их собственных жизней.

Они опросили несколько сотен рядовых граждан. Участникам опроса был предложен сценарий, по которому можно было спасти одного или нескольких пешеходов, свернув в стену, убив таким образом пассажира или одного пешехода.

В то же время исследователи меняли некоторые подробности сценария, такие как количество пешеходов, которых можно спасти; кем было принято решение свернуть – компьютером или владельцем автомобиля; а также какова роль испытуемого в этом сценарии – в качестве пассажира авто или стороннего наблюдателя.

В целом люди чаще высказывались за идею сохранить как можно больше человеческих жизней.

По теме: Кадиллак внедрил радар для предотвращения аварий еще в 1959 году

Такой гуманный подход, разумеется, заслуживает всяческой похвалы и крепит веру в человечество, но проблема в том, что участники опроса готовы были решать эти дилеммы только в теории. «Участники не были вполне уверены, что беспилотные автомобили стоит программировать таким образом в действительности. Многие считали, что беспилотные автомобили в будущем будет покупать кто-то другой, но только не они», — делает вывод Боннефон.

И здесь скрывается парадокс. Люди предпочитают, чтобы автомобиль был запрограммирован спасти как можно больше жизней, даже жертвуя жизнью пассажира. Но ни один из них не хочет купить такую машину.

Боннефон и его коллеги говорят, что их исследование стало первым опытом решения чрезвычайно сложной моральной задачи. Другие похожие вопросы включают определение виновного и степени вины в случаях, описанных выше.

Выводы французских ученых порождают дальнейшие вопросы: «Допустимо ли, чтобы автомобиль избегал столкновения с мотоциклом, сворачивая в стену, учитывая, что шансов на выживание у сидящего в салоне автомобиля больше, чем у мотоциклиста? Должен ли компьютер принимать иное решение, если в салоне есть дети, так как предполагаемая продолжительность их жизни больше, чем у взрослых пешеходов? Если автопроизводитель предлагает разные варианты программирования бортового компьютера, а покупатель осознанно выбирает один из алгоритмов, кого признавать виновным в возможных фатальных последствиях решений, принятых согласно выбранному алгоритму?».

И эти вопросы – не пустое теоретизирование, говорят ученые. Эти проблемы нельзя игнорировать. «Мы вот-вот изобретем и начнем выпускать полностью беспилотные автомобили. Поэтому решение вопросов морального характера как никогда актуально».

Источник.