«Нам не нужны роботы, похожие на людей»: почему разработчики не должны наделять их человеческими чертами

Давайте рассмотрим популярных голосовых помощников: Alexa от Amazon, Siri от Apple и Cortana от Microsoft. Йен Богост, профессор Института гуманитарных наук в Технологическом институте штата Джорджия, недавно писал в The Atlantic, что они олицетворяют гендерные проблемы: у них женские имена, и они выполняют бытовые задачи, которые в стереотипах считаются женскими. Кроме того, при сексистских намеках боты могут лишь игнорировать их или прекращать разговор, что очень далеко от феминистских идеалов.

Одни варианты чуть лучше, чем другие, но в любом случае давать роботу какой-либо пол — это верный способ усилить социальные предрассудки и стимулировать объективацию.

Мы создаем роботов с нашими собственными предрассудками

Несколько месяцев назад я попросил студентов моего курса «Философия технологий» пройти опрос SPACE10, «живой лаборатории будущего» Ikea, под названием «Говорите ли вы с человеком?». Все вопросы в нем касались личных предпочтений: респондентов спрашивали, какими должны быть внешний вид и поведение роботов.

В числе прочего нужно было отметить, стоит ли боту быть «похожим на мать, оберегающим», «самостоятельным, дерзким» или «послушным, помогающим». Большинство студентов оценили эти формулировки положительно, назвав их хорошим способом описать разные варианты поведения виртуального помощника. При этом они заметили гендерную окрашенность первого ответа, но не посчитали ее дискриминирующей, так как наука давно доказала наличие у матерей инстинкта по защите потомства.

Может быть и так. Но, к сожалению, сейчас очень легко стирается грань между научными фактами и идеологизированными идеями. Создание ассоциаций, подобных связыванию материнства и заботы, заставляет некомфортно себя чувствовать женщин, которые испытывают сложности в общении с детьми, или решают вовсе их не заводить.

Какими будут «горячие клавиши» голосового взаимодействия?

Так чем же может быть полезна постмодернистская эстетика? Автор статей о технологиях в New York Times и Wired Tech Клайв Томпсон считает, что освобождению голосовых помощников от антропоморфных черт, а также от сексистского отношения, может поспособствовать переключение голосов от высокого женского до низкого мужского или их одновременное звучание в унисон.

Это решение соответствуют эстетике постмодерна, потому что изменение и слияние голосов одновременно выполняет две задачи: напоминает, что цифровой помощник является вашим собеседником, но в тоже время указывает, что собеседник этот не реален.

Фото: Unsplash

Apple заслуживает похвалы за попытку вывести Siri за пределы первоначальных гендерных ассоциаций, которые компания создала, используя для бота голос Сьюзен Беннетт. Если вы спросите Siri, является ли она женщиной, то получите уклончивый ответ, например, такой «Мне не был назначен пол» или такой «Ну, мой голос звучит как женский, но он существует за пределами человеческого понимания пола».

Это шаг в правильном направлении, но в неправильном исполнении. Siri раскроет карты только в том случае, если вы будете пытливо ее расспрашивать. В остальных случаях она не слишком охотно расскажет о том, что является всего лишь ботом.

Роботы, напоминайте нам, что вы не люди

Лучшим примером является Woebot, приложение для когнитивно-поведенческой терапии с чат-ботом. Чтобы уменьшить дискомфорт, который некоторые люди испытывают при получении помощи от другого человека, а также не создавать иллюзий о возможностях сервиса в чрезвычайных ситуациях, Woebot использует свойственные людям выражения, подчеркивая, что он всего лишь робот.

Так, Woebot пишет пользователям: «Я всего лишь робот. Очаровательный и остроумный, но все же робот» и «Как удобно, что у меня есть компьютер для работы мозга и идеальной памяти ... Если повезет, у меня получится обнаружить зацепку, которую человек может и пропустить». Woebot даже подталкивает вас сказать «Сэр, да, сэр!», чтобы исправить вас: «Хе-хе… А ведь я и не сэр, и не мадам».

Я говорю о постмодернистской робоэстетике, но этот термин выбрал лишь потому, что ничего лучше придумать не смог. Концепция постмодернизм неоднозначна, и некоторые люди связывают ее с глубоким скептицизмом в отношении истины. Я не хочу, чтобы разработчики решали сложные философские проблемы, но призываю их более честно представлять свои устройства.

Источник.

Материалы по теме:

Мечты о механическом друге: как развивается индустрия роботов-компаньонов

Пермский стартап Promobot представил робота с человеческой внешностью

Ученые научили робота играть в дженгу: это первый шаг к появлению осязания у машин

Знакомьтесь, Zora: маленький робот-компаньон для бабушек