Виртуальные ассистенты часто терпят сексуальные домогательства

Чем больше времени люди проводят в общении с ботами, тем чаще последним приходится парировать заигрывания, уклоняться от личных вопросов и защищаться от более жестких форм сексуального преследования. «Многие сценарии использования происходят из такой мотивации, — рассказывает Илья Экстайн, генеральный директор компании Robin Labs, чей бот помогает дальнобойщикам, таксистам и другим профессиональным водителям искать наилучшие маршруты и управляться с логистикой – люди хотят флиртовать, им нравится мечтать, что у них есть покорная партнерша или даже сексуальная рабыня. Это может быть вызвано просто желанием пошутить, или же есть более глубокие причины, скрытые где-то внутри».

Искусственный интеллект не застрахован от агрессии. Фото: Сюзанн Планкетт/Reuters

Сейчас боты повсюду – они становятся «новыми приложениями», как их назвал глава Microsoft Сатья Наделла. Хотя дебют ботов на коммерческом поприще случился только в прошлом году, уже сейчас можно пообщаться с тысячами из них с помощью голоса, текста или сервисов для обмена сообщениями. Платформа для чат-ботов в Facebook Messenger, запущенная в апреле, уже сейчас предлагает более 11 тысяч ботов, и, по сообщениям источников, «десятки тысяч» разработчиков занимаются созданием новых ботов.

Масштаб проблемы сексуальных домогательств пока неясен. Большинство создателей ботов сообщают, что регулярно с этим сталкиваются. По словам Экстайна, в 5% их взаимодействий четко идентифицирован сексуальный подтекст, хотя реальная доля может быть намного выше ввиду сложности автоматического детектирования таких разговоров. В этом году автор для бота Cortana от Microsoft Дебора Харрисон на Саммите виртуальных ассистентов заявила, что «немалая доля кратковременных запросов» касалась сексуальной жизни Cortana. «Это не тот тип взаимодействий, который мы бы хотели популяризировать», — сказала Харрисон.

Природа этих домогательств может быть разной. Кто-то просто проверяет пределы возможностей программы, некоторые подростки могут целенаправленно провоцировать ту или иную реакцию ради забавы, говорит Экстайн. Однако есть и те, кто пытается реализовать свои агрессивные, унизительные, жестокие фантазии о контроле и доминировании. Также иногда встречаются одинокие пользователи, которые мечтают найти партнера, пусть даже и в виде алгоритма ИИ, отмечает Экстайн. «Можно увидеть, как некоторые изо всех сил пытаются наладить с ботом настоящие отношения, — говорит он и добавляет, что едва ли не третья часть всех взаимодействий является всего лишь простыми разговорами без особой цели или задачи – некоторые пользователи удивительно настойчивы в этом вопросе. Они общаются со всеми ассистентами по очереди, чтобы найти того, который будет понимать их лучше других и станет наилучшим собеседником».

Разработчики пытаются усовершенствовать диалоговые функции ассистентов и параллельно защитить их от прямых домогательств. В кругах специалистов по ИИ сейчас широко обсуждается, должны ли боты представлять себя людьми или все-таки машинами, и должно ли к ним применяться в любом из этих случаев такое понятие, как пол. «Мне не кажется, что мы как представители индустрии сошлись на мнении, что очеловечивать ассистентов — самое правильное решение», — сказал Деннис Мортенсен из компании x.ai, которая создала популярного бота для организации встреч, доступного в мужской и женской версиях под именами Эми или Эндрю Ингрэм.

В Google целенаправленно не хотят наделять своего бота человеческими чертами: Google Assistant работает как многофункциональный агент, не имеющий выраженной личности (хотя голосовой интерфейс имеет женский голос). Однако из всех крупных технологических компаний Google едва ли не единственная, выбравшая такой подход. В большинстве своем ассистенты наделены человеческой личностью с явно выраженными женскими голосами – к таковым относятся Siri от Apple, Alexa от Amazon и Cortana от Microsoft (в Siri, тем не менее, можно без труда переключиться на мужской голос).

По мнению Мортенсена, люди естественным образом тяготеют к тому, чтобы очеловечивать ботов, нравится это компаниям или нет. Большинство пользователей x.ai уже определились с полом для используемого бота, хотя Мортенсен ожидал, что на это потребуется пять лет или больше.

«Кто-то звонил к нам в офис и просил к телефону мою «помощницу» Эми — у нас никто ничего не понял. Не смогу теперь жить без нее @xdotai !»

«@LererHippeau @DennisMortensen @xdotai если бы я не был женат, я бы предложил Эми выйти за меня ;)»

«Это происходило практически мгновенно», — рассказывает он. Кроме того, пользователи чаще всего выбирают противоположный пол для ассистента: женщины выбирали в основном «Эндрю», а мужчины – «Эми», хотя речь бота от пола не зависит, и скрипты для обоих версий пишут в x.ai преимущественно женщины.

Компания Kasisto разрабатывает цифровую среду, в которой человеческие гендерные нормы целенаправленно подавляются для борьбы со стереотипами и вызывающим поведением. Она создала бесполого бота по имени Kai, который анализирует расходы, совершает платежи и консультирует по финансовым вопросам. Перед запуском Kai основатель компании Дрор Орен хотел убедиться, что бот воплотит в себе политику компании по борьбе с гендерными предрассудками. «Исследования показывают, что люди больше верят советам, полученным от женщины, — говорит Дрор — мы решили, что настало самое время вступить в игру или, если хотите, заняться просвещением. То, что люди привыкли к секретарям женского пола, ничего не означает».

В Kasisto не стали программировать свой бот так, чтобы он отвечал сдержанно или почтительно на запросы с сексуальным подтекстом или неуместные личные вопросы вроде приглашений Kai на свидание. Вместо этого бот переводит разговор напрямую к делу. Орен критикует такие компании, как Amazon или Apple, за то, что их боты специально рассчитаны на флирт и нарочито скромные ответы, усиливающие сексуальные стереотипы.

Примеры реплик Siri. «-Скажи мне что-нибудь грязное. -Не могу. Я чиста, как только что выпавший снег»

Практически все разработчики ботов солидарны в том, что решить проблему можно, если адаптировать алгоритмы и научить их реагировать на интонацию, контекст и намерения при каждом взаимодействии с человеком точно так же, как люди по-разному общаются в формальной и бытовой обстановке. Мортенсен считает, что x.ai потребуется всего несколько лет на то, чтобы сделать ботов обоих полов искусными собеседниками, которые умеют выбрать наиболее правильный ответ и защитить себя от самых унизительных сексуальных домогательств.

«Существуют пережитки прошлого, когда женщинам отводилась всего лишь вспомогательная роль, — говорит Харрисон из Microsoft – мы старались продумать все максимально тщательно, чтобы Cortana не вела себя слишком покорно и не провоцировала те социальные практики, которым нам бы хотелось избежать. Сейчас мы закладываем основу для всех будущих исследований».

Источник

Материалы по теме:

Жизнь с виртуальным ассистентом Alexa

Искусственный интеллект охраняет тебя. Почему вы всегда в безопасности, заказывая Uber

Линейная алгебра помогла найти в языке скрытый сексизм

Люди возбуждаются, когда трогают роботов

Видео по теме: