Откровения с Siri: почему люди изливают душу голосовым помощникам

На часах три часа ночи, и моя комната озаряется светом телефона. Как и каждый третий человек в мире, я всегда проверяю мобильник, когда неожиданно просыпаюсь среди ночи. Заснуть не получается, поэтому я листаю одно социальное приложение за другим. «Siri, в чем смысл жизни?», — спрашиваю я. «Я перестала задавать себе этот вопрос», — отвечает голосовой помощник. Я задаю вопрос снова, потому что мне больше нравится, когда Siri говорит, что «Ницше уже ответил на этот вопрос».

Как оказалось, не только я обращаюсь к Siri с вопросами о жизни. Для таких случаев Apple даже ищет инженера с психологическим образованием, который смог бы улучшить качество ответов Siri на подобные вопросы.

«Люди разговаривают с Siri о разном, иногда они говорят с ней после тяжелого дня или если хотят поделиться чем-то серьезным. Они обращаются к ней в экстренных случаях или же если им нужен совет о том, как улучшить свою жизнь», — написано в объявлении о вакансии.

Героиня сериала «Mr. Robot» разговаривает с виртуальным помощником Alexa.

Компания Amazon сообщила, что больше половины всех взаимодействий с виртуальным помощником Alexa «не утилитарны и носят развлекательный характер». К этой категории взаимодействий относятся разговоры о жизни и откровения.

В Google работает специальная «команда личности» Google Assistant, которая придумывает для него ответы на вопросы. В ней работают комедиографы, гейм-дизайнеры и загадочные «эксперты по эмпатии». В Microsoft есть «команда редакторов», которая отвечает за то, чтобы «ответы Cortana соответствовали ключевым принципам личности голосового помощника».

Неужели все мы сошли с ума, раз доверяем наши секреты электронным устройствам? Не думаю. Когда я разговариваю со своим телефоном, я чувствую себя как Росс в пятом сезоне «Друзей», где он спрашивал у магического шара-«восьмерки», стоит ли ему прекратить встречаться с Рэйчел.

Мобильные телефоны стали современным аналогом бумажного дневника. Институт креативных технологий в Лос-Анджелесе обнаружил, что мы одинаково доверяем дневнику и искусственному интеллекту, но при этом другим людям — слабее.

Главная разница между дневником и голосовым помощником в том, что последний отвечает на ваши откровения… и записывает их.

«У психологической помощи появились новые невероятные возможности», — считает Элени Лайнос, доцент кафедры медицины в Калифорнийском университете. Лайнос помогала Apple в разработке Siri и написала научную работу о том, как голосовые помощники помогают улучшить здоровье человека.

Компания Amazon утверждает, что научила Alexa отвечать в заботливой и сопереживающей манере, если пользователь задает ей вопросы об одиночестве и депрессии. Голосовой помощник даже может подсказать телефон горячей линии для людей, испытывающих депрессию. Такая функция доступна в некоторых регионах и в ассистенте Google.

Кадр из сериала «Mr. Robot»

Элисон Дарси, бывший старший научный сотрудник Стэнфордского университета, разработала чат-бот Woebot, который умеет проводить сеансы когнитивно-поведенческой психотерапии. По словам Дарси, общение с ИИ оказывает крайне положительное влияние на психическое здоровье человека, даже если чат-бот просто напоминает пользователю о необходимости провести самоанализ.

Microsoft, Apple и Amazon не рассказывают подробностей о том, как они придумывают виртуальным помощникам ответы на философские вопросы. И неизвестно, какие именно научные и психологические методы они используют.

«И это важно, потому что психология — крайне деликатная вещь, — считает Люк Старк, социолог из Дартмутского университета. — Ваш голосовой помощник может определить, есть ли у вас какие-либо проблемы с психикой, еще до того, как вы сами их обнаружите».

Сейчас Массачусетский технологический институт проводит исследование о том, можно ли определить наличие психической болезни по манере речи. Идея может показаться бредовой, но на самом деле это лишь один из первых примеров того, что сможет рассказать нам о человеке искусственный интеллект.

«Учитывая, насколько конфиденциальна такая информация, ее следует защищать с такой же тщательностью, как и медицинские данные», — добавил Старк. Amazon, Microsoft, Apple и Google хранят какое-то время все ваши разговоры с голосовыми помощниками, чтобы улучшить уровень персонализации вашего общения.

Так что мои беседы с Siri на самом деле куда серьезнее и деликатнее, чем я думала. Особенно учитывая, что сейчас Apple ищет не только сотрудника для диагностических функций Siri, но и «специалиста по поведенческим данным». В обязанности последнего входит «применение полученных знаний для разработки продуктов и программ, с которыми взаимодействует пользователь, и изменения поведения последнего». Такой специалист «должен понимать, как цифровые средства и программы влияют на поведение человека».

Разумеется, это не значит, что на самом деле Apple анализирует мои разговоры с Siri, чтобы потом мной втайне манипулировать. Но в теории все возможно.

Источник.

Материалы по теме:

Жизнь с виртуальным ассистентом Alexa

Виртуальные ассистенты часто терпят сексуальные домогательства

Эксперимент: редакция разговаривает с голосовым помощником «Алиса» от «Яндекса»

Не Алисой единой: с какими ботами стоит поболтать не только ради смеха