Как устроена работа модератора метавселенной

Цифровая безопасность в метавселенных с самого начала остается нерешенным вопросом. Ситуация стала еще серьезнее, когда Meta* объявила, что снизит минимальный возраст для платформы Horizon Worlds с 18 до 13 лет. Компания также обещает ввести дополнительные правила и функции для защиты молодых пользователей. Однако потребуется, чтобы кто-то обеспечивал их соблюдение.

Meta* не сообщает, сколько модераторов контента работает в Horizon Worlds, и намерена ли компания увеличить их число. Но изменения привлекают внимание к тому, кто следит за порядком в онлайн-пространствах, и тому, как они справляются с работой.  

Екканти работает модератором и менеджером по обучению в виртуальной реальности с 2020 года. Ранее он занимался традиционной модерацией текста и изображений. Он трудоустроен в WebPurify, которая предоставляет услуги по модерации контента таким интернет-компаниям, как Microsoft и Play Lab, и работает с командой, базирующейся в Индии.

Он преимущественно взаимодействует с популярными платформами, в том числе теми, что принадлежат Meta*. Однако WebPurify отказывается уточнить, какими именно, ссылаясь на соглашения о конфиденциальности.

Екканти не раскрывает свой статус модератора. Он работает скорее под прикрытием, выдавая себя за обычного пользователя, чтобы лучше видеть нарушения.

Читайте по теме:

Тест: Сможете ли вы жить в мире Web3? Давайте проверим

В иной реальности: как устроен метамаркетинг?

Традиционные средства модерации, такие как фильтры по словам, не слишком эффективны в иммерсивной среде. Поэтому основная задача по обеспечению безопасности лежит на таких модераторах, как Екканти, и его работа с каждым днем становится все важнее.

Проблема безопасности в метавселенной сложна и неочевидна. Журналисты неоднократно сообщали об оскорблениях, мошенничестве, домогательствах и даже похищении, организованном с помощью VR-системы Oculus. Крупнейшие иммерсивные платформы, такие как Roblox и Horizon Worlds, держат статистику о нарушениях в строжайшем секрете, но Екканти говорит, что он сталкивается с ними каждый день.

Meta* отказалась дать комментарий, но прислала список инструментов и политик, которые у нее есть, и отметила, что обучила специалистов по безопасности в Horizon Worlds. Представитель Roblox отметил, что у компании есть «команда из тысяч модераторов, которая отслеживает неподходящий контент 24/7 и изучает обращения сообщества», а также использует машинное обучение для просмотра текста, изображений и аудио.

Чтобы решить проблемы безопасности, технологические компании используют волонтеров, сотрудников, модераторов под прикрытием и — все чаще — функции платформы, которые позволяют пользователям самостоятельно обеспечивать свою безопасность, например, установить личную границу, которая не позволит другим пользователям подойти слишком близко.

WebPurify, которая ранее специализировалась на модерации онлайн-текста и изображений, с начала прошлого года предлагает услуги для метавселенных и недавно наняла бывшего главу отдела доверия и безопасности Twitter Алекса Попкена, чтобы он помог возглавить эту работу.

Модераторов учат реагировать соразмерно: нарушителю могут отключить звук, отключить от игры или уведомить о его поведении компанию.

WebPurify предлагает модераторам разные ресурсы, в том числе круглосуточный доступ к консультациям по вопросам психического здоровья.

Им приходится сталкиваться со сложными ситуациями, и может потребоваться много здравого смысла и эмоционального интеллекта, чтобы определить, какое поведение уместно. Так, у разных культур и разных пользователей ожидания относительно межличностного пространства и физических приветствий могут отличаться, а в разных сообществах может действовать разная политика.

Все это происходит под прикрытием, чтобы пользователи не меняли своего поведения, узнав, что взаимодействуют с модератором. «Ловить плохих парней — это скорее воодушевляет, чем расстраивает», — говорит Екканти.

Модерация также означает пренебрежение приватностью пользователей.

Ключевая часть работы — «отслеживать все», говорит Екканти. Модераторы записывают все, что происходит в игре, с момента подключения и до выхода, в том числе разговоры между игроками. Это означает, что они часто подслушивают, даже без ведома пользователей, хотя компании заявляют, что это не касается полностью приватных разговоров один на один.

Впрочем, власти США выразили скептицизм по поводу политики Meta*. Сенаторы из Массачусетса и Коннектикута написали открытое письмо Марку Цукербергу с просьбой пересмотреть решение о снижении возрастных ограничений. Бывший юрист Meta* Делара Дерахшани также признает, что обеспечение безопасности в метавселенной должно быть более прозрачным.

Сам Екканти хотел бы, чтобы люди понимали: его работа может быть довольно увлекательной, но она по-настоящему важна.

«Как модераторы, мы пытаемся создать лучший опыт для всех, чтобы им не пришлось переживать травму. Мы, как модераторы, готовы принять это и находимся здесь, чтобы защитить других. Мы можем стать первой линией обороны» — говорит он.

Источник.

* Meta и входящие в нее Facebook и Instagram признаны экстремистскими организациями, деятельность которых запрещена в РФ.

Обложка снегерирована нейросетью Midjourney