Каково быть модератором Reddit

Правила таковы: пользователям /r/aww запрещено выкладывать посты о собаках, которые умирают, болеют или только что были у ветеринара. Никаких постов о котах, которых нашли на улице и приютили; никаких историй о птицах с подбитым крылом. Веселые описания животных – вот, что приветствуется.

Эти стандарты важны для меня, потому что я один из модераторов /r/aww – сабреддита о забавных и милых животных. Если такая тематика кажется вам тривиальной, позвольте мне напомнить, какой силой обладают мемы с животными в интернете: на страницу подписаны 19 миллионов человек, и она развивается быстрыми темпами.

В Reddit менее 500 человек получают зарплату, десятки тысяч работают модераторами бесплатно. Вместе с коллегами мы проверяем каждый пост и комментарии на соблюдение правил сабреддита. Наших правил.

В /r/aww люди не всегда постят фотографии котят и щенков. Иногда они выкладывают порно или угрозы о том, что меня найдут и причинят мне вред. Мои правила просты и очевидны, и они созданы для предотвращения неправомерного использования платформы.

/r/aww – десятый по величине сабреддит. Все 19 миллионов подписчиков используют псевдонимы, и многие злоупотребляют своей относительной анонимностью. Конечно же, есть и хорошие пользователи. Например,  /u/Shitty_watercolour рисует сцены, появляющиеся в комментариях, и постит их. Или /u/Poem_for_your_sprog, который приходит без предупреждения и отвечает на посты стихами.

Фото: Unsplash

Reddit – очень сложная вещь. Кто-то его критикует, кто-то наоборот не может представить без него своей жизни. В нем есть много проблем. Но есть в нем и хорошие стороны, которые я собираюсь защищать.

Иногда это означает борьбу с зомби. На платформе есть множество неиспользуемых аккаунтов: призрачные следы миллионов людей, которые решили попробовать сайт, а затем перестали на него заходить. Модераторам же нужно обращать внимание на то, если эти старые забытые аккаунты внезапно обретают жизнь – поскольку они могут быть опасными.

Однажды я наткнулся на пост пользователя /u/Magnolia­Quezada. Над фотографией с двумя собаками – хаски и лабрадором – обнимающимися через забор, была фраза «Я очень по тебе скучаю». Поначалу казалось, что автор – обычный пользователь Reddit. Аккаунт был создан одиннадцать месяцев назад – довольно уважительный срок. Поэтому страница /u/MagnoliaQuezada смогла обойти наши спам-фильтры. Но если присмотреться, с нее долгое время не выкладывалось ничего.

Я заметил, что история /u/MagnoliaQuezada была пустой. Я также увидел, что фотография с обнимающимися собаками была очень плохого качества. Это потому, что ее качали и загружали много раз. Качество фотографии портится, если их сжимают веб-сайты. Изображение украли.

Я проверил комментарии под постом. Под ним была только одна запись – как ни странно, от /u/MagnoliaQuezada:

;;’}{{{}}}}}{}{}{}{}{}{}{}{}{}{}{}{}{}{}{}{}”}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}?}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[,,,,,,,,,,,

Возможно, она появилась из-за неисправности бота, или кто-то просто напечатал что угодно, чтобы проверить, фильтруются ли автоматически комментарии ботами-модераторами. Теперь я знал, что имею дело с мошенником.

От рассвета до заката мошенники – будь то боты, тролли или пропагандисты – рыщут по интернету в поиске вирусных мемов или картинок: их интересуют вкусная еда, видео падающих вещей или щенки – особенно щенки. Выложив фотографию с щенком, они надеятся, что вы поставите ей лайк, поделитесь ей с другими и придадите зомби-аккаунту надежность и доверие. Действительно, сложно обвинить кого-то в том, что он иностранный агент, из-за фотографии с маленьким лабрадором.

Фото: Wired

Если пост наберет популярность, он поднимет в рейтинге пользователя или бота, скрывающегося за /u/MagnoliaQuezada. После этого MagnoliaQuezada будет проще делиться менее привлекательными вещами, такими как ссылки на разные веб-сайты. Труп станет спамером.

Но этого не произошло, потому что сразу же после воскрешения /u/MagnoliaQuezada не повезло наткнуться на меня. Я забанил ее/его. Для 19 миллионов подписчиков /r/aww этот юзер никогда не существовал. Недостаточно просто попросить зомби играть по правилам. Это зомби. Его нужно убить.

Ряды неиспользуемых аккаунтов пополняются ежедневно. Конечно, некоторые из них возвращают к жизни сами владельцы – или же их покупают на «черном рынке» на сайтах вроде playerup.com или epicnpc.com. Четырехлетний аккаунт с несколькими тысячами очков может обойтись вам в сотни долларов. Вы можете даже найти на YouTube видео, где вам расскажут, с чего начать.

Я не знаю, кем или чем был/была/было /u/MagnoliaQuezada, но я могу предположить, что это «аккаунт-фермер» – человек, пытающийся раскрутить страницу перед продажей. Когда я вернулся на страницу спустя некоторое время, я заметил, что посты, которые я заблокировал, удалил сам хозяин – так сказать, избавился от улик, чтобы начать все сначала позже, только на другом сабреддите.

Я блокирую или помечаю как спам десятки таких аккаунтов в месяц, и я далеко не самый активный модератор. Но мы не можем следить за сайтом постоянно – иногда нам нужно спать. Поэтому наверняка зомби находят способ пробраться на платформу. Наши ресурсы ограничены – на сабреддите /r/aww работают около 20 модераторов и три бота. Мы вкладываем в это все наше время, но зомби все равно удается проскользнуть. Один из моих коллег – назовем его Эллиот – хотел добиться большего.

В прошлом марте Эллиот прочитал статью The Guardian о двух бывших сотрудниках «фабрики троллей» в Санкт-Петербурге – теперь известной как Агентство интернет-исследований. Его заинтриговали описания стратегий троллей. Они комментировали и лайкали посты друг друга, чтобы имитировать реалистичную популярность.

Это было умно. Но Эллиот, модератор с четырехлетним стажем, так не считал. Его внимание в статье зацепила одна деталь из двенадцатого абзаца: «Тролли работают в командах из трех человек. Первый оставляет жалобу о проблеме или просто публикует ссылку, а затем в игру вмешиваются остальные два». Эллиоту показалось, что это можно проследить.

Он начал работать над скриптом, который искал бы группы пользователей, фолловивших друг друга на сайте и часто взаимодействующих друг с другом. Чтобы найти их, его скрипт просматривал все посты на любой странице, составлял список людей, которые часто отвечали друг другу, а затем разбивал список на три таблицы. Он даже не ожидал, что программа сработает. Однако таблица Эллиота быстро пополнилась сотнями имен.

Аккаунты действительно часто взаимодействовали у себя в комментариях, но эти люди могли быть просто друзьями. Поэтому Эллиот начал сканировать вручную свои результаты и искать более очевидные признаки. Он искал все, что связано с Россией: дискуссии на тему войны в Сирии, Дональда Трампа, Хиллари Клинтон, Пиццагейта, Бенгази. Несколько часов он работал над своим списком. В итоге он нашел 46 аккаунтов, поведение которых было описано в статье The Guardian.

Фото: Seraamedia

Эллиот был очень важным сотрудником для Reddit. Я хвастаюсь числом своих подписчиков, но его успехи затмевают мои. Он модерирует сабреддиты со 100 миллионами фолловеров, и такая популярность дает определенные преимущества – важные люди его слышат. Эллиот отправил генеральному директору Стиву Хаффману письмо со своим коротким списком и комментарием: «Кажется, я что-то здесь нашел».

Хаффман отправил список Эллиота другим сотрудникам. Я немного завидую волнению, которое он испытывал в тот момент. Мы сортируем тысячи постов, нас оскорбляют – и все это ради такого момента.

На следующий день Эллиоту ответили.

Другими словами, согласно руководству, Эллиот не нашел русских спамеров или ботов. Но он не опустил руки. Он продолжил искать. В этот раз он использовал другой метод и следил за одним сабреддитом: /r/The_Donald. Он не скрывал, почему решил искать ботов именно на этой странице: он подозревал, что если где-то и наблюдалась активность русских троллей, то именно там.

В этот раз Эллиот использовал свой код для отслеживания пользователей, которые делились подозрительными ссылками на сайте, а не просто искал закономерности взаимодействий. Очень быстро он нашел такой домен: geotus.army, которым делились только на /r/The_Donald. Нажав на него, вас переводят на usareally.com – известный российский пропагандистский сайт. Эллиот проверил историю пользователей, которые делились подозрительными ссылками. Как оказалось, они были совершенно неактивными: как зомби.

Эллиот был очень крут, но он не мог ничего сделать на не контролируемых им сабреддитах. Он хотел, чтобы эти аккаунты забанили на всем сайте, поэтому он поделился новой информацией с руководством, и они сказали, что изучат вопрос.

Ему не отвечали несколько дней. В этот раз он был уверен, что нашел что-то. Поскольку ему показалось, что компания не собирается ничего предпринимать, он написал у себя в социальных сетях пост, прикрепив ссылки на все известные ему аккаунты. Он нажал «опубликовать» прямо перед тем, как отправиться в спортзал – утром 20 сентября, 2018 года.

Спустя двадцать минут, приехав в спортзал, он решил проверить свой телефон. Его ждали 127 новых сообщений. В течение нескольких дней о его открытиях написали Newsweek, NBC взяло у него интервью, Reddit заблокировал домены, которые он нашел, а также аккаунты, которые ими делились. Ему действительно удалось обнаружить ботов и троллей. И я все еще немного завидую ему и чертовски им горжусь. Это сделал волонтер.

Истории вроде этой повторяются очень редко, но это не значит, что ничего подобного не происходит. Сам Эллиот рассказывал о нескольких других модераторах, которые обнаружили на сайте иранскую пропаганду.

Фото: Unsplash

Почему-то многие думают, что пользователи Reddit, геймеры и другие интернет-обитатели – это люди, которые живут в подвалах, изгои общества. Я читаю лекции в университете. Мой близкий друг-модератор занимает управленческую должность в большой ресторанной сети. Он также один из самых умных людей, которых я встречал.

Мы общаемся друг с другом часами. Среди нас есть программисты из крупных компаний, аспиранты, сотрудники правительства Великобритании, родители, студенты, железнодорожники, официанты, писатели, клерки и повара. Двое моих знакомых влюбились друг в друга. Моя девушка и ее отец сейчас играют в видеоигры. Часто кажется, что мы читаем цифровое пространство лучше, чем большинство людей читают физическое. Как вы думаете мы убеждаем реддиторов позволить нам управлять гигантскими форумами?

Некоторые ведущие модераторы рассматривают более 10 тысяч постов в месяц и извиняются, если им нужно сделать перерыв, чтобы выполнить свою повседневную работу. Мы учимся друг у друга; мы делаем все вместе.

На Reddit всем волонтерам предоставляют свободу поступать так, как они захотят. Мы это ценим. Я это ценю. Но я не поэтому провожу 20 часов в неделю, ругаясь с людьми в интернете и блокируя троллей. Я делаю это потому, что мне нравится вычислять и уничтожать зомби, и делать это бок о бок с людьми, которым я доверяю. Очень приятно чувствовать себя нужным. Мы не владеем сайтом, но некоторые его части принадлежат нам.

Среди 127 сообщений, которые получил Эллиот, были письма от его сторонников с благодарностью. Но также там были сообщения от троллей со смертельными угрозами. Кроме того, его отчитало руководство сайта. «Ты сильно усложнил нам работу», – написал генеральный директор Хаффман, критикуя его решение опубликовать пост и помешать таким образом персоналу расследовать проблему.

И хотя мы очень любим наше волонтерство, модераторы Reddit уходят, когда оно становится работой и перестает приносить удовольствие. Такой момент настал для Эллиота. В ту ночь он удалил все свои аккаунты и передал свою работу другому модератору. Он также удалил пост о своих находках. Перед уходом он написал комментарий:

Я бы охарактеризовал это немного по-другому. Дело не в том, что сотрудники Reddit плохо работают или не стараются. Дело в том, что волонтерство в интернете, построенное вокруг сообщества энтузиастов, обладает огромной силой. Эллиот хорошо делал свою работу. Некоторые технологические гиганты платят за это и с каждым годом расширяют команды модераторов. На Reddit же наш коллектив очень дружен и виртуально анонимен.

Я думаю о клише: «Вы не можете платить мне за эту работу». Эта фраза очень подходит для 20 часов в неделю. Вы не можете платить мне за то, что я работаю модератором на reddit.com. Представьте такую работу: с девяти утра до пяти вечера каждый день сидеть перед монитором, выискивая троллей, и с каждым часом становиться более уязвимым после каждого забаненного расиста или сексиста. Нет, я настаиваю на том, чтобы делать эту работу бесплатно.

Источник.

«Некоторые вещи просто нельзя забыть»: почему работа контент-модераторов это ад

Количество модераторов Facebook превышает размер всего штата Twitter

Опубликованы «секретные» внутренние правила цензуры в Facebook

Facebook позволит оспаривать удаление постов модераторами