Истории

«Некоторые вещи просто нельзя забыть»: почему работа контент-модераторов это ад

Модераторы крупных корпораций работают в условиях секретности

13 ноября 2018, 15:15

«Некоторые вещи просто нельзя забыть»: почему работа контент-модераторов это ад

В документальном фильме «Чистильщики» (2018) рассказывается об изматывающей и психологически тяжелой работе модераторов контента.

«Моя мама всегда говорила мне, что если я не буду хорошо учиться, то буду работать мусорщицей. Целыми днями только и делать, что собирать мусор».

Когда молодая филиппинка устроилась на должность контент-модератора, то поняла, что ее работа не слишком отличается от мрачных перспектив, которые ей рисовала мать. Каждый день модераторы контента изучают, оценивают и удаляют медиаданные на Facebook, YouTube и Twitter. Попадается всякое — от видео с обезглавливанием до детской порнографии. Ежедневно приходится просматривать около 25 тысяч фотографий, а правила их оценки диктуются корпорациями и зачастую очень размыты.

Немецкие кинорежиссеры Мориц Ризевик и Ганс Блок потратили четыре года, чтобы узнать, как устроена работа контент-модераторов в Маниле. Именно здесь живет большинство модераторов контента, работающих на Кремниевую долину. Крупные корпорации нанимают модераторов у сторонних компаний, которые ищут людей за границей США для непосредственного выполнения работы.

«Эта очень скрытная индустрия, — утверждает Блок. — Когда кто-то исполняет заказ Facebook, про такого человека говорят, что он работает над проектом ”Медоед“. Всюду используются кодовые слова, чтобы никто не знал, на кого работают модераторы».

Съемки документального фильма начались в 2015 году — первые восемь месяцев режиссеры пытались отследить компании, занимающиеся модерацией контента, и найти сотрудников, которые готовы рассказать о своей работе на камеру.

«В этих компаниях пользуются услугами частных охранных агентств, чтобы никто из модераторов не общался с журналистами. Они сфотографировали нашу съемочную команду и показали снимки сотрудникам, сказав, что немедленно уволят того, кто с нами заговорит», — рассказал Блок.

«Пришлось думать, как же нам снять фильм. В офисах стояли рамки, как аэропорту, так что скрытую камеру было невозможно пронести, — вспоминает Ризевик. — Кроме того, мы не хотели навредить модераторам, да и качество съемки было бы плохим».

Кадр из фильма «Чистильщики».

В итоге режиссерам пришлось пойти на хитрость. 90% фильма было снято ночью, из-за чего Манила в кадре чем-то напоминала Готэм или город из «Бегущего по лезвию». По словам авторов документального фильма, такая съемка подчеркнула важную деталь работы модераторов: днем американцы публикуют больше всего контента в социальных сетях, поэтому чтобы все просмотреть модераторам приходится работать в ночную смену.

В фильме модераторов показывают работающими в темном и пустом офисном здании. «Нам случайно удалось найти заброшенное здание, где когда-то работала команда модераторов, а потом их компания переехала. Мы его арендовали и пригласили реальных модераторов, чтобы те могли рассказать обо всем без особого риска», — пояснил Ризевик.

В фильме показано, что во время работы модераторы должны нажать зеленую или красную кнопку, чтобы одобрить или удалить тот или иной контент. По словам режиссеров, они смогли создать точную имитацию реального интерфейса программы, в которой работают модераторы.

Кадр из фильма «Чистильщики».

В своей картине Ризевик и Блок не пытаются ответить на какие-либо важные вопросы или сделать вывод — они просто показывают с какими проблемами сталкиваются модераторы. Люди, занимающиеся такой работой, страдают от психологического давления и иногда просто не могут выкинуть из головы увиденное.

«Сначала это выглядело шуткой, — вспоминает один модератор. — Мы не думали, что все реально. Парень пытался повеситься в прямом эфире и его смотрело несколько тысяч. В чате были комментарии вроде: “Не надо, не совершай самоубийство!”. А кто-то, наоборот, подбадривал и говорил: “Давай! Сделай это!”. Мы не могли вмешаться, пока не стало бы совершенно ясно, что парень собирается покончить с собой, иначе у нас бы возникли проблемы. Когда он залез на стул с веревкой на шее, мы начали нервничать — неужели все всерьез? А потом он взял и повесился».

Хоть в фильме не показывают отрывки из этой трансляции, картина все равно позволяет почувствовать ужасные моменты, которые пережили модераторы.

Ни одна из крупных социальных сетей вроде Facebook, Google или Twitter не участвовала в съемках документальной картины.

«С самого начала мы приглашали эти компании, чтобы те могли открыто обсудить тему работы модераторов, — рассказал Блок. — Мы не собирались их очернять. Нам хотелось с ними открыто сотрудничать, но никто из них нам не ответил. Нас это очень расстроило. Facebook называет себя открытой компанией, но мы столкнулись с полной закрытостью. Словно Кремниевая долина укрыта завесой молчания».

Источник.

Материалы по теме:

Количество модераторов Facebook превышает размер всего штата Twitter

Instagram использует искусственный интеллект для модерации негативных комментариев

Опубликованы «секретные» внутренние правила цензуры в Facebook

«Вас раздавят, как букашку»: как в Кремниевой долине борются с утечками информации

Авторы