Facebook и Twitter зарабатывают на том, что создают культуру доносительства

Из стукачей в богачи

Уже много написано о том, что пользователи соцсетей для таких компаний, как Facebook или Twitter, не более, чем товар, которым они торгуют. Никто не берет с вас деньги за использование этих сайтов, потому что они зарабатывают на данных пользователей – такую практику профессор Шошанна Зубофф из Гарвардской школы бизнеса называет «капитализмом наблюдения». Она пишет:

Учитывая, что данные о нас представляют ценность для компаний, они с финансовой точки зрения заинтересованы в том, чтобы следить за чистотой контента на своей платформе.

AP Photo/Jeff Chiu

Для того чтобы контроль качества контента на той или иной платформе обходился сравнительно недорого, эти компании передают часть обязанностей по модерации на аутсорсинг, а в остальном полагаются на пользователей. В статье, опубликованной в 2014 году в журнале New Media & Society, исследователи Кейт Кроуфорд и Тарлтон Гиллспи написали, что многие компании осознали вклад пользователей как необходимое условие «поддержания приятного для нахождения пользователей пространства и обучения на основе их сообщества». Жалобы – это механизм, позволяющий привлечь пользователей к работе и распределить их труд, то есть пользователи служат своего рода добровольными контролирующими органами».

Однако, по мнению ученых, жалобы «ни в коем случае не являются прямым и явным представлением настроения сообщества». Иными словами, передача пользователям полномочий по модерации контента приводит к неравному, несправедливому результату на выходе. «Самоконтроль сообщества» должен происходить на условиях взаимного доверия. Но все пользователи – это люди, которые используют собственные наклонности и представления о нормах сообщества в процессе принятия решений.

Преднамеренное доносительство

Если пользователь Facebook видит контент, который он по какой-то причине считает нежелательным, он может нажать на кнопку «Пожаловаться на публикацию» в выпадающем меню, чтобы сообщить об этом компании. Интерфейс подачи жалобы для большинства типов контента предложит пользователю выбор из следующих вариантов: «Это неприятно или неинтересно», «Я считаю, что этому не место на Facebook и «Это спам». При выборе второго варианта пользователь должен будет уточнить и выбрать из еще нескольких опций – от «Это материалы откровенно сексуального характера» до «Здесь описывается торговля наркотиками» — все из которых происходят из корпоративных стандартов компании.

Наличие первого варианта – «Это неприятно или неинтересно» – показывает, что пользователи будут злоупотреблять функцией подачи жалоб. Они могут заблокировать раздражающего пользователя или отправить ему сообщение, поясняющее, почему с его стороны было неправильно, скажем, публиковать оскорбительный комментарий по поводу внешнего вида. В теории этот механизм должен был заставить людей еще раз подумать, стоит ли отправлять некорректные жалобы о других пользователях. Но на практике они научились обходить этот барьер.

Кроуфорд и Гиллспи обнаружили, что часто пользователи стараются подстроить свои заявления под «общеупотребительный словарь жалоб».

Механизмы подачи жалоб

В 2014 года автор статьи на Verge в заголовке назвал кнопку «Пожаловаться на публикацию» в Facebook «инструментом мировой тирании». Профили нескольких вьетнамских активистов в соцсети были заблокированы после массовых жалоб на нарушение стандартов сообщества. Verge назвали это явление «Facebook-рейды» — «массовое и единовременное нажатие на кнопку «Пожаловаться на публикацию» большой группой людей».

Хотя администрации социальных сетей обычно отрицают, что количество жалоб влияет на то, будет запись удалена или нет, многие люди уверены, что количество все-таки имеет значение.

Влияет количество жалоб на результат или нет, достаточно легко пожаловаться на другого пользователя. При подаче жалобы на нарушение правил Facebook по указанию настоящего имени или минимального возраста пользователя его, скорее всего, попросят загрузить удостоверение личности государственного образца или другой документ. Однако многие люди, на которых вполне вероятно могут пожаловаться (например, политические активисты в странах с авторитарным режимом), стараются не хранить копии паспорта на незащищенном мобильном телефоне, поэтому они оказываются отрезанными от платформы.

Также существует бесчисленное множество веб-сайтов и страниц в Facebook, посвященных подаче групповых жалоб для решения того или иного вопроса. Большинство из этих краудсорсинговых сайтов относятся к какой-то определенной теме. Некоторые посвящены антисемисткому или антиисламскому контенту, другие связаны с сайтами террористических организаций или наркокартелей. Большая часть такого контента нарушает правила сообщества Facebook. Другие подобные сайты вполне очевидно нацелены на борьбу с конкретными личностями: учеными, журналистами, другими публичными фигурами и очень часто женщинами. Иногда на этих сайтах целенаправленно призывают подавать ложные жалобы, что явно указывает на то, что люди знают, как устроена система.

Таким образом, то, что люди могут использовать зависимость Facebook от действий сообщества, чтобы контролировать активность других пользователей, вызывает реальные опасения. В качестве альтернативы часто предлагают внедрить систему модерации контента с помощью алгоритмов. Алгоритмы уже способны определять то, что видят пользователи, и различать разные виды запрещенного контента. Но пока что они неспособны определять интонацию и настроение в более сложном текстовом контексте. Поэтому похоже, что пользовательская цензура останется главным способом мониторинга социальных платформ для компаний.

Между тем, компании могут снизить негативные особенности пользовательской цензуры, изменив свои правила модерации контента в угоду духу свободы выражения. К примеру, можно было бы проявить больше снисхождения по отношению к несексуальной обнаженной натуре и анонимности, сохранив при этом возможность пожаловаться на жестокий или провокационный контент.

Но гораздо важнее то, чтобы все мы серьезно задумались, сколько пользы и вреда приносит нам пользовательская цензура – а заодно и передача такого большого количества личных данных компаниям. Социальные сети способны объединять людей, но в то же время им ничего не стоит направить нас друг против друга.

Источник.

Материалы по теме:

Путин поручил госорганам перейти на отечественные системы шифрования

Как посмотреть, что о вас знает Google

Данные о 100 млн пользователей ВКонтакте продаются на черном рынке

Исследование: мужчины меньше заботятся о конфиденциальности в интернете, чем женщины