Глава отдела глобальной политики Facebook Моника Бикерт рассказала о том, как работает команда модераторов этой социальной сети.
В Facebook работает 7500 модераторов по всему миру. В мае 2017 года, когда в компании было всего 4500 модераторов, Марк Цукерберг поставил перед Facebook цель увеличить их число — и за последние восемь месяцев количество нанятых модераторов превысило размер всего штата Twitter или Snapchat.
В модераторы берут не только обитателей Кремниевой долины
В первую очередь Facebook ищет носителей разных языков, а потом знакомит их с внутренней политикой компании, и те набираются опыта. Работа команды модераторов построена таким образом, чтобы модерация происходила 24/7 во всех уголках мира. Для этого компания может, например, нанять человека, который говорит на бирманском языке и живет в Дублине.
Политика Facebook в отношении модерации контента
Разработкой политики Facebook занимается 60 специалистов. Ее текст вы не найдете в Положении о правах и обязанностях или Нормах сообщества: она представляет собой особый набор правил для модераторов, который пересматривается каждые две недели командой Бикерт.
В правилах много тонкостей — например, в Facebook запрещено публиковать изображения обнаженных людей, однако этот запрет не распространяется на исторические фотографии Холокоста.
«Еженедельно мы обновляем правила. Иногда изменения бывают небольшими. Например, если какое-нибудь слово в корейском языке перестало считаться оскорбительным, и люди пытаются его использовать, нам нужно пересмотреть его оценку [в социальной сети]», — рассказала Бикерт.
Правила стараются составлять максимально детально, чтобы модераторы не могли найти в них двусмысленность. Но в таком подходе есть и свои недостатки. «Иногда бывают случаи, когда контент технически не нарушает правил, но при личном рассмотрении становится очевидно, что он оскорбителен», — сказала Бикерт.
Десятки часов видео, просмотренных вручную
Сейчас Facebook использует серьезные методы для модерации контента, но так было не всегда. Когда запустилась функция Facebook Live, инструмент для модерации не мог отмечать моменты, на которые пожаловались пользователи. Поэтому, чтобы найти отрывок, нарушающий политику социальной сети, модератором приходилось проматывать многочасовую запись трансляции целиком.
Модерацией пока занимаются люди, а не искусственный интеллект
«Нас часто спрашивают: “Когда же нас спасает искусственный интеллект?” До этого еще далеко», — утверждает Бикерт.
Текущие проверенные технологии машинного обучения все-таки недостаточно хорошо умеют учитывать контекст, в котором была размещена та или иная публикация.
«В некоторых областях технические средства действительно нам помогают, — рассказала Бикерт. — Но в основном, случаи оскорблений, ненависти или унижений рассматриваются живыми людьми, которые пытаются разобраться что происходит в реальной жизни и как эти события проявляются в сети».
Материалы по теме:
В 2018 году Марк Цукерберг поставил сложную цель: исправить Facebook
Facebook предложит пользователям голосовать за надежность новостей
Нашли опечатку? Выделите текст и нажмите Ctrl + Enter
Материалы по теме
- 1 Google остановил показы рекламы в России, Facebook заблокирован: что это значит для рекламного рынка
- 2 Слив в соцсетях: как избежать «вирусного» распространения нежелательного контента
- 3 Не заигрывайте с лайфстайлом: Как привлечь первого клиента через социальные сети
- 4 Запускать таргет в Instagram через личный кабинет в Facebook или внутри соцсети — какой вариант эффективнее?
- 5 Как увеличить выручку с помощью таргета в FB и Instagram? Кейс стоматологии
ВОЗМОЖНОСТИ
05 мая 2024
10 мая 2024