Как искусственный интеллект помогает Facebook бороться с терроризмом

После того как некоторые мировые лидеры потребовали Facebook остановить распространение экстремистских материалов на своей платформе, компания сообщила о том, что собирается использовать для этого технологии искусственного интеллекта.

Facebook использует собственную систему распознавания изображений и текста для поиска нежелательного контента в своей социальной сети, которой ежемесячно пользуется 1,94 миллиарда человек.

Если система обнаруживает, что пользователь пытается загрузить в соцсеть контент, ранее отмеченный как «нежелательный», она автоматически блокирует загрузку.

Что касается распознавания текста террористического характера, то представители Facebook утверждают, что «недавно начали экспериментировать в этой области». Пока что система анализирует лишь удаленные ранее тексты, чтобы определить определенные «сигналы», по которым можно найти похожий нежелательный контент и предотвратить его публикацию в будущем.

Изображение: BuzzNigeria

Facebook использует алгоритмы «прочесывания», с помощью которых ИИ находит и удаляет «террористические сегменты». Эти алгоритмы анализируют связь между пользователями Facebook и страницами/группами, которые отмечены, как потенциально опасные.

Компания также пытается бороться с фейковыми аккаунтами, которые создают террористы. «Мы постоянно находим новые способы, которыми террористы пытаются обойти наши системы, и постоянно дорабатываем собственные методы», — заявили представители Facebook.

Кроме того, Facebook работает над созданием систем, которые позволят компании принимать антитеррористические меры на всех ее платформах, включая Facebook Messenger, WhatsApp и Instagram.

Для борьбы с терроризмом мало одного ИИ

Проблему терроризма нельзя решить с помощью одного только искусственного интеллекта. Именно поэтому Facebook наняла 4500 модераторов, которые помогают обнаруживать в соцсети нежелательный контент. К концу года компания планирует увеличить штат этого отдела до 7500 человек. Таким образом, количество сотрудников Facebook существенно возрастет — по состоянию на 31 марта этого года в компании уже работает 18700 человек. Правда, всего поиском связанного с терроризмом контента занимается только 150 сотрудников текущей команды.

«Не всегда понятно, выражает ли тот или иной контент поддержку терроризма или нет, а наши алгоритмы пока работают не так хорошо, как люди, — заявила компания. — Например, фотография вооруженного человека с флагом ИГИЛ (запрещенная в России организация) может быть опубликована в пропагандистских целях, а может быть просто иллюстрацией к новости».

Основатель Facebook Марк Цукерберг. Фото: Justin Sullivan/Getty Images

В пятницу издание The Guardian сообщило, что более тысячи модераторов Facebook оказались в опасности после того как в системе произошел баг, и пользователи, подозреваемые в терроризме, получили доступ к их персональным данным.

Из-за ссылки на личные страницы модераторов появились в истории активности некоторых групп Facebook, чьи администраторы были забанены соцсети из-за нарушения пользовательского соглашения.

Правительство давит на технологические компании

Из-за участившихся в последнее время терактов Facebook и прочие платформы привлекли к себе пристальное внимание правительств. Премьер-министр Великобритании Тереза Мэй и премьер-министр Франции Эммануэль Макрон в начале недели запустили совместную кампанию по созданию новых законов, по которым технологические компании будут обязаны удалять определенный контент, если не хотят понести наказание.

Премьер-министр Великобритании Тереза Мэй. Фото: Alamy

Активисты беспокоятся, что в итоге правительство уничтожит свободу слова и самовыражения. Джим Киллок, исполнительный директор британской некоммерческой организации Open Rights Group, заявил следующее: «Тереза Мэй может загнать опасные группировки в самые темные уголки сети, где их будет еще труднее найти. Нужно быть внимательнее и понимать, что интернет и такие компании, как Facebook, не являются причиной ненависти и насилия, они просто инструменты, которыми пользуются злоумышленники.

Правительство и компании должны принимать необходимые меры, чтобы их остановить, но введение контроля, которое предлагает Тереза Мэй, не сможет легко решить эту проблему».

Правительство Германии также поддержало инициативу Мэй и рассматривает законопроект, согласно которому технологические компании должны удалять экстремистский контент и фейковые новости — в противном случае им придется выплатить штраф до €50 миллионов.

Источник.

Материалы по теме:

Прямая трансляция убийства заставила Facebook быстрее реагировать на записи с насилием

Facebook будет бороться с политической пропагандой в соцсети

Опубликованы «секретные» внутренние правила цензуры в Facebook

Facebook раскритиковала законопроект против ненависти в интернете