Как искусственный интеллект помогает Facebook бороться с терроризмом

Расскажите друзьям
Вероника Елкина
Вероника Елкина

Компания Facebook объяснила, как ее искусственный интеллект распознает изображения, видеоролики и тексты террористического характера и определяет фейковые аккаунты, которые могут принадлежать экстремистам.

После того как некоторые мировые лидеры потребовали Facebook остановить распространение экстремистских материалов на своей платформе, компания сообщила о том, что собирается использовать для этого технологии искусственного интеллекта.

«Мы хотим мгновенно находить террористический контент еще до того, как его увидят пользователи, — гласило официальное заявление компании. — Мы уже работаем в этом направлении: большинство аккаунтов, удаленных из-за распространения подобного контента, нам удалось найти самостоятельно. Теперь же в этом деле нам помогут технологии и, в частности, искусственный интеллект».

Facebook использует собственную систему распознавания изображений и текста для поиска нежелательного контента в своей социальной сети, которой ежемесячно пользуется 1,94 миллиарда человек.

Если система обнаруживает, что пользователь пытается загрузить в соцсеть контент, ранее отмеченный как «нежелательный», она автоматически блокирует загрузку.

Что касается распознавания текста террористического характера, то представители Facebook утверждают, что «недавно начали экспериментировать в этой области». Пока что система анализирует лишь удаленные ранее тексты, чтобы определить определенные «сигналы», по которым можно найти похожий нежелательный контент и предотвратить его публикацию в будущем.

facebook

Изображение: BuzzNigeria

Facebook использует алгоритмы «прочесывания», с помощью которых ИИ находит и удаляет «террористические сегменты». Эти алгоритмы анализируют связь между пользователями Facebook и страницами/группами, которые отмечены, как потенциально опасные.

Компания также пытается бороться с фейковыми аккаунтами, которые создают террористы. «Мы постоянно находим новые способы, которыми террористы пытаются обойти наши системы, и постоянно дорабатываем собственные методы», — заявили представители Facebook.

Кроме того, Facebook работает над созданием систем, которые позволят компании принимать антитеррористические меры на всех ее платформах, включая Facebook Messenger, WhatsApp и Instagram.

Для борьбы с терроризмом мало одного ИИ

Проблему терроризма нельзя решить с помощью одного только искусственного интеллекта. Именно поэтому Facebook наняла 4500 модераторов, которые помогают обнаруживать в соцсети нежелательный контент. К концу года компания планирует увеличить штат этого отдела до 7500 человек. Таким образом, количество сотрудников Facebook существенно возрастет — по состоянию на 31 марта этого года в компании уже работает 18700 человек. Правда, всего поиском связанного с терроризмом контента занимается только 150 сотрудников текущей команды.

«Не всегда понятно, выражает ли тот или иной контент поддержку терроризма или нет, а наши алгоритмы пока работают не так хорошо, как люди, — заявила компания. — Например, фотография вооруженного человека с флагом ИГИЛ (запрещенная в России организация) может быть опубликована в пропагандистских целях, а может быть просто иллюстрацией к новости».

facebook

Основатель Facebook Марк Цукерберг. Фото: Justin Sullivan/Getty Images

В пятницу издание The Guardian сообщило, что более тысячи модераторов Facebook оказались в опасности после того как в системе произошел баг, и пользователи, подозреваемые в терроризме, получили доступ к их персональным данным.

Из-за ссылки на личные страницы модераторов появились в истории активности некоторых групп Facebook, чьи администраторы были забанены соцсети из-за нарушения пользовательского соглашения.

Правительство давит на технологические компании

Из-за участившихся в последнее время терактов Facebook и прочие платформы привлекли к себе пристальное внимание правительств. Премьер-министр Великобритании Тереза Мэй и премьер-министр Франции Эммануэль Макрон в начале недели запустили совместную кампанию по созданию новых законов, по которым технологические компании будут обязаны удалять определенный контент, если не хотят понести наказание.

«Мы не можем допустить свободного распространения этой идеологии, — сказала Мэй во время своего выступления. — Но интернет и компании, предоставляющие доступ к интернет-сервисам, дают для нее плодородную почву.

Нам следует объединиться с демократическими государствами для заключения международных соглашений, которые будут регулировать киберпространство, чтобы предотвратить распространение экстремизма и террористического планирования. Мы должны сделать все возможное, чтобы снизить угрозу экстремизма в сети».

may

Премьер-министр Великобритании Тереза Мэй. Фото: Alamy

Активисты беспокоятся, что в итоге правительство уничтожит свободу слова и самовыражения. Джим Киллок, исполнительный директор британской некоммерческой организации Open Rights Group, заявил следующее: «Тереза Мэй может загнать опасные группировки в самые темные уголки сети, где их будет еще труднее найти. Нужно быть внимательнее и понимать, что интернет и такие компании, как Facebook, не являются причиной ненависти и насилия, они просто инструменты, которыми пользуются злоумышленники.

Правительство и компании должны принимать необходимые меры, чтобы их остановить, но введение контроля, которое предлагает Тереза Мэй, не сможет легко решить эту проблему».

Правительство Германии также поддержало инициативу Мэй и рассматривает законопроект, согласно которому технологические компании должны удалять экстремистский контент и фейковые новости — в противном случае им придется выплатить штраф до €50 миллионов.

Источник.


Материалы по теме:

Прямая трансляция убийства заставила Facebook быстрее реагировать на записи с насилием

Facebook будет бороться с политической пропагандой в соцсети

Опубликованы «секретные» внутренние правила цензуры в Facebook

Facebook раскритиковала законопроект против ненависти в интернете



Комментарии

Комментарии могут оставлять только авторизованные пользователи.
Money2020
22 октября 2017
Ещё события


Telegram канал @rusbase