Алексей Зеньков

Google разрабатывает алгоритм для борьбы с пропагандой ИГИЛ

Google удалось построить бизнес в пол-триллиона долларов благодаря умению понять, чего хотят люди, на основании нескольких слов, введенных в поле поиска. В процессе компании удалось случайно наткнуться на мощный механизм, позволяющий проникнуть в умы одних из самых опасных и не поддающихся логике обитателей интернета – рекрутов ИГИЛ (террористическая организация запрещена в России). Теперь одна из дочерних компаний Google пытается не только распознать радикальные джихадистские настроения, но и влиять на них.

В течение последних лет Jigsaw – принадлежащий Google технический инкубатор и исследовательский центр, ранее известный под названием Google Ideas – разрабатывает программу, которая теоретически с помощью алгоритмов поисковой рекламы Google и видеоплатформы YouTube сможет находить возможных рекрутов ИГИЛ и в конце концов разубеждать их присоединяться к групповому культу всеуничтожающего насилия. Программа, которую в Jigsaw называют «Метод переадресации» и планируют перевести в следующую фазу в этом месяце, добавляет рекламу к поисковой выдаче по запросам ключевых слов и фраз, которые часто используют люди, сочувствующие ИГИЛ. Эти рекламные ссылки связаны с каналами на YouTube на арабском и английском языках с видеороликами, которые, по мнению Jigsaw, способны эффективно избавлять от влияния традиционных методов агитации ИГИЛ – признания бывших экстремистов, выступления имамов, осуждающих вред, наносимый ИГИЛ исламу, и скрытые съемки территорий фиктивного халифата на севере Сирии и в Ираке.

Ясмин Грин, директор Jigsaw по исследованиям и разработкам, а также руководитель кампании поисковой рекламы против ИГИЛ. Фото: Jigsaw

«Идея родилась из наблюдения, что в сети существует большое количество агитационных материалов ИГИЛ, но также и множество авторитетных людей, разоблачающих эти материалы, — говорит Ясмин Грин, директор Jigsaw по исследованиям и разработкам. — Метод переадресации – это по сути своей таргетированная рекламная кампания: берем тех, кто подвержен влиянию пропаганды ИГИЛ и вместо нее дадим им информацию, которая ее опровергнет».

Результаты пилотного проекта, запущенного Jigsaw ранее в этом году, оказались впечатляющими: за два месяца к просмотру каналов на YouTube с разоблачающими ИГИЛ материалами удалось привлечь более 300 тысяч человек. Пользователи нажимали на ссылки Jigsaw в три-четыре раза чаще, чем в случае традиционной рекламной кампании. Люди, которые переходили по этим ссылкам, проводили за просмотром в два раза больше времени, чем показывают самые точные оценки времени просмотра роликов на YouTube в целом. В этом месяце Jigsaw совместно с лондонским стартапом Moonshot Countering Violent Extremism и американским Gen Next Foundation планируют запустить вторую фазу программы, в ходе которой метод будет использован по отношению к экстремистам из Северной Америки, среди которых будут потенциальные добровольцы ИГИЛ и радикально настроенные расисты.

Вакцина от экстремистской заразы

В то время как технологические компании пытались найти меры по борьбе с экстремистским контентом, цифровая машина пропаганды ИГИЛ задавала новый стандарт агрессивного рекрутинга в сети. Twitter заблокировала сотни тысяч аккаунтов только лишь для того, чтобы снова увидеть их появление – хотя многие перешли в Telegram, где шире возможности по обеспечению конфиденциальности – а другие сервисы, такие как YouTube и Facebook, вступили в бесконечную войну по удалению контента, чтобы держать видеоролики с отрубанием голов и жертвоприношениями вне сети. Но все попытки защитить молодых враждебно настроенных мусульман от соблазнительной пропаганды группировки и предоставить им контент, способный противодействовать этой песне сирен, в основном ограничивались лишь государственными усилиями. Плодами этих усилий была кампания Госдепартамента США под названием Think Again, Turn Away и невнятный посыл мультсериала под названием Average Mohammed.

Скриншот из сериала Average Mohammed

Эти кампании способны подействовать лишь на тех, кто относительно слабо проникся материалами ИГИЛ, считает Грин, которая разговаривала с заключенными рекрутами группировки в Великобритании и с дезертирами в иракской тюрьме. «Кроме них есть те, кто сочувствует группировке, разделяет ее идеологию, может даже уже стал частью халифата, — говорит Грин — они и входят в сферу интересов Jigsaw».

Чтобы работать с людьми, уже попавшими под влияние ИГИЛ, в Jigsaw выбрали более косвенный подход. Вместо создания материалов против ИГИЛ, команда управляет контентом на YouTube. «Мы задумались: "А что если нужный контент уже существует?", — рассказывает Грин. — Мы понимали, что если изначально эти материалы не были созданы для интересующих нас целей, он будет выглядеть более естественным, и, значит, более эффективным».

Проверка теории

Jigsaw и ливанская компания Quantum Communications в ходе пилотного проекта Moonshot CVE собрали два плейлиста с роликами на арабском и английском языках разного содержания, от записей умеренных мусульманских духовных деятелей, рассказывающих о лицемерии ИГИЛ, до съемок длинных очередей за питанием в столице ИГИЛ, сирийском городе Ракка.

Еще на одном видео из подборки Jigsaw пожилая женщина критикует членов ИГИЛ и обращается к ним с цитатами из Корана:

Jigsaw отобрали более 1700 ключевых слов для активации рекламы, ведущей к подборкам видеороликов против ИГИЛ. Грин и ее команда сосредоточились на терминах, которые могли искать наиболее преданные сторонники ИГИЛ: названия ключевых пунктов на пути в территории, подконтрольные ИГИЛ, фразы вроде «фетва [призыв] на джихад в Сирии», а также имена лидеров экстремистов, ответственных за сбор рекрутов. Текст, используемый в рекламных сообщениях, претерпел небольшие изменения. Вместо явно настроенных против группировки фраз используются «Законна ли власть ИГИЛ?» или «Желаете присоединиться к ИГИЛ?».

Оценить действительный эффект кампании в переубеждении рекрутов ИГИЛ не так просто. Но Jigsaw и партнеры поняли, что по крайней мере привлекают внимание пользователей. Процент кликов по некоторым из рекламных сообщений превышал 9% в сравнении со средними для обычных рекламных кампаний Google показателями в 2-3%. Также оказалось, что сотни тысяч пользователей провели за просмотром собранных видео около 500 тысяч минут, причем самые эффективные ролики достигали средней продолжительности просмотра в 8 минут 20 секунд.

Будет ли это работать?

Программа Jigsaw отнюдь не является полноценным решением проблемы пропаганды ИГИЛ в сети, считает Хумера Хан, исполнительный директор группы по дерадикализации ислама «Муфлехан». Она отмечает, что Google и Facebook в прошлом обучали антиэкстремистские гуманитарные организации, как использовать рекламу по ключевым словам, хотя, возможно, без такого углубления в таргетинг, управление и продвижение видеороликов, которым занимаются в Jigsaw. Хан утверждает, что привлечь сторонников ИГИЛ к подборке видео – это всего лишь первый шаг. «Если они могут привлечь людей, способны ли они добавлять новый релевантный контент, чтобы эти люди возвращались снова и снова? Это очень важно», — добавляет она. В любом случае, успех любых мер по дерадикализации невозможен без человеческого вмешательства, а также общества, способного поддержать человека в решении отказаться от экстремизма. «Мне это кажется отличным элементом комплексного решения. Но в одиночку оно не сработает».

С точки зрения национальной безопасности, работа Jigsaw поднимает еще один очевидный вопрос: почему бы не устроить слежку за потенциальными рекрутами ИГИЛ или не арестовать их? Все-таки пресечение деятельности сторонников ИГИЛ могло бы спасти не только их самих, но и будущих жертв их жестоких террористических атак, которые поощряются группировкой. На этот вопрос Грин осторожно отвечает: «Социальные платформы, в том числе YouTube, обязаны отвечать на законные требования властей, и сейчас работа над этим ведется». Что это значит? Скорее всего, Google уже помогает поймать некоторых из этих людей. В конце концов, за вторую половину прошлого года компания предоставила нужные государству сведения в 64% из более чем 40 тысяч запросов.

Однако Грин подчеркивает, что метод переадресации только приводит сторонников ИГИЛ к подборкам видео и не отслеживает их местоположение. Он разработан не столько для арестов и слежки, сколько для образования. «Люди принимают решения, руководствуясь некачественной неполной информацией, — говорит Грин. — Мы можем работать над решением проблемы иностранных боевиков, присоединяющихся к Исламскому государству, предоставляя людям более качественную информацию». Грин рассуждает о работе кампании как о продолжении ключевой миссии Google «сделать всю информацию о мире доступной и полезной». Возможно, одну из самых опасных мировых проблем – неведение и внушение вредоносных идей – можно частично решить с помощью того, что Google делает лучше, чем кто бы то ни было: помогает людям найти то, что они должны увидеть.

Источник.


Материалы по теме:

Израильский стартап продавал ПО для слежки за пользователями iPhone

Twitter удалил более 235 тысяч аккаунтов за пропаганду терроризма

Как теракты в Париже повлияют на частную жизнь

Facebook и Twitter зарабатывают на том, что создают культуру доносительства


comments powered by Disqus

Подпишитесь на рассылку RUSBASE

Мы будем вам писать только тогда, когда это действительно очень важно