Алексей Зеньков

Google разрабатывает алгоритм для борьбы с пропагандой ИГИЛ

Google удалось построить бизнес в пол-триллиона долларов благодаря умению понять, чего хотят люди, на основании нескольких слов, введенных в поле поиска. В процессе компании удалось случайно наткнуться на мощный механизм, позволяющий проникнуть в умы одних из самых опасных и не поддающихся логике обитателей интернета – рекрутов ИГИЛ (террористическая организация запрещена в России). Теперь одна из дочерних компаний Google пытается не только распознать радикальные джихадистские настроения, но и влиять на них.

В течение последних лет Jigsaw – принадлежащий Google технический инкубатор и исследовательский центр, ранее известный под названием Google Ideas – разрабатывает программу, которая теоретически с помощью алгоритмов поисковой рекламы Google и видеоплатформы YouTube сможет находить возможных рекрутов ИГИЛ и в конце концов разубеждать их присоединяться к групповому культу всеуничтожающего насилия. Программа, которую в Jigsaw называют «Метод переадресации» и планируют перевести в следующую фазу в этом месяце, добавляет рекламу к поисковой выдаче по запросам ключевых слов и фраз, которые часто используют люди, сочувствующие ИГИЛ. Эти рекламные ссылки связаны с каналами на YouTube на арабском и английском языках с видеороликами, которые, по мнению Jigsaw, способны эффективно избавлять от влияния традиционных методов агитации ИГИЛ – признания бывших экстремистов, выступления имамов, осуждающих вред, наносимый ИГИЛ исламу, и скрытые съемки территорий фиктивного халифата на севере Сирии и в Ираке.

Ясмин Грин, директор Jigsaw по исследованиям и разработкам, а также руководитель кампании поисковой рекламы против ИГИЛ. Фото: Jigsaw

«Идея родилась из наблюдения, что в сети существует большое количество агитационных материалов ИГИЛ, но также и множество авторитетных людей, разоблачающих эти материалы, — говорит Ясмин Грин, директор Jigsaw по исследованиям и разработкам. — Метод переадресации – это по сути своей таргетированная рекламная кампания: берем тех, кто подвержен влиянию пропаганды ИГИЛ и вместо нее дадим им информацию, которая ее опровергнет».

Результаты пилотного проекта, запущенного Jigsaw ранее в этом году, оказались впечатляющими: за два месяца к просмотру каналов на YouTube с разоблачающими ИГИЛ материалами удалось привлечь более 300 тысяч человек. Пользователи нажимали на ссылки Jigsaw в три-четыре раза чаще, чем в случае традиционной рекламной кампании. Люди, которые переходили по этим ссылкам, проводили за просмотром в два раза больше времени, чем показывают самые точные оценки времени просмотра роликов на YouTube в целом. В этом месяце Jigsaw совместно с лондонским стартапом Moonshot Countering Violent Extremism и американским Gen Next Foundation планируют запустить вторую фазу программы, в ходе которой метод будет использован по отношению к экстремистам из Северной Америки, среди которых будут потенциальные добровольцы ИГИЛ и радикально настроенные расисты.

Вакцина от экстремистской заразы

В то время как технологические компании пытались найти меры по борьбе с экстремистским контентом, цифровая машина пропаганды ИГИЛ задавала новый стандарт агрессивного рекрутинга в сети. Twitter заблокировала сотни тысяч аккаунтов только лишь для того, чтобы снова увидеть их появление – хотя многие перешли в Telegram, где шире возможности по обеспечению конфиденциальности – а другие сервисы, такие как YouTube и Facebook, вступили в бесконечную войну по удалению контента, чтобы держать видеоролики с отрубанием голов и жертвоприношениями вне сети. Но все попытки защитить молодых враждебно настроенных мусульман от соблазнительной пропаганды группировки и предоставить им контент, способный противодействовать этой песне сирен, в основном ограничивались лишь государственными усилиями. Плодами этих усилий была кампания Госдепартамента США под названием Think Again, Turn Away и невнятный посыл мультсериала под названием Average Mohammed.

Скриншот из сериала Average Mohammed

Эти кампании способны подействовать лишь на тех, кто относительно слабо проникся материалами ИГИЛ, считает Грин, которая разговаривала с заключенными рекрутами группировки в Великобритании и с дезертирами в иракской тюрьме. «Кроме них есть те, кто сочувствует группировке, разделяет ее идеологию, может даже уже стал частью халифата, — говорит Грин — они и входят в сферу интересов Jigsaw».

Чтобы работать с людьми, уже попавшими под влияние ИГИЛ, в Jigsaw выбрали более косвенный подход. Вместо создания материалов против ИГИЛ, команда управляет контентом на YouTube. «Мы задумались: "А что если нужный контент уже существует?", — рассказывает Грин. — Мы понимали, что если изначально эти материалы не были созданы для интересующих нас целей, он будет выглядеть более естественным, и, значит, более эффективным».

Проверка теории

Jigsaw и ливанская компания Quantum Communications в ходе пилотного проекта Moonshot CVE собрали два плейлиста с роликами на арабском и английском языках разного содержания, от записей умеренных мусульманских духовных деятелей, рассказывающих о лицемерии ИГИЛ, до съемок длинных очередей за питанием в столице ИГИЛ, сирийском городе Ракка.

Еще на одном видео из подборки Jigsaw пожилая женщина критикует членов ИГИЛ и обращается к ним с цитатами из Корана:

Jigsaw отобрали более 1700 ключевых слов для активации рекламы, ведущей к подборкам видеороликов против ИГИЛ. Грин и ее команда сосредоточились на терминах, которые могли искать наиболее преданные сторонники ИГИЛ: названия ключевых пунктов на пути в территории, подконтрольные ИГИЛ, фразы вроде «фетва [призыв] на джихад в Сирии», а также имена лидеров экстремистов, ответственных за сбор рекрутов. Текст, используемый в рекламных сообщениях, претерпел небольшие изменения. Вместо явно настроенных против группировки фраз используются «Законна ли власть ИГИЛ?» или «Желаете присоединиться к ИГИЛ?».

Оценить действительный эффект кампании в переубеждении рекрутов ИГИЛ не так просто. Но Jigsaw и партнеры поняли, что по крайней мере привлекают внимание пользователей. Процент кликов по некоторым из рекламных сообщений превышал 9% в сравнении со средними для обычных рекламных кампаний Google показателями в 2-3%. Также оказалось, что сотни тысяч пользователей провели за просмотром собранных видео около 500 тысяч минут, причем самые эффективные ролики достигали средней продолжительности просмотра в 8 минут 20 секунд.

Будет ли это работать?

Программа Jigsaw отнюдь не является полноценным решением проблемы пропаганды ИГИЛ в сети, считает Хумера Хан, исполнительный директор группы по дерадикализации ислама «Муфлехан». Она отмечает, что Google и Facebook в прошлом обучали антиэкстремистские гуманитарные организации, как использовать рекламу по ключевым словам, хотя, возможно, без такого углубления в таргетинг, управление и продвижение видеороликов, которым занимаются в Jigsaw. Хан утверждает, что привлечь сторонников ИГИЛ к подборке видео – это всего лишь первый шаг. «Если они могут привлечь людей, способны ли они добавлять новый релевантный контент, чтобы эти люди возвращались снова и снова? Это очень важно», — добавляет она. В любом случае, успех любых мер по дерадикализации невозможен без человеческого вмешательства, а также общества, способного поддержать человека в решении отказаться от экстремизма. «Мне это кажется отличным элементом комплексного решения. Но в одиночку оно не сработает».

С точки зрения национальной безопасности, работа Jigsaw поднимает еще один очевидный вопрос: почему бы не устроить слежку за потенциальными рекрутами ИГИЛ или не арестовать их? Все-таки пресечение деятельности сторонников ИГИЛ могло бы спасти не только их самих, но и будущих жертв их жестоких террористических атак, которые поощряются группировкой. На этот вопрос Грин осторожно отвечает: «Социальные платформы, в том числе YouTube, обязаны отвечать на законные требования властей, и сейчас работа над этим ведется». Что это значит? Скорее всего, Google уже помогает поймать некоторых из этих людей. В конце концов, за вторую половину прошлого года компания предоставила нужные государству сведения в 64% из более чем 40 тысяч запросов.

Однако Грин подчеркивает, что метод переадресации только приводит сторонников ИГИЛ к подборкам видео и не отслеживает их местоположение. Он разработан не столько для арестов и слежки, сколько для образования. «Люди принимают решения, руководствуясь некачественной неполной информацией, — говорит Грин. — Мы можем работать над решением проблемы иностранных боевиков, присоединяющихся к Исламскому государству, предоставляя людям более качественную информацию». Грин рассуждает о работе кампании как о продолжении ключевой миссии Google «сделать всю информацию о мире доступной и полезной». Возможно, одну из самых опасных мировых проблем – неведение и внушение вредоносных идей – можно частично решить с помощью того, что Google делает лучше, чем кто бы то ни было: помогает людям найти то, что они должны увидеть.

Источник.


Материалы по теме:

Израильский стартап продавал ПО для слежки за пользователями iPhone

Twitter удалил более 235 тысяч аккаунтов за пропаганду терроризма

Как теракты в Париже повлияют на частную жизнь

Facebook и Twitter зарабатывают на том, что создают культуру доносительства


comments powered by Disqus

Подпишитесь на рассылку RUSBASE

Мы будем вам писать только тогда, когда это действительно очень важно

Нажмите "Нравится",
чтобы читать Rusbase в Facebook