К чему привело развитие дипфейков и что будет дальше

Хотя многие беспокоятся, что дипфейки будут использоваться для манипулирования выборами и создания хаоса в разных странах, пока подавляющее большинство из них гораздо более «ювенильные»‎: это, например, изображение лиц знаменитостей женского пола на телах порнозвезд (что не должно удивлять никого, кто знаком с историей интернета).

Как объясняет Джорджио Патрини из Deeptrace Labs, исследование началось еще в 2017 году, сразу после основания компании, и заключалось во всесторонней проверке сайтов, форумов и услуг. Исследователи прочесали посты в сообществах по созданию дипфейков, идентифицируя непонятные и нишевые элементы, чтобы получить полное представление об экосистеме. Deeptrace собирал данные с сайтов, форумов и сообществ с помощью общедоступных API и специальных инструментов, разработанных в компании. В рамках исследования компания также просматривала сайты и YouTube-каналы, где не весь контент, вероятно, относился к дипфейкам.

• Deeptrace Labs нашли 14 678 дипфейк-видео, 96% из которых — порнография. На большинстве видео — лица известных актрис с телами порнозвёзд. Действительно, большинство жертв дипфейков — женщины, в то время как на непорнографические видео в основном попадают мужчины.
• На более чем 90% дипфейк-видеороликов на YouTube были западные знаменитости — от представителей творческих профессий до политиков и топ-менеджеров корпораций. Но Патрини подчеркивает, что это не только западное явление.

В последние несколько лет произошел взрыв количества работ по генеративным состязательным сетям (GAN). GAN представляют собой две нейронные сети — синтезатор или генератор и детектор — которые создают дипфейк-изображения или видео, а затем улучшают качество продукта с помощью механизма обратной связи. Патрини говорит, что GANs, безусловно, входят в число «самых популярных и эффективных генеративных методов, основанных на глубоком обучении».«Наши данные показали, что хотя в большинстве дипфейков — актёры, есть и заметное меньшинство корпоративных и политических лидеров, — говорит Патрини. — Я думаю, что это может быть связано с виральностью, которая ассоциируется с непорнографическими дипфейками. Создатели — это, прежде всего, любители, которые пытаются делать качественные подделки. Выбор известных персонажей, таких как Илон Маск, Дональд Трамп или Николас Кейдж, означает, что ваш дипфейк с большей вероятностью получит много просмотров, а также добавляет в видео элемент комедии (например, лицо Николаса Кейджа на теле Лоис Лейн в Супермене).

Исследования Deeptrace Labs показывают, что заметный рост объема публикаций о GAN можеть было лишь косвенно связан с дипфейками. Deeptrace не смогли установить прямую причинно-следственную связь между увеличением количества исследований о GAN и дипфейков.

В Deeptrace также отметили, что сообщества по созданию дипфейков растут. Github, 4chan, 8chan и другие форумы делятся дипфейк-алгоритмами с открытым исходным кодом.

Патрини говорит, что некоторые из этих сообществ известны размещением незаконного контента или контента «на грани»‎, например, 4chan и 8chan. Коммодификация инструментов создания дипфейков на этих платформах, вероятно, приведет к распространению вредных и злонамеренных случаев использования технологии, например, киберзапугивания или политической пропаганды.

Но Патрини также отмечает, что пользователи на других платформах, кажется, больше заинтересованы в создании подделок, похожих на творения Deepfake YouTubers (такие как пользователь Ctrl Shift Face, который превратил комика и импрессиониста Билла Хадера в Тома Круза).

«Я бы не сказал, что эти варианты применения дипфейков позитивны, но они не являются вредоносными по умолчанию», — говорит Патрини. И поскольку дипфейки — это не просто западное явление, Deeptrace считает, что для противодействия злонамеренному использованию потребуются глобальные действия.

Источник: FastCompany