Теория мертвого интернета: как появилась и чем опасна

Что такое теория мертвого интернета?

Согласно этой теории, большая часть активности и контента в интернете, в том числе аккаунты в социальных сетях, создана агентами искусственного интеллекта.

Агенты могут быстро создавать публикации, дополняя их сгенерированными изображениями, чтобы получить больше кликов, лайков и комментариев. Это происходит на таких платформах, как Facebook*, Instagram* и TikTok.

Более того, агенты управляют и многими аккаунтами, которые взаимодействуют с таким контентом. Это создает порочный круг искусственной активности — без четкой повестки дня и какого-либо участия людей.

Накрутка активности или распространение дезинформации?

На первый взгляд мотивация кажется очевидной — аккаунты с высокой вовлеченностью могут зарабатывать на рекламе.

Но цель может быть и более коварной. Аккаунты, управляемые ИИ, привлекают пользователей (многие из них фейковые, но некоторые — настоящие). Большое количество подписчиков легитимизирует аккаунт для реальных людей.

Для многих пользователей по всему миру социальные сети — основной источник новостей. И есть веские доказательства того, что на протяжении многих лет боты пытаются влиять на общественное мнение.

В исследовании 2018 года было проанализировано 14 млн публикаций в Twitter за десятимесячный период в 2016-2017 годах. Выяснилось, что боты в соцсетях активно участвовали в распространении статей из ненадежных источников. Аккаунты с большим количеством подписчиков легитимизировали дезинформацию, в результате чего реальные пользователи начинать верить в нее, взаимодействовать с ней и делиться ею с другими.

Это оказывает значительное влияние. Согласно некоторым отчетам, в 2022 году почти половина всего интернет-трафика была создана ботами. Качество фейкового контента будет только улучшаться благодаря достижениям в области генеративного ИИ, например моделям ChatGPT от OpenAI и Gemini от Google.

Читайте по теме:

Приложения для хобби стали выполнять функцию социальных сетей

Психологи выяснили, почему нам так скучно листать соцсети

Компании пытаются бороться с теми, кто злоупотребляет их платформами. Например, Илон Маск изучал возможность ввести плату за использование X. Крупные социальные сети также могут удалять большие объемы активности ботов, если ее обнаружат.

Конечно, это не значит, что мы взаимодействуем только с фейками. Скорее, это напоминает о том, что следует скептически относиться к информации в интернете и ставить ее под сомнение.

Теория мертвого интернета — уже реальность?

В сентябре разработчик ПО Майкл Сайман запустил новую соцсеть под названием SocialAI, которая будто воплощает эту теорию заговора в жизнь. Дело в том, что в SocialAI пользователи взаимодействуют исключительно с чат-ботами на базе ИИ.

Создатель описывается приложение как «приватную социальную сеть, где к каждой публикации вы получаете миллионы комментариев, созданных искусственным интеллектом, которые предлагают обратную связь, советы и размышления». Однако пока SocialAI подвергается резкой критике, а общение с ботами, как сообщается, кажется слишком искусственным.

* Meta и входящие в нее Facebook и Instagram признаны экстремистскими организациями, деятельность которых запрещена в РФ.

В статье использованы материалы следующих источников:

Theconversation.com, Arstechnica.com

Фото на обложке: Mikael Vaisanen / Getty Images