«Ходить в интернет — решение роковое»: главное про токсичный контент с выступления Ашманова

Напомним, что впервые с этой идеей он выступил еще в ноябре 2021 года, представил на заседании СПЧ 9 декабря 2021 года.

В январе президент России Владимир Путин распорядился до 1 июня 2022 года рассмотреть идею создания «саморегулируемого реестра токсичного контента» силами Администрации.

Выступление Ашманова в Общественной палате прошло 17 февраля. Основатель «Крибрум» считает, что необходимо отдельно регулировать «токсичный контент», который не запрещен, но активно подталкивает к потреблению запрещенного контента.

Видеозапись выступления Игоря Ашманова на заседании Общественной палаты

Ключевые тезисы его выступления:

• Токсичный контент — вся негативная информация, оказывающая разрушающее, деструктивное психологическое воздействие  на личность, семью, социальные группы и общество.
• Существует запрещенный на законодательном уровне контент, есть инструменты по его блокировке и удалению, но все процессы очень медленные, а у Роскомназдора не везде хватает мандата. Тем не менее, эта работа все же ведется.
• Токсичный контент не запрещен и, возможно, никогда не будет запрещен на уровне закона, но государство и общество должно что-то сделать, чтобы предотвратить эту «грязь». И эта идея поддерживается в том числе на уровне Совфеда.
• Токсичный контент — средство вовлечения в запрещенный деструктивный контент.

• Токсичный контент не осознается как проблема на государственном и общественном уровне. Нет политики и практики удаления такого контента.
• К тому же он является средством заработка цифровых платформ, поэтому они изо всех сил будут сопротивляться нововведениям.
• В качестве подтверждения тезиса о зарабатывании на токсичном контенте Ашманов рассказал историю о том, как видел переписку сисадмина одной из сетей с автором паблика, на которого ополчилось родительское сообщество: «Админ не снес эту группу, а рассказывал, как отбиться, чтобы они могли дальше вместе зарабатывать на этой грязи».

1. Пропаганда и продажа наркотиков и ПАВ, наем закладчиков, реклама маркетплейсов.
2. Пропаганда, оправдание и защита педофилии, ссылки на порноресурсы, сервисы для педофилов.
3. Пропаганда абортов, ложь о безопасности абортов, ненависть к детям.
4. Шок-контент, треш-стримы: убийства, пытки, казни, изнасилования, увечья, избиения, суициды.
5. Колумбайн-сообщества, романтизация школьных расстрелов и их исполнителей.
6. Мошенники, пирамиды, социотехники, разводки.
7. Эксплуатация детей и подростков, TikTok-хаусы, сексуализация, развращение, обучение «заработку».
8. Деструктивные сообщества, опасное поведение, челленджи. Руферы, зацеперы, трейнхопперы.
9. Пропаганда снюсов, вейпов, электронных сигарет.
10. Пропаганда феминизма, чайлдфри.
11. Оффники, группы забивов, криминальные субкультуры.
12. Пропаганда ЛГБТ, смены пола, «прочих извращений».
13. Пропаганда анорексии.
14. Фурри-сообщества, «рисованная порнография».
15. Ставки на спорт, букмекерские сайты.
16. Аниме жанры яой, юри и др.

• «Я бы тут использовал метафору "цифрового водопровода": интернет является "транспортом", который доставляет информацию. У нас много такого "транспорта": канализационные службы доставляют воду, газовые — газ… и так далее. Эти виды "транспорта" в основном безопасны: государство тщательно следит за газом, за водой. А интернет — это такой кран в каждой квартире, в каждом кармане, который абсолютно не защищен. Его безопасностью не занимаются или занимаются недостаточно. Я считаю, что цифровое пространство должно быть базово безопасным, и этим должно заниматься государство».
• Существует проблема поиска запрещенного контента: он ведется разными ведомствами, которые разобщены, нет общей системы, нет единого ответственного органа. Процедура запрещения и блокировки медленная — контент успевает мигрировать. Платформы сопротивляются, особенно западные. Надежда на закон о «приземлении» есть, но она невелика: решать вопросы контента экономическими методами бесполезно.
• Есть и идеологическая проблема: «Цифровизаторы за развитие цифровой экономики, а не за чистоту контента. В их среде не принято говорить о зачистке цифрового пространства, там только о том, как все заколосится, как нам всем станет круто. И поэтому войну за чистоту контента мы проигрываем».
• Казалось бы, в чем проблема открытых обсуждения тех или иных тем. Но Ашманов подчеркивает: главная беда — радикализация идей в тематических сообществах (любых — от феминистических до обсуждающих school shooting): «Они замыкаются в семантические капсулы. Начинают там просаливаться, начинают друг друга нагревать, власть захватывают самые оголтелые бездельники, у которых есть время этим заниматься».
• «Все начинается с простого "А что такого, если мы просто не хотим рожать". Но я заходил в эти сообщества, там концентрация негатива, со второй фразы тебя банят, абсолютная ненависть к мужчинам и детям, которых называют "личинки". Хоть не заходи, хотя ходить в интернет вообще решение роковое».
• Опасность сообществ с токсичным контентом велика: вовлечение строится по воронке от безобидных обсуждений до закрытых групп, а потом и реальных действий.

• Законодательный запрет на контент работает: мы видим, как стабилизируется ситуация с контентом про school shooting, националистическим радикализмом и т.п. Следовательно, токсичный контент тоже надо ограничить.
• Токсичный контент — как герпес. Он всегда есть в организме, но если следить за собой и не переохлаждаться, болячка не выскочит. То же самое с токсичным контентом: больше концентрация — больше вовлечения в запрещенный контент. Меньше концентрация — меньше проблем.
• При этом важен не всегда только контент. Ашманов подчеркивает, что в среде детей и подростков развивается цифровая наркомания. Причем эта архитектурная аддиктивность цифровых платформ заложена в самой их структуре, она не зависит от контента, поэтому эту проблему вообще нельзя решить.
• «TikTok является абсолютным вселенским злом независимо от контента».
• «Подросток зашёл в TikTok, очнулся через 3 часа, что смотрел — толком не помнит. Офисный планктон тратит на ролики 2-3-4 часа рабочего времени. YouTube и TikTok имеют миллиарды просмотров, это тысячи украденных жизней в день. Даже если смотрят не токсичную дрянь (хотя там её 70-80%), а безобидные приколы и "полезные" ролики, это всё равно потерянные жизни».
• Памятуя, с каким боем принимали «Закон Яровой», Ашманов проговаривает возможные возражения и напоминает о «дилемме Анны Карениной». Речь идет о том, что при запрете на суицидальный контент необходимо будет запретить и роман Льва Николаевича.
• «Тогда была абсолютная этическая медийная истерика. "Каренину" не запретили, но осадочек остался. А давайте предположим, что запретили бы. Вот что лучше: оставить больше грязи, чтобы не запрещать "Анну Каренину", или избыточно зачистить, а потом уже думать, что делать с "Карениной". В конце концов, родитель пойдет и купит ребенку эту книгу, если сочтет нужным, решит этот вопрос. Добавить грязи по вкусу всегда можно. Но когда избыточная грязь не запрещена, родитель и учитель ничего сделать не могут, у них нет инструментов эту грязь вычистить, вот в чем проблема».
• Кто должен заниматься зачисткой контента в сети? У родителей нет соответствующей квалификации, учителя завалены бумажной работой, цифровые платформы хотят продолжать зарабатывать на «грязи», государство имеет в распоряжении законы и технические средства, но ему «не хватает решимости», хотя «жевать эти сопли уже нельзя».
• Общество могло бы решить проблему, но ему нужны инструменты и диалог с государством.
• Одним из инструментов может стать общая этическая платформа, которая бы разъясняла, что у нас в стране приемлемо из контента, а что вообще неприемлемо. По сути основа этого регламента у нас есть, но растворена в самых разных законах и «подзаконах».
• Этическая составляющая интернет-контента осознается обществом, ее надо только артикулировать. И примеры такой артикуляции есть: Кодекс этики ИИ, Альянс защиты детей и пр.
• Принимать решения надо быстро: «На нас с неба надвигается интернет имени Маска, который будет наливать нам на голову всякую дрянь мимо национальных провайдеров. Маск не хочет помочь жителям Якутии смотреть порно в темноте полярной ночи, это не его задача. Даже заработать на этом не хочет. У него есть задание от его правительства: накрыть всю планету эти душем идеологии и поливать всех, не спрашивая национальные правительства. С этим надо что-то делать».

Решение — создание реестра токсичного контента и открытый общественный проект по добровольному присоединению цифровых игроков к разработанной этической платформе.

План действий, таким образом, по Ашманову выглядит так:

1. Расширить списки запрещенного контента (создать рубрикатор токсичного контента).
2. Перестать бояться избыточной чистоты и беречь избыточную грязь.
3. Выработать «нулевую общественную толерантность» по отношению к экстремальным меньшинствам, к токсичному контенту.
4. Запустить проект общественного контроля за токсичным контентом.
5. Перенести моральную и юридическую ответственность на сами цифровые платформы.
6. Перестать надеяться на экономические методы и жалеть заработки цифровых платформ на грязи на головы наших детей.
7. Привыкать к мыслям о блокировках — как обучающих. так и постоянных.
8. Выработать жесткую политику против «интернета с неба» и средств обхода фильтрации.

Фото на обложке: Nikoli Afina / Unsplash