В США разработали ИИ-инструмент для выявления дезинформации в интернете

Насколько сильно люди доверяют лженауке

Ежегодный опрос, который проводят социологи из Университета Чепмена, показывает, что более половины жителей США верят в существование духов и древних цивилизаций, таких как Атлантида, а более трети считают, что инопланетяне посещали Землю в прошлом или посещают сейчас. Более 75% американцев придерживаются множества паранормальных убеждений, и в последние годы эта цифра только растет.

Также широко распространена вера в астрологию. Она давно закрепилась в популярной культуре благодаря гороскопам в прессе, но сейчас просто процветает. Ей доверяют даже образованные люди. Это подтверждают опросы студентов колледжей: три четверти считают, что астрология точно или «своего рода» наука, и только половина — что это не наука.

Теории заговора по определению нельзя доказать или опровергнуть. Некоторые из них, по крайней мере, забавны. Приверженцы теории плоской Земли закрывают глаза на две тысячи лет научного прогресса. Причем в последние пять лет интерес к этой странной идее вырос. Это обусловлено влиянием соцсетей и герметичностью таких сайтов, как Reddit. Как и в случае с отрицанием климатических изменений, многие приходят к такому убеждению через YouTube-видео.

Однако последствия распространения лженауки не шуточны. В вопросах здоровья и изменения климата дезинформация может быть вопросом жизни и смерти. В течение 90-дневного периода, охватывающего декабрь, январь и февраль, люди лайкали, репостили и комментировали вводящую в заблуждение информацию о COVID-19 в 142 раза больше, чем официальную информацию от CDC и ВОЗ.

Борьба с лженаукой сейчас очень важна. В мире, который все больше зависит от науки и технологий, гражданское общество может нормально функционировать только в том случае, если его члены будут хорошо информированы.

Преподавателям стоит сосредоточиться на развитии критического мышления у учащихся, но стоит признать, что проблема выходит за пределы аудиторий. Интернет — это главный источник научной информации для 80% людей в возрасте от 18 до 24 лет.

Одно исследование показало: среди 200 случайно выбранных YouTube-роликов об изменении климата большинство отрицали, что люди несут за это ответственность, или утверждали, что это заговор. При этом видео с конспирологическими теориями получили больше всего просмотров. Еще одна группа ученых выяснила, что четверть всех твитов о климате была создана ботами, и они преимущественно соответствовали постам людей, отрицающих его изменение.

Как помогут технологии

Последние успехи машинного обучения и искусственного интеллекта в обнаружении фейковых новостей открыли путь к обнаружению лженаучных фактов в интернете. Ключ к решению проблемы — нейросети. Они состоят из множества взаимосвязанных процессоров, которые идентифицируют значимые паттерны в таких данных, как слова и изображения. Нейросети уже пронизывают повседневную жизнь: они задействованы в таких системах обработки естественного языка, как Alexa от Amazon и Google Переводчик.

В Аризонском университете нейросети обучали на популярных статьях об изменении климата и биологической эволюции, и в 90% случаев они успешно отделяли настоящие факты от ложных. Нейросеть может просканировать сайт и определить, можно ли назвать его содержание обоснованным. В будущем ее хотят адаптировать для всех областей науки.

Технология Аризонского университета позволит помечать сайты с научной информацией зеленым цветом (слева). Мобильная версия приложения геймифицирует процесс (справа) / Фото: Крис Импи

Теперь университет намерен разработать расширение для браузера, которое будет определять правдивость статей в интернете. Если обнаружится дезинформация, то читателю предложат надежный сайт по этой теме. В мобильное приложение планируется добавить геймификацию, чтобы люди могли соревноваться с друзьями и родственниками в обнаружении ложных данных. Опыт наиболее успешных в этом пользователей будет использоваться для обучения нейросети.

Источник.