Badoo будет обращать внимание пользователей на токсичные сообщения с сексуальным подтекстом
Приложение для знакомств Badoo запускает новую функцию безопасности «Детектор грубости», сообщила пресс-служба компании. Нововведение призвано защитить пользователей от «грубого и токсичного общения».
Алгоритм в режиме реального времени обнаруживает «токсичные сообщения» и предлагает пользователям сообщить о случившемся. Нововведение направлено на создание более комфортной и уважительной культуры общения в приложении.
Новая функция использует машинное обучение для выяснения контекста, поэтому алгоритм сможет различить оскорбления и безобидные шутки. Если приложение обнаружит неприемлемые высказывания, Badoo уточнит у пользователя, все ли в порядке, и предложит сообщить о доставленных неудобствах.
В более серьезных случаях Badoo может изучить отправленные сообщения и принять меры самостоятельно. Модель «Детектора» основана не на словах, а на целых фразах в языке. Ее обучали на более 2.5 ТБ текста на ста языках мира.
«Детектор грубости» будет определять токсичные сообщения в трех категориях:
- «Сексуальный подтекст»: любое сообщение с явным сексуальным подтекстом или чрезмерно сексуальные комментарии по поводу внешности;
- «Оскорбление»: любое явное оскорбление, направленное на получателя сообщения;
- «Ненависть к личности»: любая дискриминация или нападки, связанные с расой, сексуальной ориентацией, гендерной идентичностью, этнической принадлежностью, национальностью, инвалидностью или религией.
Вместе с новой функцией приложение также запускает Safety Center – сайт, посвященный вопросам безопасности в дейтинг-приложениях. В нем пользователи смогут найти подробные психологические советы и практики и важные телефоны доверия для помощи в сложных ситуациях.
Подписывайтесь на наш TG-канал, чтобы быть в курсе всех новостей и событий!
Фото: Badoo
Нашли опечатку? Выделите текст и нажмите Ctrl + Enter
Популярное
Материалы по теме
-
Пройти курс «Наличка: как использовать, чтобы не нарушить 115-ФЗ»
- 1 Суд в Москве оштрафовал Badoo на 1 млн рублей за отказ локализовать данные россиян Сегодня же суд оштрафовал Skype за нарушение правил распространения информации 27 февраля 21:19
- 2 Mamba стала самым скачиваемым приложением после ухода зарубежных дейтинг-сервисов Ежемесячная аудитория таких сервисов в России составляет около 7 млн человек 28 июля 09:04
- 3 IT-специалисты чаще приходят к психологам с вопросами о работе, чем о личной жизни — исследование Количество обращений по этим вопросам составило 18% от всего числа консультаций 16 сентября 15:16
- 4 Badoo запретил делать скриншоты переписок и сохранять фотографии из чатов Нововведение должно помочь избежать нежелательных утечек данных 10 июня 15:54