Приложение для знакомств Badoo запускает новую функцию безопасности «Детектор грубости», сообщила пресс-служба компании. Нововведение призвано защитить пользователей от «грубого и токсичного общения».
Алгоритм в режиме реального времени обнаруживает «токсичные сообщения» и предлагает пользователям сообщить о случившемся. Нововведение направлено на создание более комфортной и уважительной культуры общения в приложении.
Новая функция использует машинное обучение для выяснения контекста, поэтому алгоритм сможет различить оскорбления и безобидные шутки. Если приложение обнаружит неприемлемые высказывания, Badoo уточнит у пользователя, все ли в порядке, и предложит сообщить о доставленных неудобствах.
В более серьезных случаях Badoo может изучить отправленные сообщения и принять меры самостоятельно. Модель «Детектора» основана не на словах, а на целых фразах в языке. Ее обучали на более 2.5 ТБ текста на ста языках мира.
«Детектор грубости» будет определять токсичные сообщения в трех категориях:
- «Сексуальный подтекст»: любое сообщение с явным сексуальным подтекстом или чрезмерно сексуальные комментарии по поводу внешности;
- «Оскорбление»: любое явное оскорбление, направленное на получателя сообщения;
- «Ненависть к личности»: любая дискриминация или нападки, связанные с расой, сексуальной ориентацией, гендерной идентичностью, этнической принадлежностью, национальностью, инвалидностью или религией.
Вместе с новой функцией приложение также запускает Safety Center – сайт, посвященный вопросам безопасности в дейтинг-приложениях. В нем пользователи смогут найти подробные психологические советы и практики и важные телефоны доверия для помощи в сложных ситуациях.
Подписывайтесь на наш TG-канал, чтобы быть в курсе всех новостей и событий!
Фото: Badoo
Нашли опечатку? Выделите текст и нажмите Ctrl + Enter
Материалы по теме
-
Пройти курс «Как управлять командой»
- 1 Суд в Москве оштрафовал Badoo на 1 млн рублей за отказ локализовать данные россиян
- 2 Mamba стала самым скачиваемым приложением после ухода зарубежных дейтинг-сервисов
- 3 IT-специалисты чаще приходят к психологам с вопросами о работе, чем о личной жизни — исследование
- 4 Badoo запретил делать скриншоты переписок и сохранять фотографии из чатов