Badoo будет обращать внимание пользователей на токсичные сообщения с сексуальным подтекстом

Алгоритм в режиме реального времени обнаруживает «токсичные сообщения» и предлагает пользователям сообщить о случившемся. Нововведение направлено на создание более комфортной и уважительной культуры общения в приложении.

Новая функция использует машинное обучение для выяснения контекста, поэтому алгоритм сможет различить оскорбления и безобидные шутки. Если приложение обнаружит неприемлемые высказывания, Badoo уточнит у пользователя, все ли в порядке, и предложит сообщить о доставленных неудобствах.

В более серьезных случаях Badoo может изучить отправленные сообщения и принять меры самостоятельно. Модель «Детектора» основана не на словах, а на целых фразах в языке. Ее обучали на более 2.5 ТБ текста на ста языках мира.

«Детектор грубости» будет определять токсичные сообщения в трех категориях:

• «Сексуальный подтекст»: любое сообщение с явным сексуальным подтекстом или чрезмерно сексуальные комментарии по поводу внешности;
• «Оскорбление»: любое явное оскорбление, направленное на получателя сообщения;
• «Ненависть к личности»: любая дискриминация или нападки, связанные с расой, сексуальной ориентацией, гендерной идентичностью, этнической принадлежностью, национальностью, инвалидностью или религией.

Вместе с новой функцией приложение также запускает Safety Center – сайт, посвященный вопросам безопасности в дейтинг-приложениях. В нем пользователи смогут найти подробные психологические советы и практики и важные телефоны доверия для помощи в сложных ситуациях.

Подписывайтесь на наш TG-канал, чтобы быть в курсе всех новостей и событий!

Фото: Badoo