Новости

ИИ предупредит модераторов Facebook о конфликтах в комментариях

Новости
Кирилл Билык
Кирилл Билык

Редактор отдела «Новости»

Кирилл Билык

Facebook запустила новую систему для помощи в модерации на основе ИИ. Она будет присылать модераторам сообществ оповещения о конфликтах в переписке. Ранее соцсеть уже внедрила подобный алгоритм, но он не смог идентифицировать шутки и сарказм и помечал такие комментарии как потенциально неприемлемые.

ИИ предупредит модераторов Facebook о конфликтах в комментариях

Система, пока работающая в тестовом режиме, получила название Conflict Alerts, пишет издание The Verge. Нейросеть будет помечать подозрительные комментарии отметкой "moderation alert" и отправлять их модераторам сообществ. В Facebook сообщили изданию, что для поиска будет использована машинная модель обучения.

Ранее соцсеть уже внедрила похожую систему для помощи в модерации. В ее приоритете стоит поиск контента, связанного с терроризмом, сексуальной эксплуатацией детей и попытками самоубийства. Однако алгоритм не смог идентифицировать шутки и сарказм, в результате чего подобный контент и комментарии попадают к модераторам сообществ.

Подписывайтесь на наш TG-канал, чтобы быть в курсе всех новостей и событий!

Фото: Depositphotos.com

Нашли опечатку? Выделите текст и нажмите Ctrl + Enter

Материалы по теме

  1. 1 Вирусная психология: как создать контент, которым будут делиться
  2. 2 Работа над инновационным продуктом за пять шагов
  3. 3 Лаборатория по ИИ «Сбера» запускает бесплатный онлайн-курс по машинному обучению
  4. 4 ML для анализа документов: какие сервисы помогают бизнесу сейчас и почему технология пока не так широко распространена
  5. 5 Бот «Твой батя», колонка в виде карася и навыки для «Алисы»: интервью о серьезных и не очень ML-проектах с основателем EORA