«Одноклассники» начали автоматически размывать эротические изображения

Для этого в компании провели опрос среди своих пользователей и выяснили, какие изображения они считают нежелательными. С помощью этих данных инженеры ОК обучили модели машинного обучения, чтобы те автоматически обнаруживали и размывали такой контент.

Всего ОК использовали более 6 млн файлов и разработали две ML-модели. Первая сканирует картинку и определяет содержимое, вторая относит контент к определенному типу, за счет чего он или остается, или размывается. Если пользователь все же захочет посмотреть такое изображение, ему нужно кликнуть по нему.

Фото на обложке: Unsplash