Apple начнет защищать детей от откровенных снимков в «Сообщениях»

Для решения проблемы распространения материалов о сексуальном насилии над детьми в интернете Apple будет сканировать облачные хранилища устройств. Сканирование снимков в iCloud также будет происходить приватно: для этого Apple будет использовать машинное обучение на устройствах. Нейросети начнут сопоставлять изображения из облачных хранилищ с хешами изображений, предоставленных Национальным центром пропавших и эксплуатируемых детей (NCMEC) и другими организациями по детской безопасности.

Компания будет применять технологию «разделения секрета», которая позволит уберечь ваучеры безопасности от расшифровки на стороне сервера до тех пор, пока пользователь не нарушит правила. В компании утверждают, что это гарантирует высокий уровень точности — система будет выдавать меньше одного ложного результата на триллион попыток за год.

Только в случае фиксации нарушений сразу двумя технологиями Apple сможет интерпретировать контент ваучеров безопасности и сравнить изображения самостоятельно. Компания обещает вручную изучать каждый случай, чтобы подтвердить соответствие. В случае подтверждения Apple может отключить аккаунт и сообщить о нем в NCMEC.

Производитель гаджетов также начнет предупреждать и обучать пользователей с помощью Siri. Голосовой помощник вмешается, если пользователь попытается найти данные, связанные с детским сексуальным контентом – система объяснит, что это проблемные и болезненные темы и предложит почитать о них подробнее.

Новые функции Siri. Фото: Apple

В Apple обещают со временем расширять ресурсы для защиты детей. Новые функции станут доступны с выходом новых версий систем осенью 2021 года.

Подписывайтесь на наш TG-канал, чтобы быть в курсе всех новостей и событий!

Фото на обложке: Unsplash