Истории

Мои данные могут использовать для того, чтобы управлять моими интересами?

Истории
Алексей Зеньков
Алексей Зеньков

Редактор

Светлана Зыкова

Тема использования личных данных пользователей для влияния на их взгляды сейчас активно обсуждается в свете недавних политических событий. В реальности угрозы уже мало кто сомневается, но можем ли мы защититься? Об этом рассуждает Юусо Парккинен (Juuso Parkkinen), специалист по ИИ и один из организаторов конференции MyData, посвященной защите личных данных.

Мои данные могут использовать для того, чтобы управлять моими интересами?

Есть ли заслуга компьютерных алгоритмов в победе Дональда Трампа и сторонников Brexit? Об этом говорят с тех пор, как темой подробно заинтересовались журналисты из Швейцарии. Фактически для многих стало фактом то, что в ходе кампании Трампа использовались высокоуровневые алгоритмы, созданные британской компанией Cambridge Analytica и помогавшие влиять на выбор миллионов американцев на основании данных из их профилей в Facebook и других источников.

Гендиректор Cambridge Analytica Александр Никс. Фото: Getty Images

Вскоре после этого авторы ресурса Scout нарисовали очень пессимистичную картину масштабной «смертоносной машины пропаганды с ИИ», в состав которой входят микротаргетинг, боты и фейковые новости. Взгляд Buzzfeed был еще более скептическим, особенно по поводу истинной роли, которую сыграли алгоритмы в исходе выборов.

Без участия компаний и организаций, о которых говорится в этих материалах, невозможно определить, какие именно данные и алгоритмы использовались и насколько велико было их влияние. Однако, возможно, это и не самое важное.

Вместо этого стоит задаться другим вопросом: возможен ли технически такой сценарий и что нам стоит делать по этому поводу?

Персональным данным – персональный таргетинг

Инженеры рекламной индустрии уже давно занимаются разработкой инструментов для персонализированного таргетинга. Эти специалисты достигли вершин мастерства в области сбора персональных данных из соцсетей и других источников, а также в применении продвинутых систем машинного обучения и искусственного интеллекта, чтобы влиять на выбор потребителей. Чем дальше, тем больше обратной связи получают эти алгоритмы для обучения и тем совершеннее они становятся.

В наше время нетрудно предположить, что некто с достаточным количеством денег и технических умений может применить тот же самый подход к продвижению своих политических интересов.

Ключевая проблема в этом вопросе – доступ к огромным базам личных данных, без которых невозможно эффективно влиять на предпочтения большого количества людей. Немало информации доступно на законных основаниях, особенно в США, и еще больше доступно тем, кто не хочет играть по правилам. Как недавно написал в статье в Guardian профессор Джонатан Раст (Jonathan Rust), директор Центра психометрики Кембриджского университета):

«Отсутствие правовой базы, регулирующей возможность получить те или иные данные из Facebook или из другого источника, представляет собой очевидную опасность. С помощью этих данных компьютер может использовать принципы психологии, чтобы предсказывать и даже контролировать поведение людей. В сущности, это то же самое, что пытаются делать ученые, но с гораздо более серьезными последствиями. Это все равно что промывка мозгов – крайне опасная вещь.

Не будет преувеличением сказать, что на разум можно повлиять. Поведение можно предсказывать и можно влиять на него. Меня по-настоящему пугает этот факт. Проблема в том, что никто не задумывается, каковы могут быть последствия этого. Люди не замечают, как это с ними происходит. Их мнение меняют без их ведома».

Иными словами, системы с ИИ, способные обрабатывать личные данные людей, научились влиять на их поведение.

Здесь важно отметить, что алгоритмам не обязательно влиять на мнение абсолютно всех. Для того, чтобы существенно увеличить прибыль – или повлиять на исход выборов – достаточно получить власть над значительной частью людей, пока не имеющих четкого мнения.

Не так уж важно, достигли ли данные и алгоритмы нужной точности уже сейчас, чтобы внести существенный вклад в победу Трампа. Наивно думать, что люди с большими деньгами и политическими амбициями, стоящие за этими схемами, остановятся на достигнутом. Поэтому стоит ожидать продолжения подобных попыток, только с еще большими усилиями и шансами на успех.

Но что нам теперь делать, спросите вы? Есть два логичных направления работы: нужно начать выше ценить наши личные данные, а также требовать более тщательного и этически правильного подхода от провайдеров, имеющих доступ к нашим данным.


15 сентября в Москве состоится конференция по большим данным Big Data Conference. В программе — бизнес-кейсы, технические решения и научные достижения лучших специалистов в этой области. Приглашаем всех, кто заинтересован в работе с большими данными и хочет их применять в реальном бизнесе. Следите за Big Data Conference в Telegram, на Facebook и «ВКонтакте».

Ваши персональные данные бесценны

Первое, о чем стоит задуматься каждому из нас – это то, какое огромное количество информации и в каких подробностях мы публикуем в соцсетях. Существуют специальные инструменты, которые помогают нам более явно это увидеть. Один из них – сервис Data Selfie, которые показывает все информационные следы, которые мы оставляем в Facebook.

Источник: Data Selfie

Сервис PersonalData.IO, созданный Полом-Оливье Дехэй (Paul-Olivier Dehaye), помогает человеку получить копию данных, которые накапливают о нем та или иная организация. Например, можно отправить запрос в Facebook или Cambridge Analytica (руководство на английском языке). Дехэй даже предложил план, согласно которому граждане США должны получить свои данные от Cambridge Analytica, и это помогло бы пролить свет на то, какой именно информацией располагала компания.

При обработке личных данных важно соблюдать прозрачность и подотчетность

В глобальном смысле будет недостаточно, если группа сведущих в поросе людей станет лучше контролировать свое поведение в сети или просто перестанет пользоваться Facebook – в конце концов, эти атаки рассчитаны в первую очередь не на них. Можно ли защитить всех пользователей от влияния алгоритмов?

Разумеется, центральную роль в этом вопросе играет Facebook, и компания действительно проявила интерес к решению этих проблем. Но не стоит ограничиваться только этой соцсетью. Нужно требовать, чтобы организации, имеющие доступ к нашим персональным данным, четко следовали букве закона, а также несли ответственность за свои действия и не скрывали их. Кроме того, законодателям стоит лучше следить за техническим прогрессом, чтобы в случае необходимости обновлять правовую базу и лучше защищать права людей в интернете и неприкосновенность их данных.

Специалист по машинному обучению, профессор Нил Лоуренс (Neil Lawrence) уже больше двух лет назад предупреждал нас об опасности сосредоточения наших личных данных в руках «олигархов цифрового мира». Сейчас самое время к нему прислушаться и принять меры.

Источник


Материалы по теме:

Специалист по кибербезопасности рассказал, как хакеры голосуют на выборах вместо нас

Как Facebook способствует радикализации пользователей

Специалист по большим данным из штаба Трампа рассказал, что победа была предсказуема

Дональд Трамп: «Facebook и Twitter помогли мне победить»

Нашли опечатку? Выделите текст и нажмите Ctrl + Enter

Актуальные материалы —
в Telegram-канале @Rusbase