Мои данные могут использовать для того, чтобы управлять моими интересами?

Расскажите друзьям
Светлана Зыкова
Алексей Зеньков

Тема использования личных данных пользователей для влияния на их взгляды сейчас активно обсуждается в свете недавних политических событий. В реальности угрозы уже мало кто сомневается, но можем ли мы защититься? Об этом рассуждает Юусо Парккинен (Juuso Parkkinen), специалист по ИИ и один из организаторов конференции MyData, посвященной защите личных данных.

Есть ли заслуга компьютерных алгоритмов в победе Дональда Трампа и сторонников Brexit? Об этом говорят с тех пор, как темой подробно заинтересовались журналисты из Швейцарии. Фактически для многих стало фактом то, что в ходе кампании Трампа использовались высокоуровневые алгоритмы, созданные британской компанией Cambridge Analytica и помогавшие влиять на выбор миллионов американцев на основании данных из их профилей в Facebook и других источников.

Гендиректор Cambridge Analytica Александр Никс. Фото: Getty Images

Вскоре после этого авторы ресурса Scout нарисовали очень пессимистичную картину масштабной «смертоносной машины пропаганды с ИИ», в состав которой входят микротаргетинг, боты и фейковые новости. Взгляд Buzzfeed был еще более скептическим, особенно по поводу истинной роли, которую сыграли алгоритмы в исходе выборов.

Без участия компаний и организаций, о которых говорится в этих материалах, невозможно определить, какие именно данные и алгоритмы использовались и насколько велико было их влияние. Однако, возможно, это и не самое важное.

Вместо этого стоит задаться другим вопросом: возможен ли технически такой сценарий и что нам стоит делать по этому поводу?

Персональным данным – персональный таргетинг

Инженеры рекламной индустрии уже давно занимаются разработкой инструментов для персонализированного таргетинга. Эти специалисты достигли вершин мастерства в области сбора персональных данных из соцсетей и других источников, а также в применении продвинутых систем машинного обучения и искусственного интеллекта, чтобы влиять на выбор потребителей. Чем дальше, тем больше обратной связи получают эти алгоритмы для обучения и тем совершеннее они становятся.

В наше время нетрудно предположить, что некто с достаточным количеством денег и технических умений может применить тот же самый подход к продвижению своих политических интересов.

Ключевая проблема в этом вопросе – доступ к огромным базам личных данных, без которых невозможно эффективно влиять на предпочтения большого количества людей. Немало информации доступно на законных основаниях, особенно в США, и еще больше доступно тем, кто не хочет играть по правилам. Как недавно написал в статье в Guardian профессор Джонатан Раст (Jonathan Rust), директор Центра психометрики Кембриджского университета):

«Отсутствие правовой базы, регулирующей возможность получить те или иные данные из Facebook или из другого источника, представляет собой очевидную опасность. С помощью этих данных компьютер может использовать принципы психологии, чтобы предсказывать и даже контролировать поведение людей. В сущности, это то же самое, что пытаются делать ученые, но с гораздо более серьезными последствиями. Это все равно что промывка мозгов – крайне опасная вещь.

Не будет преувеличением сказать, что на разум можно повлиять. Поведение можно предсказывать и можно влиять на него. Меня по-настоящему пугает этот факт. Проблема в том, что никто не задумывается, каковы могут быть последствия этого. Люди не замечают, как это с ними происходит. Их мнение меняют без их ведома».

Иными словами, системы с ИИ, способные обрабатывать личные данные людей, научились влиять на их поведение.

Здесь важно отметить, что алгоритмам не обязательно влиять на мнение абсолютно всех. Для того, чтобы существенно увеличить прибыль – или повлиять на исход выборов – достаточно получить власть над значительной частью людей, пока не имеющих четкого мнения.

Не так уж важно, достигли ли данные и алгоритмы нужной точности уже сейчас, чтобы внести существенный вклад в победу Трампа. Наивно думать, что люди с большими деньгами и политическими амбициями, стоящие за этими схемами, остановятся на достигнутом. Поэтому стоит ожидать продолжения подобных попыток, только с еще большими усилиями и шансами на успех.

Но что нам теперь делать, спросите вы? Есть два логичных направления работы: нужно начать выше ценить наши личные данные, а также требовать более тщательного и этически правильного подхода от провайдеров, имеющих доступ к нашим данным.


15 сентября в Москве состоится конференция по большим данным Big Data Conference. В программе — бизнес-кейсы, технические решения и научные достижения лучших специалистов в этой области.

Приглашаем всех, кто заинтересован в работе с большими данными и хочет их применять в реальном бизнесе.

Следите за Big Data Conference в Telegram, на Facebook и «ВКонтакте».


Ваши персональные данные бесценны

Первое, о чем стоит задуматься каждому из нас – это то, какое огромное количество информации и в каких подробностях мы публикуем в соцсетях. Существуют специальные инструменты, которые помогают нам более явно это увидеть. Один из них – сервис Data Selfie, которые показывает все информационные следы, которые мы оставляем в Facebook.

Источник: Data Selfie

Сервис PersonalData.IO, созданный Полом-Оливье Дехэй (Paul-Olivier Dehaye), помогает человеку получить копию данных, которые накапливают о нем та или иная организация. Например, можно отправить запрос в Facebook или Cambridge Analytica (руководство на английском языке). Дехэй даже предложил план, согласно которому граждане США должны получить свои данные от Cambridge Analytica, и это помогло бы пролить свет на то, какой именно информацией располагала компания.

При обработке личных данных важно соблюдать прозрачность и подотчетность

В глобальном смысле будет недостаточно, если группа сведущих в поросе людей станет лучше контролировать свое поведение в сети или просто перестанет пользоваться Facebook – в конце концов, эти атаки рассчитаны в первую очередь не на них. Можно ли защитить всех пользователей от влияния алгоритмов?

Разумеется, центральную роль в этом вопросе играет Facebook, и компания действительно проявила интерес к решению этих проблем. Но не стоит ограничиваться только этой соцсетью. Нужно требовать, чтобы организации, имеющие доступ к нашим персональным данным, четко следовали букве закона, а также несли ответственность за свои действия и не скрывали их. Кроме того, законодателям стоит лучше следить за техническим прогрессом, чтобы в случае необходимости обновлять правовую базу и лучше защищать права людей в интернете и неприкосновенность их данных.

Специалист по машинному обучению, профессор Нил Лоуренс (Neil Lawrence) уже больше двух лет назад предупреждал нас об опасности сосредоточения наших личных данных в руках «олигархов цифрового мира». Сейчас самое время к нему прислушаться и принять меры.

Источник


Материалы по теме:

Специалист по кибербезопасности рассказал, как хакеры голосуют на выборах вместо нас

Как Facebook способствует радикализации пользователей

Специалист по большим данным из штаба Трампа рассказал, что победа была предсказуема

Дональд Трамп: «Facebook и Twitter помогли мне победить»



Комментарии

Комментарии могут оставлять только авторизованные пользователи.
Sibos
16 октября 2017
Ещё события


Telegram канал @rusbase