Мои данные могут использовать для того, чтобы управлять моими интересами?

Есть ли заслуга компьютерных алгоритмов в победе Дональда Трампа и сторонников Brexit? Об этом говорят с тех пор, как темой подробно заинтересовались журналисты из Швейцарии. Фактически для многих стало фактом то, что в ходе кампании Трампа использовались высокоуровневые алгоритмы, созданные британской компанией Cambridge Analytica и помогавшие влиять на выбор миллионов американцев на основании данных из их профилей в Facebook и других источников.

Гендиректор Cambridge Analytica Александр Никс. Фото: Getty Images

Вскоре после этого авторы ресурса Scout нарисовали очень пессимистичную картину масштабной «смертоносной машины пропаганды с ИИ», в состав которой входят микротаргетинг, боты и фейковые новости. Взгляд Buzzfeed был еще более скептическим, особенно по поводу истинной роли, которую сыграли алгоритмы в исходе выборов.

Без участия компаний и организаций, о которых говорится в этих материалах, невозможно определить, какие именно данные и алгоритмы использовались и насколько велико было их влияние. Однако, возможно, это и не самое важное.

Вместо этого стоит задаться другим вопросом: возможен ли технически такой сценарий и что нам стоит делать по этому поводу?

Персональным данным – персональный таргетинг

Инженеры рекламной индустрии уже давно занимаются разработкой инструментов для персонализированного таргетинга. Эти специалисты достигли вершин мастерства в области сбора персональных данных из соцсетей и других источников, а также в применении продвинутых систем машинного обучения и искусственного интеллекта, чтобы влиять на выбор потребителей. Чем дальше, тем больше обратной связи получают эти алгоритмы для обучения и тем совершеннее они становятся.

В наше время нетрудно предположить, что некто с достаточным количеством денег и технических умений может применить тот же самый подход к продвижению своих политических интересов.

Ключевая проблема в этом вопросе – доступ к огромным базам личных данных, без которых невозможно эффективно влиять на предпочтения большого количества людей. Немало информации доступно на законных основаниях, особенно в США, и еще больше доступно тем, кто не хочет играть по правилам. Как недавно написал в статье в Guardian профессор Джонатан Раст (Jonathan Rust), директор Центра психометрики Кембриджского университета):

Иными словами, системы с ИИ, способные обрабатывать личные данные людей, научились влиять на их поведение.

Здесь важно отметить, что алгоритмам не обязательно влиять на мнение абсолютно всех. Для того, чтобы существенно увеличить прибыль – или повлиять на исход выборов – достаточно получить власть над значительной частью людей, пока не имеющих четкого мнения.

Не так уж важно, достигли ли данные и алгоритмы нужной точности уже сейчас, чтобы внести существенный вклад в победу Трампа. Наивно думать, что люди с большими деньгами и политическими амбициями, стоящие за этими схемами, остановятся на достигнутом. Поэтому стоит ожидать продолжения подобных попыток, только с еще большими усилиями и шансами на успех.

Но что нам теперь делать, спросите вы? Есть два логичных направления работы: нужно начать выше ценить наши личные данные, а также требовать более тщательного и этически правильного подхода от провайдеров, имеющих доступ к нашим данным.

Ваши персональные данные бесценны

Первое, о чем стоит задуматься каждому из нас – это то, какое огромное количество информации и в каких подробностях мы публикуем в соцсетях. Существуют специальные инструменты, которые помогают нам более явно это увидеть. Один из них – сервис Data Selfie, которые показывает все информационные следы, которые мы оставляем в Facebook.

Источник: Data Selfie

Сервис PersonalData.IO, созданный Полом-Оливье Дехэй (Paul-Olivier Dehaye), помогает человеку получить копию данных, которые накапливают о нем та или иная организация. Например, можно отправить запрос в Facebook или Cambridge Analytica (руководство на английском языке). Дехэй даже предложил план, согласно которому граждане США должны получить свои данные от Cambridge Analytica, и это помогло бы пролить свет на то, какой именно информацией располагала компания.

При обработке личных данных важно соблюдать прозрачность и подотчетность

В глобальном смысле будет недостаточно, если группа сведущих в поросе людей станет лучше контролировать свое поведение в сети или просто перестанет пользоваться Facebook – в конце концов, эти атаки рассчитаны в первую очередь не на них. Можно ли защитить всех пользователей от влияния алгоритмов?

Разумеется, центральную роль в этом вопросе играет Facebook, и компания действительно проявила интерес к решению этих проблем. Но не стоит ограничиваться только этой соцсетью. Нужно требовать, чтобы организации, имеющие доступ к нашим персональным данным, четко следовали букве закона, а также несли ответственность за свои действия и не скрывали их. Кроме того, законодателям стоит лучше следить за техническим прогрессом, чтобы в случае необходимости обновлять правовую базу и лучше защищать права людей в интернете и неприкосновенность их данных.

Специалист по машинному обучению, профессор Нил Лоуренс (Neil Lawrence) уже больше двух лет назад предупреждал нас об опасности сосредоточения наших личных данных в руках «олигархов цифрового мира». Сейчас самое время к нему прислушаться и принять меры.

Источник

Материалы по теме:

Специалист по кибербезопасности рассказал, как хакеры голосуют на выборах вместо нас

Как Facebook способствует радикализации пользователей

Специалист по большим данным из штаба Трампа рассказал, что победа была предсказуема

Дональд Трамп: «Facebook и Twitter помогли мне победить»