Нужно остановить big data: «темная сторона» больших данных, о которой вы, возможно, не задумывались

Анна Самойдюк
Расскажите друзьям
Анна Самойдюк

Блогер Джереми Эрдман в своей колонке на Medium рассуждает о недостатках больших данных. Он считает, что необходимо остановить этот растущий тренд, пока не поздно.

Типология Майерс-Бриггс. Пять вопросов на определение личности. Тест «Какой у вас патронус».

Скорее всего, вы либо слышали о таких тестах, либо проходили их. Они помогают нам сводить наши мысли и поведение к определенным рамкам, которые позволят нам лучше понимать себя.

В подростковом возрасте почти все мои одноклассники обожали типологию Майерс-Бриггс. Они проходили тест и делились результатами друг с другом. Он объяснял, почему мы интерпретируем ситуации определенным образом и реагируем на них по-разному. Многим он помог лучше понять себя.

С тех пор технологии сильно прогрессировали. Большие данные и искусственный интеллект позволили нам лучше понимать мир вокруг и друг друга. Данные о наших интересах, онлайн-активности и покупках дают теперь более точную модель нашей личности и характера.

Итак, что же происходит, когда компании собирают и анализируют эту информацию не только для того, чтобы понять нас, но и чтобы оказать на нас определенное влияние?

Cambridge Analytica

Фото: Unsplash

В марте о Cambridge Analytica не говорил разве что ленивый. Она прославилась благодаря скандалу с Facebook.

Компания использовала приложение Facebook «This Is your Digital Life», чтобы собирать информацию о 270 тысячах пользователей и их друзьях. В этом приложении пользователи должны были пройти викторину на определение личности, которая измеряла их уровень:

  • Открытости: люди, которым нравится учиться чему-то новому, обычно получают более высокие очки.

  • Добросовестности: Добросовестные люди обычно надежные.

  • Экстраверсии: Экстраверты получают энергию от взаимодействия с другими, интроверты черпают ее изнутри.

  • Склонности чаще говорить «да»: Такие люди дружелюбны и сострадательны. Люди, которые чаще отказывают, обычно более закрыты.

  • Невроза: Эмоциональная стабильность и уровень негативных эмоций.

После установки приложение запрашивало разрешение на доступ к личной информации: место проживания, список друзей и посты, которые пользователь отметил как понравившиеся. Cambridge Analytica взяла результаты оценки личности и сравнила их с информацией о 270 тысячах пользователей Facebook, установив взаимосвязи между определенными интересами и особенностями личности.

Cambridge Analytica была политической консалтинговой компанией, поэтому ей нужно было куда большее влияние. Приложение также собрало данные друзей, принявших участие в викторине пользователей.

В итоге Cambridge Analytica получила доступ к данным 81 миллиона пользователей Facebook. На основе установленных взаимосвязей компания составила личностные профили 81 миллиона человек. Затем она использовала их для таргетированной политической рекламы. Характер человека, его данные и предпочтения использовались для того, чтобы повлиять на его поведение как избирателя. Что дальше?

Что произойдет, когда эти данные будут использоваться не только для того, чтобы повлиять на поведение, но и чтобы наказать тех, кто отказывается подчиняться?

Фото: Unsplash

Система социального кредита в Китае

В июне 2014 года Государственный совет КНР опубликовал «Программу создания системы социального кредита». В документе подробно рассказывалось о разработке мер по оценке «надежности» 1,3 миллиардов жителей страны.

Что это такое?

Система социального кредита в Китае собирает информацию о транзакциях и взаимодействиях граждан. Затем она оценивает людей на основе их «надежности».

Система уже работает в пилотном режиме примерно в тридцати городах. На данный момент китайские техногиганты управляют двумя самыми известными проектами в стране. Один из них – Sesame Credit, находящейся под управлением Ant Financial Services Group, дочерней компании Alibaba. При подсчете рейтинга система учитывает пять факторов:

  1. Кредитная история – платит ли человек вовремя свои счета?

  2. Исполнительность – может ли человек исполнять обязательства по контракту?

  3. Персональные данные – можно ли подтвердить личную информацию: например, номер телефона или адрес?

  4. Поведение и предпочтения – соответствует ли поведение человека пожеланиям правительства?

  5. Отношения – окружает ли человек себя хорошими людьми?

Выстраивание таких профилей и подсчет очков требует огромного количества данных – от всех ваших покупок и личной информации до взаимодействий онлайн и знакомств. Как и Cambridge Analytica, правительство Китая планирует больше, чем просто создать и отслеживать профили людей.

Цель системы социального кредита – поощрять надежность посредством наград и наказаний. Людей с низким рейтингом не берут почти ни на какую работу, не дают кредиты, не продают билеты на скоростные поезда и самолеты, не дают в аренду автомобиль и велосипед без залога. Уже 6,15 миллионов граждан занесены в черные списки авиакомпаний.

Фото: Unsplash

Такие запреты представляют собой довольно серьезную проблему. Когда четко не оговорено, что можно, а что нельзя, начинается административный произвол. Если системе не будет хватать прозрачности, людям будет сложно понять, за что их наказали и как им набрать больше очков.

Многие из перечисленных наказаний – такие, как запрет на путешествия или отказ в приеме на работу – не дают людям совершенствоваться. В результате низкий рейтинг может помешать человеку добиться прогресса в экономическом плане. И это препятствие умышленно. Си Цзиньпин описал суть программы следующим образом: «Один раз провинился, всегда наказан».

Что нам делать?

У нас есть врожденное желание лучше понимать мир вокруг нас. В эру больших данных это желание наряду со стремлением к власти может привести к целенаправленной манипуляции и контролю.

  • Как же бороться с этим набирающим популярность трендом?
  • Как можно использовать большие данные не для контроля друг друга, а для освобождения?
  • Как использовать технологию для расширения возможностей, а не подавления?

У меня нет ответов на эти вопросы, но я уверен, что не один я хочу их найти.

Источник.


Материалы по теме:

Как применение метода глубокого обучения влияет на эффективность онлайн-кампаний?

«Технологический прогресс придет так быстро, что люди почти моментально окажутся на улицах»

Как большие данные увеличивают прибыль медиакомпаний

Антиутопия в Китае – технологичное полицейское государство, какого мир еще не видел


Актуальные материалы — в Telegram-канале @Rusbase

Нашли опечатку? Выделите текст и нажмите Ctrl + Enter


Комментарии

  • Дмитрий Танцюра
    Дмитрий Танцюра 23:58, 12.08.2018
    0
    Это для стада животных , что б за воротами не терялись
Зарегистрируйтесь, чтобы оставлять комментарии и получить доступ к Pipeline — социальной сети, соединяющей стартапы и инвесторов.
EMERGE
31 мая 2019
Ещё события


Telegram канал @rusbase