Нетерпимость и предвзятость: почему алгоритмы не могут заменить менеджера-человека

Работодателям выгодно использовать программы: они снижают бизнес-расходы, автоматизируя задачи, для выполнения которых человеку требуется больше времени. К примеру, согласно последним ежегодным данным, имея 22,8 тысяч сотрудников, Uber может контролировать работу 3,5 млн водителей.

ИИ-системы также способны оптимизировать бизнес-процессы. Модель ценообразования Uber (временно повышать тарифы, чтобы привлекать водителей в часы пик) возможна лишь благодаря алгоритму, обрабатывающему изменения пассажирского спроса в реальном времени.

Однако автоматизация обладает и недостатками. Алгоритмическая предвзятость — вероятно, наиболее обсуждаемый риск среди журналистов, исследователей и политиков.

Печально известный пример — система ранжирования Amazon, которая оценивала резюме кандидатов по пятибалльной шкале. Компания пришлось от нее отказаться: система регулярно давала резюме с мужскими характеристиками более высокую оценку, чем аналогичным с более женскими качествами.

Есть и другие проблемы, которые возникают из-за распространения алгоритмов. Одна из них связана с прозрачностью.

Дело в том, что классические системы принимают решения, исходя из пошаговых инструкций, и выдают лишь запрограммированные результаты. А вот алгоритмы машинного обучения, поглощая большое количество данных, учатся принимать решения самостоятельно. По мере развития они усложняются: даже программисты не могут определить, как они работают.

Таким образом, неизвестно, как алгоритм обосновал решение, например об увольнении сотрудника. А значит, не получится установить и то, было ли оно предвзятым, неправильным или случайным. В таком случае результат может считаться морально неприемлемым или даже незаконным. Но как же работнику это доказать?

Алгоритмы-управленцы усиливают неравенство между работодателями и сотрудниками, не давая устранить злоупотребление властью. Кроме того, они исключают человеческую функцию в трудовых отношениях. Философ Жан-Жак Руссо называл это «природным состраданием» и «врожденной неприязнью к чужим страданиям».

Конечно, не всем менеджерам-людям свойственна эта черта. Однако у алгоритмов ее и вовсе не может быть. Тематическое исследование показало, что курьеры Amazon Flex испытывают раздражение из-за того, что система не способна воспринимать жалобы человека.

Цель алгоритмов — максимально повысить эффективность. Их не волнует, что сотруднику может срочно потребоваться выходной, чтобы посидеть ребенком. И они не будут относиться с понимаем к новичкам, которые только осваивают свои обязанности. 

Исследователи и разработчики уже изучают риски, которым подвержен персонал, находящийся под руководством алгоритмов. Конечно, ИИ-системы выгодны бизнесу, но это не повод допускать плохого отношения к работникам.

Источник.

Фото на обложке: Willyam Bradberry / Shutterstock