3 главных барьера, с которыми компании сталкиваются при внедрении искусственного интеллекта

ИИ позволяет автоматизировать большее число бизнес-процессов, чем доступные прежде технологии, заменяя даже сложно формализуемые решения сотрудников на умные алгоритмы. Он помогает оптимизировать процессы в рамках существующей бизнес-модели, а также запускать качественно новые. 

Например, компания МТС снизила издержки колл-центра на 80% за счет обработки входящих запросов ИИ чат-ботом, «Магнит» сократил дефицит продукции в магазинах на 2% (рост выручки до 4 млрд. рублей в год) благодаря нейросетям, в Superjob увеличили число закрытых вакансий на 5.4% с помощью персонализации откликов от кандидатов в личном кабинете рекрутера, а «Яндекс» запустил умную колонку и голосового помощника «Алису»‎, объединив несколько ранее недоступных возможностей ИИ в одном продукте.

Тем не менее, компании, которые хотят воспользоваться преимуществами искусственного интеллекта, сталкиваются с рядом барьеров. 

Сопротивление со стороны сотрудников

Несмотря на то, что ИИ позволяет повышать эффективность и прозрачность бизнес-процессов и решений, не всегда это может привлекать сотрудников. 

Так, автоматизация с помощью ИИ воспринимается обществом как технология, которая делает людей ненужными, лишает их профессии. Это не так. В отличие от популярного мнения, что ИИ превзойдет человека, на мой взгляд, основываясь на личном опыте более 50 проектов по ИИ, гибридный интеллект — это наиболее вероятная траектория развития ИИ и человечества. В этом случае человек и машина работают в симбиозе, дополняя друг друга. ИИ заменяет рутинные операции, а человек занимается креативной деятельностью. 

Более того, несмотря на то, что решение позволяет на порядок снизить затраты на ретушь, обрабатывать фотографии мгновенно и в любом объеме, руководители команд ретушеров иногда этому сопротивляются, так как боятся потерять свой социальный капитал и бюджет на следующий год из-за оптимизации подвластного им бизнес-процесса.

Другим примером негативного поведения является нежелание внедрять BI (Business Intelligence) инструменты и базовую аналитику, так как это вносит «лишнюю»‎ прозрачность — приходится принимать решения на основе данных, а не «ленивой»‎ интуиции. 

Рекомендации

1. Руководство и непосредственно команда HR должны разработать и внедрить систему мотивации сотрудников таким образом, чтобы карьерные цели сотрудников совпадали с целями компании и цифровой трансформации, иначе будут возникать описанные выше ситуации.
2. Сотрудники должны иметь возможность презентовать свой успешный проект команде топ-менеджеров, чтобы получить дополнительное финансирование и развивать проект внутри компании.
3. Культура компании должна располагать сотрудников к самовыражению и креативному мышлению.
4. При обнаружении интересных внешних решений задача цифрового лидера состоит в том, чтобы обеспечить объективное рассмотрение этих решений командами через A/B тестирование и другие методы.

Недостаточное внимание к кибербезопасности 

Даже когда процессы по ИИ и культура в компании выстроены идеально, стандарты закреплены, сотрудники мотивированы, всегда есть риск форс-мажора. И к таким форс-мажорам можно отнести хакерские атаки и утечку данных. 

Согласно отчету Identity Theft Report Center, число утечек в 2018 достигло 1244 и задело 64.4 миллиона кредитных карт. Среди потерпевших такие известные компании, как Home Depot (2014), Equifax (2017), Capital One (2019).

В первую очередь, утечки негативно сказываются на репутации компаний – согласно анализу KPMG, после утечки 19% клиентов Home Depot заявили, что прекратят отношения с компанией. Не стоит забывать, что компании должны выплачивать многомиллионные компенсации пострадавшим клиентам, платежным системам и банкам.

Так, после утечки одному из наших клиентов из финансового сектора потребовалось более 6 месяцев для предоставления доступа к минимально полезным анонимизированным данным. Служба безопасности другого клиента запретила предоставлять доступ нашей внешней команде консультантов даже без утечки, и мы были вынуждены разрабатывать алгоритмы анализа на основе синтетических данных! А после утечки регуляторы со стороны государства могут наложить специальные ограничения на круг людей и их уровень доступа к данным, что усложнит процесс формирования ИИ-команд.

Рекомендации

1. Компании должны постоянно инвестировать в кибербезопасность, проводя анализ уязвимостей в клиентских продуктах и корпоративных системах.
2. Более того, стоит ввести стандарты по доступу к данным, ограничивать его, следуя принципу «минимальные возможные полномочия для выполнения задачи, но без ущерба рабочему процессу»‎, и писать аудит-логи по доступу к данным на случай утечки. 

Неготовность компаний к особенностям ИИ-проектов 

Несмотря на преимущества по сравнению с традиционным программным обеспечением, тестирование ИИ на порядок сложнее. Дополнительно к традиционным тестам, например, юнит-тестам, интеграционным тестам, тестам на масштабирование и отказоустойчивость, тестирование ИИ включает в себя статистическую оценку качества модели машинного обучения на контрольных данных, исследовательский анализ прецедентов для выявления предвзятости (bias, прим. редакции) выборки данных, интерпретацию логики принятия решений.

Это делает команду контроля качества ИИ-моделей одной из самых важных в организации. К сожалению, на сегодняшний день очень мало компаний, которые по-настоящему это понимают. Так, даже у Tesla, которой удалось собрать первоклассную ИИ-команду, возникают ситуации, когда недочеты в ИИ приводят в негативным последствиям. Как следствие, клиенты более осторожно относятся к продуктам компании, что мешает росту бизнеса и косвенно замедляет внедрение ИИ, так как бизнес собирают меньше данных и обратной связи от пользователей.

Рекомендации

1. Компания должна выработать четкие критерии приемки и стандарты по тестированию интеллектуальных систем, чтобы в каждый момент времени понимать область применимости ИИ и обнаруживать дефекты на ранних стадиях разработки продуктов.
2. Найденные в процессе тестирования дефекты могут быть либо блокирующими, либо допустимыми. В последнем случае важно донести эти особенности до клиентов.
3. Некритические дефекты ИИ алгоритмов можно компенсировать за счет специальных интерфейсных решений, например, показывая контекстные подсказки. 

Резюмируя, добавлю, что несмотря на все особенности проектов на базе искусственного интеллекта, компаниям сегодня стоит как можно раньше начинать тестировать ИИ решения и платформы. Сложности и барьеры, которые возникают в процессе, являются типичными для большинства трансформационных проектов, а выгода, которую приносит ИИ, сполна перекрывает эти сложности в долгосрочной перспективе и при правильном формировании стратегии внедрения ИИ и портфеля проектов.

Надеюсь, что перечисленные мною рекомендации позволят компаниям двигаться быстрее и успешно преодолевать барьеры на пути внедрения инноваций.

 Фото на обложке: Radachynskyi Serhii, Shutterstock