«Сейчас идет демократизация AI-технологий»: управляющий директор Sber AI о применении искусственного интеллекта в разных сферах

Вы узнаете:

• Как «Сбер» применяет ИИ в медицине и почему это важно
• Насколько искусственный интеллект развит в России
• Как быстро решения на основе ИИ дают результат (и какие существуют риски)
• О кейсах цифровизации в «Сбере»
• Достижим ли AGI — «разумный» искусственный интеллект
• Как обстоят дела с кадрами в сфере ИИ в России      

Про ИИ в медицине

— Что именно вы делаете в сфере искусственного интеллекта в медицине? 

— В структуре «Сбера» есть лаборатория по искусственному интеллекту, а в её составе — группа исследователей, работающая над проектом AI in healthcare, ИИ в сфере здравоохранения. Первоначально это была группа из трёх человек: двух специалистов по машинному зрению и менеджера по продукту. 

Объясню, почему именно по машинному зрению: значительная часть времени у врачей уходит на расшифровку снимков компьютерных томограмм, рентгенограмм и так далее. Многие диагнозы ставятся с учетом результата анализа этих снимков в соответствии с рекомендациями национального и международного уровня.

Очевидно, что нужно ускорить время диагностики, скорость подсчета поражения легочной ткани по снимкам и помочь врачам и клиникам повысить операционную эффективность. В зависимости от того, какой объём легких поражен, по характерным признакам вирусной пневмонии этот подсчет занимает определенное время, обычно — от 15 минут до часа.

Ещё он зависит от снимков, аппаратов КТ, от того, сколько задач параллельно делает рентгенолог. В условиях, где в смену работает один специалист, для некоторых клиник это становилось «узким горлышком» не только в Москве, но и практически во всех городах и странах.

— Какие задачи вы решаете с помощью машинного зрения?

— На самом деле есть много задач, где машинное зрение лучше или быстрее человека и при сопоставимом качестве позволяет обнаружить какие-то характерные патологии.

• Например, для определения типов инсульта (ишемический — закупорка сосуда, или геморрагический — разрыв сосуда), разные и схемы лечения. При этом важно принимать решения очень быстро.
• Также наши ребята работают над проектами по классификации новообразований. Некоторые формы опухолей, в том числе злокачественных, имеют характерные особенности, визуализируемые на снимках. И система машинного зрения позволяет их уловить и иногда «увидеть» некоторые нюансы лучше, чем человек.

Но я сейчас говорю не о замене врачей, а о подкреплении, когда медицинские системы усиливаются, а функционал обогащается, в том числе вторым-третьим мнением. Наши наработки позволяют решать ряд медицинских задач по поддержке принятия решений, арбитражах, в рабочем потоке приоритизировать задачи.

Практика показывает, что абсолютно везде, где мы задействуем когнитивные способности, ошибаются и люди, и машины. В зависимости от качества алгоритма последняя может допускать ошибки чаще или реже, если удаётся собрать хороший датасет снимков или других объектов наблюдения. Но важно не сравнивать врача и машину, а понимать, что врач, вооруженный сервисами на основе современных подходов, получит больше возможностей для улучшения и упрощения своей работы. 

Читать по теме: «Наша разработка должна сделать эндоскопию массовым обследованием»‎. Как ИИ из Ярославля помогает распознавать рак на ранней стадии

— Как вы обучаете алгоритмы, чтобы машина ошибалась реже? Используете большие датасеты? 

— Мало просто собрать большой датасет снимков КТ, ещё важно провести качественную разметку. Потому что разметка — это то, как мы машину учим определять целевые состояния, искомые признаки. В целом, те навыки и компетенции, которые сложились в Сбербанке, достаточны для того, чтобы делать алгоритмический движок таких систем. 

У нас есть проекты по анализу временных рядов: в классической прикладной математике это называется временной ряд, в медицине — холтеровское мониторирование, когда алгоритм, обученный группой врачей, понимает характерные патологии в работе сердца на основе ЭКГ.

Люди, отработав 8, 10 и более часов, устают, у нас элементарно отключается внимание.

— С какими ещё нюансами вы сталкиваетесь при разработке медицинских решений?

— Есть нюансы, связанные с правовым регулированием.

• Прежде чем использовать медицинское ПО, его необходимо сертифицировать. Поэтому важно при пилотировании сразу задаться этим вопросом, чтобы потом можно было использовать свой продукт в промышленном режиме.
• Кроме того, научно-исследовательские работы никто не отменял. Но прежде чем переводить в фазу клинических испытаний медицинское программное обеспечение, важно с врачами соответствующей специальности отработать его в экспериментальном режиме.
• Для клиник и стационаров, которые по какой-то причине не имеют возможности использовать собственные облачные сервисы, большинство наших продуктов доступны в облаке. Мы стараемся делать так называемые on frame-решения с соответствующим сопровождением.

— В период пандемии Сбербанк активно работал над решениями для борьбы с COVID-19. Можете рассказать подробнее, что вы делаете в этом направлении?

— Многие исследователи сейчас пытаются решить задачи на стыке здравоохранения и компьютерных наук. В частности, понять, можно ли дифференцировать вирусную пневмонию от COVID-19 и прочих вирусных заболеваний, делать выводы о том, насколько тяжела форма протекания заболевания, ориентируясь и на снимки, и на общую клиническую картину.

Уже понятны факторы риска, и в сочетании с определенной картиной, которую врач может увидеть на снимках КТ, это даёт возможность сделать вывод, что определенную категорию больных имеет смысл как можно раньше поместить в стационар, не пытаться лечить на дому и лечить не так, как тех, кто с большей вероятностью переболеет в легкой форме.

Мы разработали свой эпидемиологический симулятор, который позволяет анализировать доступную статистику по России и другим странам. Строим модель прогноза по трем сценариям: базовый, оптимистический и пессимистический, каждый из которых основывается на наблюдаемой динамике и так называемой «Статусной симуляции», когда практически в режиме реального времени оценивается доля выявленных случаев, скрытых, бессимптомных, плюс моделируется общее количество.

Фото: Zapp2Photo, Shutterstock

— Почему в «Сбере» вообще решили заняться разработками в медицинской сфере?

— Сбербанк уже давно не просто банк, а экосистема сервисов и продуктов. Мы представлены в более чем 10 индустриях. У «Сбера» есть дочерние компании, партнерские программы. Часть сервисов позволяет смотреть фильмы, заказывать еду или такси, часть сервисов мы только пилотируем на новых рынках. 

Большую часть социальных продуктов Сбербанка, связанных с COVID-19, мы предоставляли безвозмездно. Мы все в этой ситуации равно уязвимы, и для нас в этом смысле помочь стране и населению — это помочь нашим близким, родственникам. Поэтому коммерческий интерес был вторичен. Во всяком случае, в этом году практически все крупные технологические компании занимались темой COVID-19 без оглядки на прибыль.

Конечно, проекты сферы здравоохранения имеют потенциал монетизации. Этот рынок растет, особенно в США. Россия пока находится на этапе его формирования, и нам как экосистемному игроку хотелось бы развивать свои продукты не только на существующих, традиционных рынках, но и на новых. Поэтому проекты по здравоохранению и использованию новых технологий в медицине — одно из прорывных направлений, по которому может произойти рост спроса и формирование рынка.

— То есть сейчас клиники могут пользоваться вашим продуктом бесплатно?

— По COVID-19 — да, по коммерческим проектам информации пока нет. Распознавание — это исследовательская тема, потому что клинические испытания она пока не прошла нигде, насколько мне известно, в России во всяком случае. Есть исследовательский проект, к которому можно подключиться (речь об определении патологических участков на снимках КТ, характерных для вирусной пневмонии). 

Чтобы пользоваться нашими наработками, необходимо заключить лицензионное соглашение и соглашение о научном сотрудничестве.

Второй продукт — это аналитический дашборд, который мы частично публикуем на официальном сайте Сбербанка, где показываем временные ряды и аналитику по мониторингу эпидемиологической ситуации в России и других странах.

Мы, естественно, анализировали, как развивается ситуация. Первоначальная задача была связана с тем, что нам тоже надо было планировать, не просто гадая на кофейной гуще. Это позволило нам прогнозировать последствия и понимать, какие финансовые стратегии выстраивать.

— И насколько точным оказался прогноз?

— Достаточно точным. Мы предсказывали (еще в начале апреля) пик эпидемии на 6 мая. Два пиковых значения, очень близких по уровню — 11 200 и 11 500 человек — были 7 и 12 мая. То есть первый пик мы предсказали, но не думали, что он будет состоять из двух горбов. Дальше предсказали убывание, и оно действительно было.

Про применение ИИ в бизнесе

— Насколько в целом AI-сфера наукоемка? Какие нужны вложения в научно-исследовательские проекты?

 — Сейчас идет демократизация AI-технологий. Еще 7 лет назад основным сдерживающим фактором развития отрасли было специализированное высокопроизводительное «железо». Да, были институтские, университетские подписки, но все промышленное моделирование осуществлялось на так называемом проприетарном (частном) программном обеспечении. За последние 1,5-2 года оборудование сильно подешевело. Кроме того, растёт популярность оpen source-продуктов. 

Профессионалы разобраны работодателями, data scientists — на вес золота, а вокруг них надо еще и сформировать хорошую команду инженеров данных, ML-инженеров по внедрению, разработчиков.

— Очевидны ли российскому бизнесу выгоды от применения искусственного интеллекта? Насколько широко используется AI в России?

— Значительно меньше, чем нам хотелось бы. Наши крупные компании идут с некоторым отставанием от США и Китая, судя по тому, сколько там уже внедрено и реализовано и какой там объем инвестиций, а также уровень зрелости менеджмента и команд. Но, например, в «Сбере» мне уже не надо объяснять, как несколько лет назад, руководителю какой-то продуктовой команды, зачем здесь использовать технологии искусственного интеллекта, машинное обучение.

В конце прошлого года мы запустили суперкомпьютер «Кристофари». Это облачное решение, и мы работаем над обогащением его соответствующим функционалом. В частности, задача моей команды — делать сервис, которым смогут пользоваться как внутри банка, так и внешние клиенты, пользователи.

— Какой сервис?

— Сейчас все технологические задачи уходят в облака. Корпорации из топ-10 имеют свою собственную облачную инфраструктуру, например, Amazon Web Services, Microsoft Azure, Google Cloud Platform.

Бизнес-ценность возникает тогда, когда у этого облачного сервиса появляется платформенная функциональность, которой могут воспользоваться пользователи. Например, если в Сбербанке сейчас несколько команд одновременно работают над разработкой чат-ботов, то важно дать им этот конструктор, чтобы всё в нем в виде деталей и комплектующих было «под рукой» и без очереди.

Большинство call-центров в Штатах автоматизированы с помощью голосовых сервисов Amazon, точнее, их облачного подразделения AWS. По моей оценке, в 5 из 10 call-центров, которые полностью автоматизированы, есть IVR (интерактивное голосовое меню), они работают на движке Amazon.

Это значит, что Amazon смог сформировать крайне популярный продукт для компаний любого размера (и маленьких, у которых нет своих IT-специалистов и опыта по автоматизации call-центра, и крупных — например, авиаперевозчиков, сервисных компаний, банков, которые обслуживают стомиллионные рынки). Эти решения собираются по принципу микросервисов, собираясь из «строительных кирпичиков».

В России этой практики сейчас нет. У нас пока нет такой развитой облачной инфраструктуры и функциональности, и мы над этим работаем. У нас уже есть своя облачная структура SberCloud, работающая на данных «Кристофари».

Фото: Sbercloud

— Как быстро решения на основе искусственного интеллекта дают результат?

— До ощутимого результата с точки зрения бизнеса можно дойти и за одну-две недели. Например, анализируя какую-то платежную информацию (как, где и что люди покупают), можно давать клиентам рекомендации: здесь логично открыть аптеку, здесь — шиномонтаж, а здесь не хватает салона красоты или ресторана. На нашей инфраструктуре такие вещи можно сделать даже за дни, хотя обычно эти процессы занимают недели или месяцы.

Но всегда важно понимать IT-составляющую проекта для того, чтобы корректно интегрировать интерфейсы.

• Есть задачи более сложные, когда, помимо того, чтобы детально оценить текущую ситуацию, надо сделать прогноз, что будет при определенных условиях. Например, если здесь появится хлебопекарня, а рядом аптечная сеть, то как изменится потребление? ИИ помогает такие ситуации моделировать.
• Есть еще такой класс задач, как создание рекомендательного сервиса. Когда компания советует вам то, что сейчас для вас актуально. Заходите, например, на какой-нибудь сервис агрегатора, который позволяет выбрать автомобиль. Вы ищете машину, и по тому, какую, становится очень быстро понятно, что вам надо и как лучше структурировать ваш поисковый запрос. Такие решения чуть более сложные: нужно понять, куда подавать этот совет, каналы могут быть разными. Что-то будете искать в телефоне, а за чем-то поедете в магазин. Такие проекты реализуются уже за два-три месяца. 
• И ещё есть проекты, где вы вообще не понимаете, спасёт ли вас машинное или глубокое обучение в той или иной бизнес-задаче. Вы просто экспериментируете.

Одна известная компания, поисковыми запросами которой мы пользуемся каждый день, более трех лет занималась прямым переводом спектрограмм. Обычно онлайн-переводчики работают следующим образом: слева в окошке экрана вы пишите слово на русском, справа появляется перевод на английском. И даже если вы хотите эту информацию надиктовать, сервис сначала преобразовывает ее в текст, потом переводит с английского на русский, а затем может озвучить синтезированным голосом.

Ребята подавали на вход аудиозаписи одного и того же контента — озвучку фильмов на испанском, а на выходе получали её на английском. В конце прошлого года точность такого перевода достигла классического, когда текст сначала надо распознать, оцифровать, затем перевести и синтезировать в речь. Такие проекты могут не взлететь, поэтому для них правильно выделять отдельные команды. Но бизнес часто хочет результат уже сейчас или максимум завтра.

— Какие существуют риски использования AI в бизнесе?

— Существуют общие риски, которые свойственны абсолютно для всех задач, независимо от того, где ты применяешь технологию.

1. Есть такое понятие, как unеxplainable AI — необъяснимый искусственный интеллект. Не всегда очевидно, как он принимает решения, особенно сложные, глубоко обучаемые модели. Это нейронные сети, прежде всего, или подходы на основе обучения с подкреплением и некоторые другие виды машинного обучения.

В таких случаях важно иметь возможность интерпретировать модели. Если вы не понимаете, как работает модель, как она пришла к тому или иному выводу, вы всегда рискуете получить неожиданный результат (и не всегда он может быть хорошим, может не понравиться вашему клиенту, если это рекомендательная система, менеджеру и так далее).

2. Второй немаловажный аспект — это устойчивость, потенциально опасный софт AI. Поясню на простом примере. Сейчас уже все понимают, как работает лицевая биометрия, Face ID в телефонах: камера сканирует лицо и идентифицирует вас. По такому же принципу работают все городские системы видеонаблюдения, позволяющие отслеживать людей, например, находящихся в федеральном розыске. Эти системы пока можно обмануть — существуют уязвимости, бреши. С этим ведется борьба как со стороны разработчиков, так и со стороны специалистов по информационной безопасности.

3. Третий аспект — это недопустимость дискриминации интересов людей со стороны AI по каким-либо признакам, это активно обсуждается в профессиональном сообществе. Лично мое мнение, как человека, а не представителя Сбербанка, что эта проблема несколько преувеличена. Да, в некоторых странах это актуальная проблема, но она проистекает от первой проблемы — интерпретируемости.

Машине все равно, какого ты пола, сколько тебе лет, какой ты национальности и какого цвета твоя кожа. Но если в обучающей выборке люди именно с этим цветом глаз, именно такого роста и возраста чаще всего не возвращали кредиты или, наоборот, уходили в небольшую просрочку, но платили, машина принимает все как есть. Если этот поток меняется, то и она меняет свое поведение.

4. И к четвертому классу сложностей я бы отнес технологическую реализуемость. Часто в лабораторных, то есть «тепличных» условиях, мы можем сделать продвинутый алгоритм, который будет точно дифференцировать данные, но запуск этого алгоритма «в бою» будет ограничен качеством разметки, необходимостью сделать это с меньшим запаздыванием (надо, например, принимать решение не 20 миллисекунд, а 0,5).

Существует ряд технических и организационных задач и трудностей, с которыми сталкиваются все разработчики. Часто, чтобы даже разметить какой-то датасет, надо потратить много времени и сил, чтобы людям объяснить, как его размечать.

Все сервисы разметки организованы по принципу согласованности. Нельзя дать одному человеку 100 или 10 тысяч фотографий или каких-то документов для разметки. Надо посадить 10 человек и один и тот же комплект документов дать нескольким группам разметчиков, чтобы посмотреть, в чем они не сошлись, а в чем абсолютно солидарны. Серая зона, где они не сошлись, не работает.

Про кейсы цифровизации «Сбера»

— Расскажите, пожалуйста, про интересные кейсы оцифровки каких-либо процессов Сбербанка.

COVID-19

— Первая неожиданная задача, которой никогда не думал, что буду заниматься, — это разработка моделей для предотвращения эпидемии COVID-19. Не ожидал, что в феврале-марте столько времени придется общаться с врачами, вирусологами, эпидемиологами.

«Робот-юрист»

Также есть очень интересный проект «Робот-юрист». Творческая и сложная, с точки зрения когнитивных способностей и навыков, работа по проведению юридической экспертизы показала, что даже ее можно роботизировать.

Когда человек читает устав, учредительные документы для того, чтобы дать оценку потенциальных правовых рисков на моменте рассмотрения кредитной заявки, он делает много единообразных действий: смотрит на наименования юрлица, кто может принимать действия от имени этого юрлица, не истек ли срок доверенности, в соответствии с которыми, допустим, гендиректор уполномочил кого-то принимать эти действия и так далее.

Все эти вещи, даже сложные когнитивные способности, сводятся к рутине. Значительную часть рутины современные технологии искусственного интеллекта, системы роботизации процессов позволяют автоматизировать. Робот-юрист позволяет сократить весь процесс до шести-семи минут и помогает в принятии решений по кредитам для юридических лиц.

Работая с текстами, мы часто пользуемся функцией копировать/вставить. Она очень легко автоматизируется. Есть богатый инструментарий ПО, который это делает.

Digital Manager

Существуют проекты по автоматизации принятия менеджерских решений. Разбирая почту, мы, часто сами того не замечая, отвечаем на схожие запросы практически одинаково. И принимаем идентичные или очень похожие решения. Например, если человек хочет согласовать с вами отпуск, то у вас вариантов на самом деле два — согласовать или не согласовать. И третий — вы всегда можете что-то уточнить, например, кто останется вместо него. Такими вещами можно не спамить больших начальников: можно сделать так, чтобы некая AI-логика отвечала в почте сама.

У нас есть проект — Digital Manager. На сегодняшний день уже работает первый прототип программы — помощник в почте, который обучен на корпусе в 33 млн слов. Сама модель дописана на основе нейросети GPT-3 и называется Sberbank RU-GPT-3 Small. Мы по нескольким менеджерским вертикалям анализируем, как и что люди отвечают.

Есть даже способ оцифровать когнитивные искажения. Потому что в разных настроениях и состояниях (голодные и сытые, утром и вечером) мы можем одни и те же решения принимать по-разному. Современные алгоритмы находят зависимость, которая показывает, что принцип «более сытые судьи принимают более мягкие решения, чем голодные» на самом деле везде распространяется и действует.

Интересных задач очень много, поскольку экосистема «Сбера» представлена в разных индустриях.

Про AGI — общий ИИ

— Достижим ли искусственный интеллект, который сможет делать самостоятельные выводы на основании информации, которая к нему поступает, самообучаться и в какой-то момент осознать себя?

— В прошлом году и этом году мы собирались с единомышленниками и коллегами из профессионального сообщества, пригласили авторитетных людей из сферы нейронаук и обсуждали, в том числе, и этот вопрос.

Многое зависит от того, что мы вкладываем в понятие «мыслить, как человек». Поэтому люди, которые занимаются компьютерными науками, с профессиональной точки зрения нащупывают эту тему и это направление искусственного интеллекта. Предлагают разделять самоосознанность и самосознание.

Понятие «мыслить, как человек» больше подходит для изучения психологами, философами, а специалистов по машинному обучению, искусственному интеллекту больше интересует не сознание, не то, что машина думает или не думает, а способ обучения и способность переобучения.

Ребенку достаточно один раз сказать, что на картинке кот или собака. И он, увидев нечто напоминающее кота, поймет, что это. Даже если ему покажешь рысь, он догадается, что это большой кот. Нейронные сети работают совершенно по-другому. 

— Кто ведёт исследования в области AGI? 

— Сейчас этими исследованиями занимается, например, британская компания DeepMind. Они пытаются понять, как выстроить такую алгоритмику обучения и задать такую архитектуру агента искусственного интеллекта, когда это обучение можно будет делать на достаточно небольшом наборе данных. А самое главное — научиться строить системы, которые могут быть обучены на одной задаче и использовать свои навыки, чтобы дообучаться в бою. 

DeepMind проводили такие эксперименты, когда учили систему на основе методов обучения с подкреплением играть на уровне чемпиона мира по игре в Го. Потом они выпускали алгоритм на шахматную доску с совершенно другими правилами. Это как раз про способность принимать решения в широком диапазоне сред и задач, будучи обученным на других.

Люди тем и отличаются от машин, что постоянно сталкиваются с концептуально новыми задачами и у них активизируется навык обучения на лету. Развитие именно этих возможностей в конечном итоге и приведет к тому, что общий искусственный интеллект (так мы договорились называть его по-русски) начнет совершенствоваться.

Кадр из фильма про AlphaGo

— Возможен ли апокалиптический сценарий «восстания машин»?

— Про апокалиптический сценарий, как в фильме «Терминатор», где искусственный интеллект Скайнет начал войну людей и машин, надо помнить. Но это решается в том числе и путем уполномочивания. Даже если AGI-агент будет достаточно самостоятельным, вопрос в том, кто, как и в какой форме будет делегировать ему полномочия на принятие определенных решений. Думаю, человек из этого процесса еще долго не выйдет.

Прикладной разработкой в этой сфере не занимается пока никто. Исследованиями в области общего искусственного интеллекта мы начали заниматься с прошлого года. Сейчас самая понятная подобласть этого исследования — это подсмотренные у природы принципы, и в Сбербанке мы уже делаем первые шаги в этой области.

Про кадры

— Как обстоят дела с кадрами на рынке искусственного интеллекта и у вас как у «Сбера»?

— Мы накопили опыт в развитии образовательных технологий в рамках профессионального образования: у нас есть корпоративный университет, «Школа 21» для подготовки ИТ-специалистов, проекты со школьниками и студентами, которые мы в том числе делаем совместно с Минпросвещения и Министерством науки и высшего образования.

Мы четко понимаем, что без персонализированных карьерных треков, интеллектуального и адаптивного подхода к формированию образовательного контента очень сложно будет готовить людей, которые нам нужны уже сейчас. Уже не говорю о том, что через 5-7 лет нам понадобятся люди совершенно другой формации, нежели те, что были 15 лет назад.

Очень важно сотрудничество в сфере образования. И со школами, университетами, и с другими технологическими компаниями. В прошлом году был создан Альянс по ИИ, куда вошёл ряд российских компаний. И мы на совместных встречах и мероприятиях эту повестку активно обсуждаем.

С текущей системой образования Россия будет проигрывать другим странам в разных направлениях, и одной из целей Национальной стратегии развития ИИ, соавторами которой мы были, является кратное увеличение подготавливаемых специалистов в области data science, специалистов, которые будут развивать AI.

Это и наша задача, и государства, и компаний-партнеров по Альянсу по ИИ — исправить ситуацию. Если мы сегодня не перестроим систему образования, не предложим завтрашним специалистам правильный подход к формированию этого образовательного контента, его подаче, выявлению склонности у молодых ребят, то у нас не появятся конкурентоспособные решения ни через год, ни через пять лет. Это одна из ключевых тем, в которую мы инвестируем. Как минимум треть моего менеджерского времени уходит на образовательные проекты.

Мы также проводим конференцию Artificial Intelligence Journey (AI Journey), чтобы привлечь как можно больше экспертов, специалистов, студентов и просто интересующихся темой к развитию технологий в России. В этом году мы впервые сделали отдельную программу для школьников — AI Junior.

 Фото на обложке: предоставлено Sber AI