«Подслушивает ли умная колонка? Все может быть». Михаил Бурцев — о голосовых помощниках и будущем разговорного ИИ

 Содержание

• О санкциях США против МФТИ
• С чего все начиналось
• О создании DeepPavlov
• О миллионе долларов от Amazon 
• Об Алисе и Алексе
• Об умных персональных помощниках 
• О проблемах и будущем НТИ
• О Human Brain Project
• Про сознание и искусственный интеллект
   

О санкциях США против МФТИ

Санкции ограничивают поставки товаров в МФТИ американским компаниям, но на студентах эти меры отразиться не должны. Потенциально санкции могут уменьшить вероятность стажировок, предсказать такое сложно. Это произойдет, если американские университеты и компании будут избегать формальных отношений с МФТИ, чтобы минимизировать будущие риски «на всякий случай».

Участие в соревнованиях для наших студентов, скорее всего, не будет ограничено. Однако Amazon, возможно, передумает давать гранты на команду МФТИ, так как поддержка исследований в санкционном университете может выглядеть не очень политкорректно.

Продолжат ли выступать на Физтехе с лекциями известные специалисты? Думаю, да, здесь ничего не изменится. Что касается влияния санкций на DeepPavlov, то здесь без комментариев, ведь я занимаюсь исследованиями, а не бизнес-составляющей проекта. 

С чего все начиналось

В 2015 году меня очень вдохновила статья в журнале Nature. В ней рассказывалось про алгоритм, который научили играть в 49 игр Atari, и в половину из них он сыграл лучше человека. Код, помогавший этот алгоритм обучать, был в открытом доступе. 

Вся эта история сподвигла меня на организацию мероприятия, где можно было бы поразбирать это решение. В итоге все вылилось в создание на Физтехе школы, совмещенной с хакатоном DeepHack.Game.

В мире тогда была волна энтузиазма по поводу нейросетей. И важные исследователи в этой области — Йошуа Бенджио, Руслан Салахутдинов, Юрген Шмидхубер, Дмитрий Ветров, Константин Воронцов — выступили у нас и рассказали про свою работу. 

Меня всегда интересовало, какие основные принципы позволяют успешно обучаться и накапливать знания и людям, и машинам. Представим, что есть некоторый агент, который взаимодействует с миром и в процессе этого взаимодействия накапливает знания и обучается.

Класс задач, где можно применять такие алгоритмы, широкий. Это игры, автопилоты, робофутбол и многое другое. Но все эти задачи, за исключением, может быть, игр, проблематичны тем, что там сложно накопить по-настоящему большой объем данных. Для этого требуется много времени и материальных затрат. А у игр недостаток в том, что это сильно ограниченный мир, и алгоритм под него подстраивается. 

Михаил Бурцев рассказывает на Физтехе о проекте iPavlov

 Так какие же это задачи, где агент учится взаимодействовать со сложным миром, а этот мир открыт и связан с физической реальностью и в нем много данных? Оказывается, что это диалоговые системы. Почему? Чат-боты взаимодействуют с людьми. Люди для них — сложный внешний мир, где они живут, общаются и могут обучаться. Свои знания о мире люди постоянно используют в диалоге. 

С точки зрения востребованности технологии диалоговые системы сегодня впереди. Взглянем на статистику: семь лет назад мессенджеры были у 10% населения планеты, сейчас — у 80%. Раньше люди звонили друг другу, а теперь переписываются.

Компании тоже хотят общаться с людьми в текстовом виде. Чтобы не оператор один на один и не таргетированные рассылки, а текстовые боты как способ понять, что человеку нужно, что его интересует. Возник новый канал коммуникации, и стал очевиден спрос на его автоматизацию. И следующий этап развития диалоговых систем — персональные помощники. 

О создании DeepPavlov

В 2015 году, когда стартовала Национальная технологическая инициатива (НТИ), мы написали проект по разработке технологии разговорного ИИ. Так появилась наша лаборатория нейронных систем и глубокого обучения, а спустя два года — open source библиотека DeepPavlov.

Мы изначально хотели именно open source формат, хотя это было довольно рискованно. Потому что целенаправленно создать библиотеку, которой будет пользоваться много людей, не так-то просто.

Суть и цель НТИ — вывод российских компаний на глобальные рынки. Но большая часть существующих рынков уже занята. Если же попробовать угадать, какой рынок может возникнуть, и создать решение, которое может быть востребовано, то есть шанс, что какие-то российские компании туда попадут.

Мы увидели растущий рынок текстовых коммуникаций и мессенджеров. И сказали: давайте создадим инструмент, который позволит российским компаниям сэкономить — не придумывать технологию, а просто взять ее в open source, переиспользовать и сделать уже свой продукт для выхода на глобальный рынок. 

Чем занимается наша лаборатория? Мы хотим сделать операционную систему типа Linux или Android, но только для персональных помощников. 

Может, это недостижимо, но зачем размениваться на что-то мелкое?

Наша технология — это и есть DeepPavlov, открытая библиотека разговорного ИИ, которую мы разрабатываем. Это технология построения виртуальных диалоговых ассистентов. Параллельно мы ведем исследования, которые эту технологию должны сделать лучше: различные языковые модели обучаются на больших корпусах текста и позволяют лучше понимать язык пользователей. 

Еще у нас есть проект по эволюционным алгоритмам. Существует идея, что не только мозги инженеров, но и сами алгоритмы способны генерировать архитектуры, лучше приспособленные для решения задач. Это направление исследований называется neural architecture search (NAS).

Михаил Бурцев

Алгоритм подбирает разные варианты нейросетей и оценивает, насколько они хороши. Потом он их может мутировать и размножать и воспроизводит поиск удачных архитектур, чтобы автоматизировать процессы и меньше привлекать к работе людей. Аналогичными исследованиями занимаются в Google и других ведущих IT-компаниях.

Несмотря на то, что библиотекой пользуются разработчики диалоговых систем по всему миру, в данный момент она напрямую не монетизируется — из-за своего открытого формата. Но у нас есть прикладные проекты с компаниями, которые хотят нашу технологию куда-то внедрить. Мы для них как консалтинг и разработка. 

В 2020 году на Физтехе в качестве спин-оффа появилась компания iPavlov, которая использует DeepPavlov в создании решений для разговорного ИИ. Это направление для монетизации. То есть у нас произошло разделение: лаборатория больше сосредоточена на разработке библиотеки и самой технологии, а компания — на коммерческих продуктах.

Технологией DeepPavlov пользуются примерно в 80 странах. Лидер по установкам — США, на втором месте — Россия. Библиотеку также активно скачивают пользователи из Нидерландов и Индии. 

На данный момент у DeepPavlov 313 тыс. PyPI-установок и более миллиона установок контейнеров. Ежемесячно более 400 тыс. загрузок моделей с HuggingFace.

Более 350 упоминаний в научных публикациях. 6 зарубежных заявок на патент (РСТ).

О миллионе долларов от Amazon 

Amazon ежегодно проводит конкурс на создание разговорного ИИ для своего голосового помощника — Alexa Prize Socialbot Grand Challenge. В нем участвуют только университеты (академические команды), а не частные компании. И это круто, потому что дает возможность обкатать идеи на миллионах реальных пользователей.

По правилам конкурса из сотен университетов отбираются 10 команд, которые на время участия в соревновании получают по 250 тысяч долларов. Впервые мы подались на Alexa Prize в 2017 году, и нас взяли в качестве дополнительной команды, без финансирования. Мы отказались от участия, потому что без гранта было бы туго.

Участники конкурса Alexa Prize рассказывают о своем опыте создания чат-ботов

В 2021 году на конкурс прислали 350 заявок. В финальную десятку попали восемь команд из США и две из Европы — чешская и наша, из МФТИ. 

Как выглядит само соревнование? Владелец умной колонки Amazon говорит: «Alexa, let's chat», попадает на одну из десяти команд, участвующих в конкурсе, и общается на английском языке с тем решением, которое эта команда создает. И так несколько этапов. Потом финал, где на кону — миллион долларов. Его может получить та команда, которая с помощью своего чат-бота проговорит с пользователем не меньше 20 минут.

Это должен быть осознанный разговор на произвольную тему. То есть надо, чтобы бот беседовал, как человек, но не требуется, чтобы он мимикрировал под человека и скрывал, что он бот. Пользователю должно быть интересно продолжать с ним разговор. Судьи следят за тем, чтобы человек намеренно не топил бота и не подыгрывал ему.

Наша команда дошла до полуфинала (подробнее о боте DREAM, разработанном лабораторией Физтеха, можно прочитать здесь). За время существования Alexa Prize пока никто не выиграл миллион. Это сложная задача, учитывая, что типичная длина диалога с реальными пользователями у команд составляла две с половиной минуты, а средняя продолжительность самых длинных диалогов была от 8 до 11,5 минуты.

Команда студентов Физтеха, которая участвовала в Alexa Prize Challenge 3

По правилам конкурса неэксклюзивные права на разработанные решения на выходе отдаются Amazon. Но не ограничивает для команд использование их решений для чего-то еще.

У меня был вопрос к нашим компаниям — тому же «Сбербанку» или «Яндексу» — почему им не организовать аналогичные соревнования? Сейчас с одним из партнеров мы активно движемся к запуску похожего конкурса в России — следите за анонсами. 

Об Алисе и Алексе

Несмотря на то, что я занимаюсь разговорным ИИ, сам общаюсь с чат-ботами только из исследовательского интереса. Возможно, в этом виновата профессиональная деформация, так как я, в отличие от большинства людей, знаю, как выстраивать с ботами диалог. 

У меня дома есть умная колонка «Яндекса», но в активной фазе она просуществовала месяц. Уже год пылится, я не нашел ей применения. Без подписки это не очень полезная вещь. Потом появились SberBox и SberPortal, которые уже гораздо активнее у меня используются.

Алиса, продукты «Сбера» или Алекса? Они похожи, но у Алексы больше проникновения за рубежом, это более продвинутый продукт. В России умные устройства экосистемы «Сбера», на мой взгляд, более прогрессивны с точки зрения технологий и пользовательского опыта. 

C точки зрения интереса для российского пользователя я бы расположил голосовых помощников в таком порядке:

1. Помощники «Сбера» (их три),
2. Алиса,
3. Alexa,
4. Google Ассистент,
5. Siri. 

Записывает ли Алекса разговоры, когда она выключена? Все может быть, мне сложно судить. Очевидно, что часто взаимодействия с пользователем записываются — возможно, и в выключенном состоянии тоже.

Здесь важно понять, с какой целью это происходит. Может, это просто функция, которая была активирована при отладке, и потом ее не выключили — я такое тоже вполне могу допустить. Потенциально от этого никто не застрахован.

Забавно, что у людей есть паранойя по поводу умных колонок, а не смартфонов. Вот вы уверены, что телефон не записывает ваши разговоры? А ведь вы каждый день носите его с собой. 

Я пытался общаться с английской версией китайского чат-бота Xiaoice (популярный голосовой робот, у которого больше 600 млн пользователей по всему миру; в начале ноября Xiaoice запустила собственную социальную платформу, позволяющую создавать виртуальных и реалистичных друзей на базе ИИ — прим. RB.RU), и мне она не показалась суперинтересной. Возможно, я просто не целевой пользователь и англоязычная версия бота не содержит тех возможностей, которые есть у китайского. 

Как правильно выстроить диалог чат-бота с пользователем? Часто бывает, что система все неправильно поняла и человек вовсе не хотел чатиться. И когда после этого бот предлагает ему поговорить, первая реакция человека — заткнись. То есть надо придумать, как сделать так, чтобы пользователь не сразу уходил, а хотел поговорить. 

Но с чего начать разговор? Спросить про то, как прошел его день, про любимое занятие — или ничего не спрашивать, а сразу рассказывать новости?

«Яндекс.Станция» с Алисой

Мы разработали на этот счет целую теорию. Сначала надо познакомиться с человеком, узнать о его текущей цели и настроении. Затем расспросить про события ближайших дней, хобби и интересы. Исходя из этого понять, какие темы — кино, музыка, игры или что-то еще — будут интересны пользователю для разговора.

Большинство современных голосовых помощников выдают пользователям «заглушку» с десятками вариантов фраз в ответ на поисковый запрос. Когда ждать качественно нового помощника, который сразу даст точный ответ без ухода в поиск? Это очень сложная задача, ведь человеку надо угодить практически с первого раза.

И Google, и Алиса сегодня хорошо выдают ответы, которые есть, например, в «Википедии». Находят правильный ответ примерно в 80% случаев. Но для более сложных запросов это не работает. 

Я участвовал в организации международных соревнований по разговорному поиску. Вы задаете боту уточняющие вопросы, и диалог становится более естественным. Голосовой помощник не сразу выдает готовый ответ, который может не устроить и даже расстроить пользователя, а сначала определяет альтернативные области, уточняя за несколько вопросов, что человек имел в виду.

Такая многошаговая система, возможно, и будет следующим этапом ответов чат-ботов на наши запросы. 

Об умных персональных помощниках 

Среда будет умнеть: у каждого из нас лет через десять появится умный персональный помощник. Думаю, что это неизбежно повлияет на поисковые системы. Компании, у которых бизнес построен вокруг поиска, будут стараться сами сделать персональных ассистентов. Иначе их бизнес станет никому не нужным. 

Поясню. Каждая компания хочет быть ближе к пользователю. Если между вами и интернетом находится смартфон, он отодвигает в сторону поисковую систему, которая стоит где-то внутри.

А теперь представьте, что операционная система вашего смартфона заменена на персонального помощника. Он находится в облаке, и вы с ним взаимодействуете через единый интерфейс всех своих устройств. А поиск и прочие сервисы становятся бэкендами этого помощника. Вы лишь просите его что-то найти или купить.

Чем ближе к пользователю сервис, тем лучше он дает рекомендации. Обращаться в поиск станет бессмысленно, ведь будет персональный помощник, который все о вас знает и концентрирует приватную информацию.

Очевидных плюсов здесь два: качество сервиса и минимизация вашего трафика относительно внешних сервисов. То есть помощник сможет убрать информационный след, который размазывается по интернету. Он будет вашим прокси-анонимайзером, и на конкретный запрос «нужны синие брюки 48 размера» пойдет к нужным поставщикам. 

Выступление Михаила Бурцева на AI Journey в ноябре 2021 года 

Как выглядит проблема сейчас? Вы гуляете по интернету, кликаете, и если специально не «предохраняетесь», вся информация о том, где вы были, трекается и сливается сторонним компаниям.

Получается, что Петя зашел на сайт, нажал на эту страницу, потом на эту, пересмотрел 50 вариантов брюк — и раз он выбрал синие штаны, завтра ему желтые кеды покажут и уже не отстанут. С помощником никто снаружи не будет знать, что покупатель штанов — вы. 

Минус всей этой истории тоже очевиден — конфиденциальность. Если накопленную в одном месте информацию взломают, про вас узнают сразу всё.

Безусловно, есть технологические решения, которые могут это предотвратить — хранение данных распределенным образом или в зашифрованном виде с какими-то алгоритмами, которые не позволят их изменить. Но, в любом случае, умному помощнику придется доверять.

Поток информации о вас будет проходить через него, а потом разветвляться на ручейки и выходить в разные сервисы. Сервисы смогут увидеть лишь часть данных, а помощник — их все. 

Когда-то люди были разбросаны по планете и ничего друг о друге не знали. Потом они, как клетки в организме, скооперировались при помощи интернета.

Возможно, сейчас — за счет развития ИИ — персональные помощники, как синапсы, по-новому объединят людей. И чтобы решить какую-то проблему, скажут: Петя, Вася и Коля вместе смогут поработать над этой задачей наилучшим образом. Они состыкуют этих троих и предложат им поучаствовать в проекте. Как тот же LinkedIn, только лучше.

Чтобы предсказать поведение человека, надо сделать его модель — цифрового двойника. Чем лучше эта модель, тем больше она знает и точнее предсказывает наши желания.

Самое оптимальное время предсказания — отрицательное. Чтобы модель исполняла желания еще до того, как мы их выскажем. Так бывает между людьми, которые долго живут вместе, ну, знаете, когда про них говорят, что они понимают друг друга без слов. То есть, если мы хотим по-настоящему умного помощника, у него внутри должен быть наш цифровой двойник. 

Возьмем для примера современные умные дома — это пока совсем не искусственный интеллект. Когда вы хотите спать — закрываете шторы. Когда просыпаетесь — хотите, чтобы на столе лежал свежий хлеб. Сейчас это уже можно запрограммировать и организовать за счет умных устройств.

Но настоящий умный дом получится тогда, когда система сможет выучить ваш формат поведения, подстроиться под него и реализовывать ваши желания на этапе их появления. 

О проблемах и будущем НТИ

Как-то на конференции AI Journey представители консорциума по ИИ (в него входят «Сбербанк», «Яндекс», Mail.ru Group, МТС, «Газпром нефть» и Российский фонд прямых инвестиций — прим. RB.RU) обсуждали, на каком месте в мире Россия находится по развитию искусственного интеллекта.

Аркадий Волож утверждал, что на третьем — после США и Китая. И я задал вопрос — как такое может быть, если по научным публикациям мы где-то в третьем десятке? Не очень понятно, по каким критериям оценивать это место. 

Вероятно, за счет «Яндекса», Mail.ru и еще кого-то Россия действительно третья — по внедрению ИИ в жизнь конкретных людей, то есть с точки зрения потребителя. Но что индустрия делает? Берет готовые наработки и идет, грубо говоря, по колее, которую в основном проложили другие страны. 

Что у нас есть? CatBoost «Яндекса» — согласен, прекрасная библиотека. Есть наш DeepPavlov, который тоже известен в мире. Но в целом посмотрите на ландшафт. Реальное место России в глобальном развитии ИИ — между 20-м и 30-м местами. Сделать что-то на переднем крае нам пока не удалось. 

В рамках НТИ я последовательно продвигал тематику программного обеспечения с открытым кодом, потому что сегодня это одна из движущих сил в области ИИ и вообще в разработке ПО. В этом году запустилась грантовая программа Фонда содействия инновациям, направленная на поддержку open source проектов.

Почему open source? Именно там Россия может попытаться задавать тренды, а не просто догонять и перерабатывать то, что сделали другие. Именно так российские компании могут выйти на международные рынки. 

При разработке федерального проекта «Искусственный интеллект» планировалось создание исследовательских центров, которые бы занимались не сиюминутными задачами, а прорывными исследованиями.

Но реализацию проекта поручили Минэкономразвитию, в итоге история переформатировалась и встала на догоняющие рельсы: программу центров переориентировали на работу по прикладным задачам от индустриальных партнеров. То есть у нас мышление тактическое — давайте делать то, что принесет больше пользы «народному хозяйству» прямо завтра. 

Для меня ИИ как научное направление интересен как раз тем, что результаты фундаментальных исследований могут быть применены чуть ли не на следующий день.

Лекция Михаила Бурцева в МФТИ

Если сделать алгоритм, который на 20 процентов повышает качество машинного перевода за счет фундаментально другого принципа обучения, то он может быть внедрен уже через два месяца. Сама природа исследований так глубоко завязана с технологией, что позволяет очень быстро все внедрять. 

Делая ставку только на прикладные цели, мы ограничиваем себя в открытии новых подходов, которые могут качественно повлиять на решение более широкого спектра задач. 

В целом это вопрос приоритетов нашей страны. На что лучше потратить деньги — на разработку open source проектов или строительство нейроморфных процессоров? Должны мы фокусироваться на проверенных направлениях или больше рисковать? Однозначного ответа тут нет. 

О Human Brain Project

Это амбициозный и в некотором смысле утопичный проект, так как с самого начала было понятно, что он не очень достижим в заявленные 10 лет (Human Brain Project — беспрецедентный по своим масштабам, финансированию и количеству задействованных ученых проект по созданию модели человеческого мозга — прим. RB.RU). Если бы удалось достичь его целей — это была бы фантастика. 

Сошлось много факторов в его финансировании (HBP получил грант в 1 млрд евро — прим. RB.RU). Во-первых, у руля проекта встал хороший ученый, харизматичный Генри Маркрам, который почти как Илон Маск: он очень логично рассказывает, и люди ему верят.

Во-вторых, проект мог решить сразу несколько важных задач. Смотрите сами: для моделирования мозга нужны мощные суперкомпьютеры, которые в любом случае не пропадут.

На основе полной модели мозга можно создать кучу алгоритмов ИИ, плюс при помощи моделирования найти ответы на вопросы о деградации функций мозга, например, при старении. И есть шанс, что с этими новыми фундаментальными знаниями о мозге подобные проблемы научатся решать. Словом, со всех сторон проект выглядел круто.

Но с чисто научной точки зрения вся эта затея вряд ли осуществима в ближайшие годы. Люди пока не способны связать свои знания о нейронных сетях со знаниями о человеческой психологии. 

Сейчас психология и нейрофизиология — это как квантовая механика и химия. Перейти от одной к другой не так-то просто. Необходим новый подход, промежуточный слой. И искусственный интеллект — как раз попытка сделать что-то в этом направлении. Возможно, именно ИИ поможет Human Brain Project реализоваться в будущем. 

Генри Маркрам, основатель Human Brain Project, рассказывает о компьютерной модели головного мозга

Есть такой крохотный червячок — почвенная нематода. Его нервная система очень примитивна, состоит всего из 302 нейронов. Структура связей между ними была подробно описана учеными еще в 80-х годах. И в Новосибирске даже пытались сделать модель этого червяка. Но не взлетело.

Вроде он ползал как реальный червяк, но позволило ли это лучше понять, как работает его нервная система? Если возьмем мышь, то в ее мозгу уже 200 млн нейронов. У человека — больше 80 млрд нейронов. Создать модель человеческого мозга в данный момент очень сложно. 

Также мой скептицизм связан с тем, что если модель мозга построена, нужна какая-то среда или тело, в которой эта модель будет существовать и обучаться. Просто модель — ну что такое? Ок, воспроизведем статистику, увидим, как работают нейроны. А что со знаниями? 

Про сознание и искусственный интеллект

Самые впечатляющие достижения в области ИИ на данный момент — гигантские языковые и мультимодальные модели, а также обучение с подкреплением в сочетании с алгоритмами поиска по дереву.

Языковые модели вроде GPT-3 обучаются на огромных корпусах данных и способны создавать текст, очень похожий на человеческий. Нейросеть может даже прикинуться Шекспиром — сгенерировать текст «его произведения» или выдать цитату.

Модели CLIP и DALL-E позволяют совмещать текстовое представление и визуальное, например, найти текст, наиболее точно описывающий картинку, или сгенерировать картинку по тексту. Очень впечатляют истории, когда ИИ обыгрывает лучших игроков в StarCraft и Dota-2. Или когда нейросеть AlphaFold умеет предсказывать структуру белков с точностью до ширины атома.

Какая прорывная технология нас ждет впереди? Это должно быть что-то, что использует с одной стороны нейросети и глубокое обучение, а с другой — предыдущие наработки, связанные, например, с моделями когнитивных функций.

У исследователей сейчас нет единого понимания, куда именно двигаться. Если мы говорим о супер-ИИ, то непонятно, достижим он или нет. Это валидный вопрос с точки зрения науки. А вот с точки зрения прикладных технологий и развития алгоритмов это не играет особенной роли. Здесь уже больше философия.

Возможно, однажды появится алгоритм, сопоставимый с человеком с точки зрения его способности получать новые знания. Потому что человек может и квантовую физику освоить, и машину научиться водить, и тройные тулупы крутить.

Также нужно понимать, что искусственный интеллект — это не про то, чтобы сделать еще одного человека. Это про систему, которая будет нам помогать — расширять наши возможности в достижении наших целей. И тогда мы должны зафиксировать другие вещи. Какие именно сверхзадачи ИИ способен решать? Какой вообще горизонт задач, которые ИИ может решить лучше человека? В этом плане тест Тьюринга уже давно устарел. Нужен «тест сверхтьюринга». 

Если у вас цель — построить машину, которая будет обладать такой же многозадачностью, как человек, и такими же, как у него, целевыми установками, то она вполне может задаться упомянутыми вопросами. 

Вопрос «Для чего мы существуем?» важен для людей, потому что определяет их дальнейшее поведение. Чтобы быть адаптивными, машины должны ставить под сомнение свои цели.

Представим, что сознание — это процесс, связанный с мышлением, и вы хотите смоделировать сознание человека. Означает ли это, что ИИ может быть намеренно запрограммирован человеческими эмоциями? Скорее всего да, это даже неизбежность.

Эмоции — отражение необходимых процессов мышления, и если мы делаем машину, которая обладает потребностями и должна их регулировать, то процессы внутри этой машины могут быть аналогичны тем, что мы называем человеческими эмоциями. 

Если мы хотим построить адаптивную машину, неизбежно столкнемся с тем, что должны будем четко определить, какой цели она должна достигнуть.

Может ли быть целью машины самосохранение? Если мы ее заложим — будет. Или сделаем такую систему, которая сама придет к этой цели. Уничтожение людей? Ну, представьте, что вдруг сам по себе появился ИИ, который захотел истребить всех комаров. Согласитесь, что это маловероятно. Надо, чтобы кто-то как минимум поставил перед ним такую задачу. 

Надо чтобы ИИ занимался теми задачами, решения которых нам необходимы, но неинтересны. Например, мы не хотим проводить скучные расчеты каждого варианта новой вакцины, а хотим получить от нашей системы набор возможных вариантов с описанием их свойств и выбрать тот, который больше всего нам подходит.

Так с искусственным интеллектом мы будем решать все больше и больше важных и интересных задач. Вот к чему мы стремимся. 

Метавселенная в некотором смысле уже существует — это интернет. Последние инициативы Facebook — это попытка добавить к ней еще один вид интерфейса. Подобные попытки были и раньше, например, игра Second Life, однако они не находили широкого распространения. Возможно, получится на этот раз.

Фото в тексте: предоставлены МФТИ.