Андрей Себрант: «Судный день невозможен»

Валерия Бородина
Расскажите друзьям
Валерия Бородина

Андрей Себрант, директор по маркетингу сервисов «Яндекса», выступил на встрече «Ferrein Talks. Человек и технологии 2020 года» в Москве. Мы записали самое интересное — о том, есть ли у технологий инстинкт самосохранения и грозит ли человечеству «судный день».

Устроят ли роботы расправу над человеком

Если мы позволим себе думать, что в будущем мы не будем нужны, – получим будущее, в котором людей не будет.

Судный день [роботов над людьми] невозможен. Почему? Приведу хороший пример с шахматами. В 1997 году Deep Blue и обыграл в шахматы Гарри Каспарова (суперкомпьютер IBM 11 мая 1997 года выиграл матч из шести партий у чемпиона мира Гарри Каспарова – прим.ред.). Шахматы после этого умерли? Люди перестали в них играть? Перестали проводить чемпионаты? Нет, ничего из этого не произошло. При этом мы знаем, что чемпион по шахматам не обыграет компьютер. У него нет шансов.

Мы пытаемся приписать машине те мотивы, которых у нее нет и быть не может. 

В кино апокалипсисы, которые связаны с роботами, всегда антропоморфные. Представьте два сюжета. Первый: революцию устроили роботы-землекопы. Антропоморфные роботы. Они с лопатами идут на карьер работать, потом – заряжаться куда-нибудь, и пока они там перезаряжаются – обсуждают революцию, объединяются в партийные ячейки. А после с лопатами идут в ближайший город громить капиталистов.

Теперь второй, нетипичный. Я бы сказал, не кинематографичный: У тебя есть карьерный экскаватор, который стоит в карьере и копает. У него крутой искусственный интеллект: он различает, какую породу в какой самосвал грузить. Его никогда не выключают, ему не нужна розетка. Он ничего, кроме как разбираться в породе лучше любого геолога, не умеет, и насыпать лучше любого оператора в самосвал – не умеет. Но ты же из этого фильм не сделаешь? 

[При этом] «карьерный экскаватор» будет завтра в каждом рабочем столе и даже в бокале с пивом.

Задача «Алисы» — понимать смысл

Допустим, тебе предстоят длинные выходные. Хорошо бы съездить куда-нибудь отдохнуть, и чтобы недорого, и море рядом. Можно поехать в агентство, а можно сесть и самому погрузиться в поиск: «Яндекс», Booking, «Островок», Aviasales

Читайте по теме: Эксперимент: редакция разговаривает с голосовым помощником «Алиса» от «Яндекса»

Задача [голосового помощника] «Алисы» – распознать твое «Алиса, слушай, вот туда хочу» и подобрать наиболее подходящие варианты. Наша задача – научить эту машину распознавать запросы. Понимать, что «в сочах» – это в Сочи.

У машины есть одна простая задача – понимать смысл

Та математическая репрезентация, с которой работает интерпретация смыслов в машине, – это трехсотмерное пространство. Смысл, который мы закладываем в запрос на математическом языке – трехсотмерный семантический вектор. Очень красивая литературная метафора – трехсотмерное пространство смыслов, по осям которого расположены понятия, не существующие в человеческом языке.

Инструментально это очень удобно. Резко повышает релевантность ответов в поисковике. А говорить, что это связано с неким копированием уровня нашего сознания, – нет.

Фото: www.facebook.com/asebrant

У Кевина Келли – моего любимого футуролога – есть в этом смысле отличная метафора. Понимаете, вся история технологической мысли человечества – про то, как мы наблюдаем за природой, вдохновляемся ей и выдаем по-своему. Возьмем, например, птицу. Люди вдохновлялись ей еще со времен Икара. Если у вас есть идея полета, то вы можете, конечно, пытаться создавать крылья с перьями (но это до сих пор ни у кого не получилось). А можете пойти другим путем: сначала придумать воздушный шар, потом придумать дирижабль, самолет, ракету и улететь на Марс. Это ведь тоже идея полета. 

Фото: www.facebook.com/amocrm/

Но сделать искусственного воробья, который бы здесь летал, чирикал и какал нам на головы, мы не можем. Мы не понимаем, как это сделать. Мы не знаем в деталях, как работает каждое перо в крылышках воробья. 

Чайник не будет захватывать мир, чтобы его не выключили. 

Потому что у него нет инстинкта самосохранения. Вот у людей он есть. Инстинкт самосохранения – одна из многих эвристик, которые возникли в давние времена (на самых ранних стадиях развития – еще даже не в беспозвоночных и не в млекопитающих). Она к интеллекту никакого отношения не имеет.

Задачи машина получает снаружи – ее задают люди. Самое неприятное, что на задачу «как эффективнее убивать людей» машина придумает такие способы, которые человечество еще не изобрело. Поэтому нужно быть готовым к атакам. 

Фото: www.facebook.com/asebrant

Сейчас это классическая история с кибербезопасностью. Большее количество атак на компьютерные системы ведет искусственный интеллект, а не люди. И поэтому хорошая система киберзащиты – тоже ИИ – распознает атаку и начинается защищаться. Они там сражаются между собой. Но задачу-то им дают люди.

Хорошо, что побеждает добро. Талантливые программисты работают на стороне добра. Если бы это было не так, то хакнули бы все давно.

На Луну отправлять искусственный интеллект неинтересно

Мне страшно нравится идея Вани Ямщикова (Иван Ямщиков – аналитик Яндекс – прим.ред.). Талантливый математик, это он придумал сетку «Пианола», которая пишет музыку. Он говорит, что хороший машинный интеллект надо отправить к тем звездам и планетным системам, которые мы сейчас обнаруживаем. Возможно, там есть какая-нибудь жизнь. [Недостаточно] Отправить туда статическую табличку или даже мультимедийную презентацию, чтобы ее там кто-нибудь нашел и узнал о землянах. Нам нужен машинный интеллект, который мог бы обучиться тому, чего мы сами не знаем и не понимаем. И мог бы ответить на вопросы, в которые мы в него не закладываем, чтобы взаимодействовать с тем случайным разумом, который там, возможно, есть.

Эта идея лучше, чем «а давайте построим колонию искусственного интеллекта на Луне».

Люди меняются гораздо медленнее, чем технологии

Технологии нервируют людей скоростью своего развития. Мы не привыкли к тому, что что-то может меняться по времени меньше одного поколения. Если вымирают профессии или меняется земледельческий уклад на индустриальный, то это длительный период – так мы привыкли.

Ты поступил в школу – интернета нет. Закончил школу – кто не знает, что такое интернет?

Человечеству непривычны такие быстрые изменения чисто психологически.

В будущем многим потребуется психоаналитик

SMM-специалист, оператор дронов, специалист, который обучает нейронные сети – этих профессий не было десять лет назад. Никого нельзя обвинить в том, что десять лет назад не готовили этих специалистов. Потому что в то время их не было как идеи. 

Единственное, к чему можно готовить специалистов в будущем, – переучиваться каждые пять лет.

Фото: Яндекс

Единственный навык, который останется у человека, – быстро учиться, чтобы придумывать новое. Тому, кто устал от этой гонки (учиться и создавать технологии, чтобы учиться), нужно идти в психологи. Психоаналитиков в будущем не заменит ни один продукт машинного обучения. А в будущем многим потребуется психоаналитик.

Некоторые высказывания приведены не дословно в целях сохранения контекста.


Материалы по теме:

Андрей Себрант сформулировал правила выживания для человека в 2020 году

Любимые книги Андрея Себранта, директора по маркетингу сервисов «Яндекса»

Искусственный интеллект стал умнее человеческого. Что дальше?

Как искусственный интеллект изменит здравоохранение через 5 лет


Актуальные материалы — в Telegram-канале @Rusbase

Нашли опечатку? Выделите текст и нажмите Ctrl + Enter


Комментарии

Зарегистрируйтесь, чтобы оставлять комментарии и получить доступ к Pipeline — социальной сети, соединяющей стартапы и инвесторов.
Петербургский Международный Инновационный Форум
28 ноября 2018
Ещё события


Telegram канал @rusbase