«Мы должны учитывать самые неожиданные сценарии». 7 мыслей Сатьи Наделлы о будущем ИИ

Светлана Зыкова
Светлана Зыкова

Главный редактор Rusbase

Расскажите друзьям
Светлана Зыкова

В книге «Обновить страницу» CEO Microsoft Сатья Наделла рассказал о качествах, которыми должны обладать специалисты будущего, и поразмышлял о правилах разработки искусственного интеллекта. Делимся семью интересными мыслями на эту тему.

1. Качества, которыми должен обладать ИИ

В будущем ИИ станет привычным и необходимым спутником. Он будет помогать заботиться о людях, диагностировать болезни, учить и консультировать. Согласно исследованию компании Tractica, объем мирового рынка виртуальных электронных помощников к 2021 году достигнет примерно 16 миллиардов долларов, при этом основную часть роста обеспечат частные потребители. Но проект ИИ постигнет неудача, если его интеллектуальное развитие не удастся дополнить эмоциональным.

Вызов, стоящий перед разработчиками ИИ, заключается в том, чтобы он обладал не только разумом, но и человеческими качествами: эмоциями, понятиями об этике и умением сопереживать.

Можно сказать, что мы находимся в процессе выведения нового вида, интеллект которого не имеет предела. Некоторые футурологи предсказывают, что так называемая технологическая сингулярность — момент, когда компьютерный интеллект превзойдет человеческий, — наступит примерно к 2100 году. Впрочем, есть и другое мнение — что сингулярность так и не выйдет за пределы научной фантастики. Мысль о подобной возможности кого-то пугает, у кого-то вызывает энтузиазм, а порой — понемногу и того и другого.

На нашу полку попадают книги, которые рекомендуют герои наших интервью и колумнисты. Получите месяц на Bookmate бесплатно: введите промокод RUSBASE.

2. Погубят ли нас роботы

Как следует в конечном счете оценивать ИИ — как полезное или разрушительное для человечества явление? Я склонен верить в первое. Но, чтобы случилось именно так, для начала необходимо выйти за рамки мышления в духе «машины против людей».

ИИ Deep Blue компании IBM вызвал в 1996 году сенсацию, доказав, что компьютер способен одержать победу над человеком в шахматном поединке чемпионского уровня. Спустя год Deep Blue сделал гигантский шаг вперед, победив легендарного российского шахматиста Гарри Каспарова в турнире из шести игр. К 2011 году Watson компании IBM победил двух мастеров телешоу Jeopardy!, а в 2016 году AlphaGo компании Google DeepMind переиграла Ли Седоля, южнокорейского мастера го.

Без сомнения, это грандиозные достижения научной и инженерной мысли. Но будущее готовит нам еще более великие сюрпризы, чем победы компьютеров над людьми в разных играх. В итоге люди и машины будут сотрудничать, а не противостоять друг другу.

Но, чтобы ИИ приблизился к этому уровню, нужны усилия гораздо более амбициозные, чем запуски ракет на Луну. Глава нашей исследовательской лаборатории в Кембридже Кристофер Бишоп однажды составил докладную записку, в которой утверждал, что нам потребуется приложить столько же усилий, сколько требует целая программа космических исследований — множество параллельных, одиночных, но взаимосвязанных ракетных запусков.

Наша цель заключается в том, чтобы сформулировать великую и вдохновляющую задачу, имеющую большое общественное значение, для решения которой необходим ИИ.

В многочисленных дискуссиях о дальнейшей судьбе ИИ из виду упускается прекрасная возможность совместной работы машин и людей.

Похоже, наше восприятие ИИ застряло где-то посередине между навязчивым голосом компьютера-убийцы HAL из фильма «Космическая одиссея 2001 года» и дружелюбными голосами современных персональных электронных помощников: Cortana, Siri и Alexa. Мы либо мечтаем о том, как распорядимся внезапно свалившимся на нас свободным временем, когда машины будут возить нас, куда нам нужно, заниматься повседневными делами и помогать нам принимать идеальные решения. Либо же пугаемся массового вытеснения людей из экономики бездушными роботами. Похоже, мы пока не способны выйти за рамки этого выбора между утопией и антиутопией.

Фото: Depositphotos.

3. О подходе Microsoft к проблемам ИИ

На наших конференциях разработчиков я объясняю подход Microsoft к проблемам ИИ на основе наших трех ключевых принципов.

Во-первых, мы хотим создать искусственный интеллект, усиливающий и дополняющий человеческие способности и опыт. Вместо того чтобы мыслить в парадигме «человек против машины», мы намерены сосредоточиться на том, как человеческие черты, такие как творческое начало, умение сопереживать, эмоции, чувствительность и интуиция, могут сочетаться с мощью вычислений искусственного интеллекта, то есть со способностью анализировать большие массивы данных и быстрее производить распознавание образов во имя общественного прогресса.

Во-вторых, мы должны напрямую встраивать доверие в наши технологии. Необходимо, чтобы технологии изначально умели защищать неприкосновенность частной жизни, прозрачность и безопасность. Устройства на основе ИИ должны обнаруживать новые угрозы и по мере их эволюции создавать новые способы защиты.

И, в-третьих, созданные нами технологии должны быть доступны всем, они должны уважать потребности каждого человека, выводя людей за пределы культур, рас, национальностей, экономического статуса, возраста, пола, физических и умственных способностей и так далее.

Это будет хорошим началом, но мы способны продвинуться намного дальше.

4. Роль ИИ как «третьего рабочего цикла»

Изобретатель Илон Маск заявил: если люди не добавят к своим мозгам еще один, цифровой уровень интеллекта (за счет передатчика между корой головного мозга и искусственным интеллектом компьютера), мы скатимся до уровня сознания наших домашних питомцев. А пионер компьютерной науки Алан Кей остроумно заметил: «Лучший способ предсказать будущее — изобрести его».

Если подумать об этом в контексте ИИ, на самом деле это значит: «Прекратите выдумывать, на что будет похоже будущее; просто создайте его, руководствуясь твердыми принципами». Согласен. Как и любой вызов в области разработки ПО, данный принципиальный подход начинается с платформы, на которой все будет строиться. Говоря на языке программистов, ИИ становится третьим рабочим циклом — следующей системой, на базе которой приложения будут создаваться и работать.

Первым циклом был ПК, для которого Microsoft разрабатывала такие приложения, как пакет Office: Word, Excel, PowerPoint и прочее. Второй цикл — это сегодняшняя глобальная сеть.

В мире роботов и искусственного интеллекта инструменты коммуникации и повышения производительности будут создаваться на принципиально новой платформе, которая будет не просто управлять информацией, но и учиться с ее помощью, а также взаимодействовать с физическим миром.

Контуры третьего рабочего цикла вырисовываются в наши дни. В меморандуме Билла Гейтса «Приливная волна интернета», опубликованном весной 1995 года, содержалось предсказание о влиянии глобальной сети на связь, на разработку программных и аппаратных средств и на торговлю. Сегодня, спустя два с лишним десятилетия, мы видим на горизонте новую приливную волну — волну ИИ.

5. О главных принципах работы ИИ

Критически важным следующим шагом на пути к ИИ является согласование его этической и эмпатической структуры. Такой подход к системным разработкам учитывает не только технические требования, но также этическую и эмпатическую сторону. Поэтому я стал размышлять о принципах и целях проектирования ИИ, которые следует обсудить как в рамках IT-индустрии, так и в масштабах всего общества в целом.

  1. Предназначение ИИ — помогать человечеству. Даже если построенные нами машины будут обладать большей самостоятельностью, следует уважать и самостоятельность человека. Роботы, предназначенные для взаимодействия с человеком в профессиональной сфере, должны брать на себя опасные виды работы, например работу в шахте, создавая тем самым систему обеспечения безопасности и защиты людей.

  2. ИИ должен быть прозрачным. Нам всем, а не только техническим экспертам следует иметь представление о том, как работает эта технология и какими правилами она руководствуется. Нам нужны машины не только разумные, но и доступные для понимания; не просто искусственный, но симбиотический интеллект. Технология будет получать знания о людях, но люди тоже должны знать, как именно технология видит и анализирует мир: что, если у машины создаются о вас неверные представления, а вы не имеете возможности на это повлиять?

    Прозрачность жизненно необходима, когда соцсети собирают о вас сведения, но при этом делают ложные умозаключения. Этика и проектирование следуют рука об руку.

  3. ИИ должен добиться максимальной производительности, не нанося при этом ущерба человеческому достоинству.

  4. Он должен уважать культурные установки, укрепляя многообразие. Чтобы прийти к такому результату, требуется привлечь различные группы населения к более активному, широкому и многообразному участию.

  5. Технологическая индустрия не должна навязывать будущему ценности и моральные принципы. В равной степени будущее не должно находиться под единоличным контролем небольшой части человечества, проживающего в богатых и влиятельных регионах: Северной Америке, Западной Европе и Восточной Азии. Представители всех культур должны иметь возможность участвовать в формулировании ценностей и целей, определяющих структуру ИИ.

  6. Искусственный интеллект должен защищать человечество от социальных и культурных искажений, обеспечивая адекватные и репрезентативные исследования, чтобы неверные установки не приводили к умышленной или неумышленной дискриминации.

  7. Искусственный разум должен обеспечивать приватность интеллектуальной сферы, воплощая в себе надежные и заслуживающие доверия средства защиты персональной и коллективной информации.

  8. Алгоритмы ИИ должны контролироваться, чтобы человек имел возможность отменить действие, ненамеренно причиняющее вред. При разработке технологий ИИ мы должны учитывать самые неожиданные сценарии.

Многие из этих этических соображений уже воплощены, к примеру, в наших цифровых интерфейсах. Алгоритмы, анализирующие ваши предыдущие действия и предпочтения, имеют все более тесную связь с человеческим опытом. Они запоминают, что мы читаем, с кем встречаемся, что лайкаем.

Все эти подсказки предлагаются нам по сотне раз на дню. И у меня в связи с этим возникает вопрос: во что превратится проявление свободной воли в подобном мире и как это повлияет на многих людей и на сообщества, перед которыми открываются столь разные взгляды на мир. Какова будет роль многообразия и всеобщей вовлеченности, когда речь зайдет о проектировании платформ для управления контентом и информацией?

Фото: Depositphotos.

6. Качества, которые будут цениться в будущем

Вот что понадобится нашим детям и детям их детей, чтобы идти в ногу со временем.

  • Эмпатия. Сопереживание, которое так трудно воспроизвести в машинах, станет бесценным даром в мире людей, взаимодействующих с искусственным интеллектом. Способность воспринимать мысли и чувства других, сотрудничать и строить взаимоотношения приобретет огромную важность.

    Если мы хотим поставить технологии на службу человеческим нуждам, мы, люди, должны первыми пройти этот путь, развив в себе глубинное понимание и умение уважать ценности, культуру, эмоции и побудительные мотивы друг друга.

  • Образование. Некоторые утверждают, что по мере роста продолжительности человеческой жизни рождаемость будет идти на спад, а значит, расходы на образование тоже. Я, однако, считаю, что создание и использование инноваций, о которых сегодня не приходится даже мечтать, потребует увеличения вложений в образование ради выхода на новый уровень мышления и ради более справедливого доступа к образовательным возможностям.

    Развитие знаний и навыков для широкомасштабного внедрения новых технологий — это сложная общественная проблема, решение которой потребует немало времени. Механический ткацкий станок был изобретен в 1810 году, однако вызванные им преобразования в текстильной промышленности заняли тридцать пять лет из-за дефицита квалифицированных кадров.

  • Креативность. Умение творить — одно из самых почитаемых человеческих качеств, и так будет всегда. Машины обогащают и дополняют наши творческие способности, но человеческое стремление творить всегда останется самым важным элементом. В одном интервью писательницу Джумпу Лахири спросили, почему она, прославившись благодаря произведениям на английском языке, решила сказать новое слово в литературе на итальянском — своем третьем языке. «Но разве это не есть суть творчества — находиться в постоянном поиске?» — ответила она.

  • Рассудительность и ответственность. Возможно, в будущем мы сможем согласиться с диагнозом или судебным решением, которые сгенерирует компьютер. Однако все равно мы будем ожидать, что в конечном счете ответственность за это несет человек.

7. О будущем, к которому приведет автоматизация

К чему приведет автоматизация — к сглаживанию неравенства или к его обострению?

Одни экономисты-теоретики советуют не беспокоиться по этому поводу. Они говорят о том, что на протяжении человеческой истории технологические прорывы делали большинство работников богаче, а не беднее.

Другие предупреждают, что лишение устойчивого экономического положения станет такой острой проблемой, что предприниматели, инженеры и экономисты должны будут принять «новый великий вызов» и пообещать разрабатывать только такие технологии, которые будут дополнять, а не заменять собой труд людей. Они рекомендуют (и я соглашюсь с ними), чтобы мы, бизнес-лидеры, сменили установки на рационализаторство и автоматизацию другим образом мышления, который ориентирован на человека — творца и созидателя.

Путь развития ИИ и его влияния на общество только начинается. Чтобы по-настоящему осознать значение грядущей эпохи, требуется глубокий мультикомпонентный анализ.

Пока что не существует четкого плана насчет того, как будут развиваться дальнейшие события. Но если судить по прежним промышленным революциям, переход общества в новую фазу проходил через череду этапов, и не всегда плавно.

  1. Во-первых, мы изобретаем и проектируем технологии трансформации, актуальные для нынешнего дня.
  2. Во-вторых, мы заранее проводим модернизацию и готовимся к наступлению будущего — вскоре мы вступим в эту фазу. Например, дроны нуждаются в обучении, эволюция традиционных автомобилей в автономные средства передвижения потребует конструктивной переработки и модернизации.
  3. В-третьих, мы научились двигаться к цели, невзирая на помехи, диссонансы и дезорганизацию. Эта фаза ставит перед нами новые острые вопросы. Чем будет заниматься рентгенолог, если машины лучше умеют читать рентгеновские снимки? Каковы будут функции юриста, если компьютеры научатся выявлять правовые схемы в миллионах документах, чего не может ни один человек?

Каждый из переходных этапов поднимает трудные проблемы. Но если мы заранее внедрили в процесс верные ценности и принципы проектирования, если мы подготовились за счет развития в себе умений, необходимых человеку новой эпохи, люди и общество будут процветать, даже после того, как наш мир изменится до неузнаваемости.

Сегодня мы не думаем об авиации как об «искусственном полете» — это просто полет. Точно так же не нужно думать о технологическом интеллекте как об искусственном — скорее это разум, который служит человеку, усиливая его умения и способности.


Материалы по теме:

Эта программа на основе ИИ может вас переспорить, однако не понимает, о чем говорит

Какие навыки прокачать сегодня, чтобы завтра зарабатывать 300 тысяч рублей

«Специалисты, которых мы будем нанимать в следующие 10 лет, должны быть сильны в математике»

Человек нам не ровня: девять главных роботов-убийц в истории кинематографа

Фото на обложке: Depositphotos, QZ.com.


Актуальные материалы — в Telegram-канале @Rusbase

Нашли опечатку? Выделите текст и нажмите Ctrl + Enter


Комментарии

Зарегистрируйтесь, чтобы оставлять комментарии и получить доступ к Pipeline — социальной сети, соединяющей стартапы и инвесторов.
EdCrunch Wokshops
29 сентября 2018
Ещё события


Telegram канал @rusbase