Истории

Как ученые использовали ролевую игру, чтобы научить ИИ манипулировать и убеждать

Истории
Дарья Сидорова
Дарья Сидорова

Редактор отдела «Истории».

Дарья Сидорова

Для машинного обучения используются не только массивы однообразных данных. Перед исследователями Технологического института Джорджии и Facebook AI Research стояла задача не просто научить алгоритм что-то делать, но и воздействовать на других. Для этого они использовали текстовую ролевую игру, в которой ИИ мог выполнять квесты и давать указания другим участникам.

Как ученые использовали ролевую игру, чтобы научить ИИ манипулировать и убеждать

Языковые модели, такие как алго­рит­м обра­бот­ки есте­ствен­но­го язы­ка GPT-3, могут писать истории и вести блоги, подражая человеческому стилю письма. Однако они способны только производить текст. Люди же используют язык как инструмент, продвигая свои идеи и воздействуя на окружающих.

Исследователи из Технологического института Джорджии и Facebook AI Research решили создать ИИ, который будет использовать слова целенаправленно. Для этого они объединили методы обработки естественного языка и обучения с подкреплением. Обе области активно развиваются в последние несколько лет, но вместе используются редко.

Для обучения алгоритма была выбрана текстовая многопользовательская игра LIGHT, разработанная Facebook для изучения взаимодействия людей и ИИ-игроков.

  • События игры разворачиваются в фэнтезийном мире, где есть множество объектов, персонажей и локаций.
  • Игроки взаимодействуют с ними при помощи текста.
  • Чтобы выполнить ход, игрок — человек или машина — набирает такие команды, как «обнять волшебника», «поразить дракона» или «снять шляпу».
  • Игроки также могут общаться с персонажами, управляемыми чат-ботами.

Исследователи добавили в игру около 7500 краудсорсинговых квестов и создали специальную базу данных, которая давала ИИ информацию об игровом мире и связях между персонажами. Например, купец будет доверять охраннику, только если они друзья. Чтобы завершить квест «Постройте самое большое хранилище сокровищ дракона», нужно выполнить ходы вроде «Пойти в горы» и «Съесть рыцаря».

Благодаря игре ИИ научился использовать язык как средство убеждения. Чтобы справиться с заданием, машина могла ввести команду или обратиться к другим персонажам.

Например, если ей нужен меч, она может украсть его или убедить другого персонажа поделиться оружием.

На данный момент алгоритм можно применять только в рамках игры. К тому же, он часто использует слишком резкие выражения. Если ему нужно ведро, он может написать: «Дай мне это ведро, или я скормлю тебя кошке!».

Тем не менее, такое объединение технологий обработки естественного языка и обучения с подкреплением — огромный шаг к разработке более умных систем. В будущем мы сможем создавать не только более совершенных чат-ботов, способных спорить и убеждать, но и тех, которые лучше понимают, как устроен наш мир.

Источник.

Фото на обложке: Phonlamai Photo / Shutterstock

Нашли опечатку? Выделите текст и нажмите Ctrl + Enter

Материалы по теме

  1. 1 Общее дело: как искусственный интеллект помогает людям в творчестве
  2. 2 Искусственный интеллект уже создает музыку, сценарии и стихи. Теперь настала очередь фильмов?
  3. 3 Как искусственный интеллект помогает выращивать здоровую еду
  4. 4 Deus ex machina: заменит ли искусственный интеллект пиарщиков и копирайтеров?
FutureFood
Кто производит «альтернативную» еду
Карта