Топ-менеджер Google предупредил о появлении «галлюцинаций» у AI-ботов

«Этот тип искусственного интеллекта, о котором мы сейчас говорим, иногда может выдавать то, что мы называем галлюцинациями, — рассказал Рагвахан в беседе с Welt am Sonntag. — Это выражается в том, что машина дает убедительный, но полностью выдуманный ответ».

Задача разработчиков, по мнению специалиста, свести число подобных «галлюцинаций» к минимуму.

На недавней презентации Google «конкурент ChatGPT» чат-бот Bard допустил неточность прямо во время выступления, из-за чего акции Alphabet рухнули на 8,9%.

Рагвахан призвал людей быть бдительными, когда они сталкиваются с результатами, представленными им чат-ботом. По словам топ-менеджера, разработчики должны обеспечить пользователей инструментами для проверки результатов, включая раскрытие источников.

«Мы хотим протестировать [чат-бота] в достаточно большом масштабе, чтобы в конечном итоге мы были довольны результатами проверки достоверности ответов», — сообщил представитель Google.

Microsoft пока опережает Google в процессе интеграции AI-бота в работу своей поисковой системы. На прошлой неделе пользователи опубликовали скриншоты обновленного Bing с интегрированным в него ChatGPT. О сроках релиза чат-бота Bard пока ничего не известно.

«Мы, конечно, чувствуем срочность, но также мы чувствуем огромную ответственность, — заявил Рагвахан. — Мы определенно не хотим вводить общественность в заблуждение».