Top.Mail.Ru
Новости

Топ-менеджер Google предупредил о появлении «галлюцинаций» у AI-ботов

Новости
Ахмед Садулаев
Ахмед Садулаев

Редактор новостей

Ахмед Садулаев

Глава поискового подразделения Google Прабхакар Рагхаван в очередной раз напомнил пользователям, что информации, полученной от AI-ботов, нельзя доверять на 100%. Порой предоставленные данные могут быть полностью выдуманными.

Топ-менеджер Google предупредил о появлении «галлюцинаций» у AI-ботов
  1. Новости

«Этот тип искусственного интеллекта, о котором мы сейчас говорим, иногда может выдавать то, что мы называем галлюцинациями, — рассказал Рагвахан в беседе с Welt am Sonntag. — Это выражается в том, что машина дает убедительный, но полностью выдуманный ответ».

Задача разработчиков, по мнению специалиста, свести число подобных «галлюцинаций» к минимуму.

На недавней презентации Google «конкурент ChatGPT» чат-бот Bard допустил неточность прямо во время выступления, из-за чего акции Alphabet рухнули на 8,9%.

Рагвахан призвал людей быть бдительными, когда они сталкиваются с результатами, представленными им чат-ботом. По словам топ-менеджера, разработчики должны обеспечить пользователей инструментами для проверки результатов, включая раскрытие источников.

«Мы хотим протестировать [чат-бота] в достаточно большом масштабе, чтобы в конечном итоге мы были довольны результатами проверки достоверности ответов», — сообщил представитель Google.

Microsoft пока опережает Google в процессе интеграции AI-бота в работу своей поисковой системы. На прошлой неделе пользователи опубликовали скриншоты обновленного Bing с интегрированным в него ChatGPT. О сроках релиза чат-бота Bard пока ничего не известно.

«Мы, конечно, чувствуем срочность, но также мы чувствуем огромную ответственность, — заявил Рагвахан. — Мы определенно не хотим вводить общественность в заблуждение».

Фото: Unsplash

Нашли опечатку? Выделите текст и нажмите Ctrl + Enter

Материалы по теме

  1. 1 OpenAI согласилась раскрыть тренировочные данные ChatGPT в комнате без интернета
  2. 2 Техдиректор OpenAI Мира Мурати объявила об уходе из компании
  3. 3 За последние два года интерес бизнеса к искусственному интеллекту вырос в 7 раз
  4. 4 TON Dating интегрировал ChatGPT для проверки совместимости пользователей
  5. 5 Как использовать нейросети в школе
FutureFood
Кто производит «альтернативную» еду
Карта