«Яндекс» исследует, может ли у ИИ появиться сознание: нейросеть учат формировать собственные предпочтения и логику

Первый этап — устойчивых предпочтений у модели нет

На начальном этапе специалисты проверили, формирует ли базовая модель стабильные предпочтения без дополнительных механизмов обучения. По данным «Яндекса», таких признаков не выявлено — ответы модели менялись от запроса к запросу и не фиксировались в долгосрочной перспективе.

Теперь компания планирует начать второй этап исследования — модель будут стимулировать к рассуждениям и рефлексии. Её намерены обучать на собственных размышлениях: нейросеть будет отвечать на вопросы, формулировать аргументы и пытаться выстраивать внутренние суждения. Например, модель может выбрать «любимый цвет» и объяснить, почему она предпочитает именно его. Это позволит проверить, формируется ли внутренняя логика, напоминающая устойчивые предпочтения..

«Яндекс» планирует получить первые результаты до конца года. В компании отмечают, что эксперимент имеет исследовательский характер: гипотезы могут корректироваться по мере изучения поведения модели.

Это шанс лучше понять и ИИ, и человека

Руководитель Школы анализа данных «Яндекса» Алексей Толстиков подчёркивает, что подобные проекты важны как для развития ИИ, так и для более глубокого изучения человеческого мышления. По его словам, главная проблема сегодня — ограниченный объём памяти нейросетей.

По его словам, ключевой интерес представляет способность ИИ менять поведение по мере поступления новых данных. При этом он подчёркивает, что в разных областях, связанных с искусственным интеллектом, данные влияют на систему сразу, а не откладываются «про запас».

Он сравнивает этот процесс с чередованием фаз активного обучения и последующего ментального отдыха, когда в человеческом мозге опыт упорядочивается и «раскладывается по полочкам».

Цель проекта — понять, выходит ли ИИ за рамки статистического предсказания

Эксперимент должен показать, может ли ИИ формировать концептуальные обобщения и устойчивую «картину мира». В «Яндексе» считают, что такие исследования помогут приблизить технологии к системам, способным решать задачи, недоступные современным моделям.

Компания подчёркивает, что проект сосредоточен на научной составляющей.


Фото: PixelsEffect / Getty Images