Исследователи из МТИ разрабатывают «жидкую» нейросеть, которая лучше адаптируется к новой информации

Во время обучения алгоритмы нейронных сетей получают огромное количество соответствующих целевых данных, улучшающих их способность принимать решения. Кроме того, они вознаграждаются за правильные ответы, что помогает оптимизировать их производительность. Как правило, в результате этого процесса поведение нейросети фиксируется.

Команде Хасани удалось разработать методы, позволяющие «жидкой» нейронной сети со временем адаптировать параметры для «успеха» в ответ на новую информацию. Например, при резком изменении погоды нейросеть, отвечающая за восприятие в самоуправляемом автомобиле, сможет лучше справиться с новыми обстоятельствами и поддерживать высокий уровень производительности.

Основное отличие метода Хасани и его сотрудников заключается в том, что в его основе лежит адаптируемость по временным рядам. Это означает, что, вместо набора тренировочных данных, состоящего из отдельных статичных снимков, нейронные сети рассматривают данные временных рядов или последовательность изображений.

Наблюдать и исследовать такие сети будет намного проще в силу особенностей их проектирования. Обычные нейросети часто называют «черным ящиком»: несмотря на то, что создатели алгоритмов знают входные данные и критерии для определения и поощрения правильного поведения, они, как правило, не могут точно установить, как сети приходят к успеху. Новая «жидкая» модель предлагает большую прозрачность. Кроме того, она позволяет снизить энергозатратность, поскольку задействует меньшее количество более сложных вычислительных узлов.

Результаты тестов производительности показывают, что такая нейросеть более точно предсказывает будущие значения известных наборов данных, чем другие альтернативы. Теперь Хасани и его команде предстоит определить способы улучшить систему и подготовить ее для практического применения.

Источник.