Китайские разработчики создали приложение для распознавания беззвучной речи

Приложение отслеживает положение 20 контрольных точек, которые достаточно точно передают движения губ, отмечает издание. Оно также определяет степень открытости рта, что позволяет фиксировать начало и конец команды.

Пример создания контрольных точек

Эти данные передаются другому алгоритму нейросети, который занимается непосредственно распознаванием речи по движениям губ. Приложение разрабатывают для смартфонов, но пока оно работает только на компьютере, добавляет N+1.

Авторы приложения разработали для сервиса 44 команды. Часть из них относится ко всей системе, например, включает Wi-Fi, часть регулирует работу конкретных приложений. Еще часть команд позволяет взаимодействовать с любым приложением с помощью системных служб, например, выделять текст.

При этом приложение понимает контекст команд — если система отобразила всплывающее окно с сообщением, то пользователь сможет быстро ответить на него.