Нейросеть «Яндекса» научилась генерировать короткие видео в «Шедевруме»

В компании считают, что такие видео могут стать основой для музыкальных клипов, анимации, динамических аватарок в соцсетях.

Приложение генерирует видео длиной четыре секунды с частотой 24 кадра в секунду. После публикации ими можно поделиться с друзьями или сохранить в формате MP4. В настоящее время функция работает в режиме тестирования.

Чтобы сгенерировать видео в «Шедевруме», нужно описать текстом то, что хочется увидеть. После этого приложение предложит четыре варианта первого кадра и набор анимационных эффектов для создания движения.

Нейросеть берет за основу выбранное пользователем изображение, генерирует набор его измененных версий и объединяет все выбранным эффектом. Эффектов сейчас семь: зум (приближение), таймлапс (ускоренная перемотка), полет, панорама, вращение, подъем и морфинг (постепенное изменение).

Для создания кадров будущего видео используется метод каскадной диффузии. С помощью этой технологии «Шедеврум» генерирует отдельные изображения. Сначала нейросеть создает картинки по запросу, а затем увеличивает их разрешение и насыщает деталями.

В «Шедевруме» также можно создавать изображения и текстовые посты с заголовком и иллюстрацией. «Яндекс» представил приложение в апреле 2023 года.

Фото на обложке: Unsplash