ИИ справляется со сжатием фото и аудио без потерь лучше, чем PNG и FLAC
Исследователи выяснили, что большие языковые модели способны не только писать тексты, но и уменьшать размер данных. Так, большая языковая модель Chinchilla 70B от DeepMind, обученная для работы с текстом, также справляется со сжатием фото и аудио — часто лучше, чем предназначенные для этого алгоритмы.
Вот что показал эксперимент.
- Chinchilla 70B может сжимать изображения до 43,4% от исходного размера, тогда как алгоритм PNG — до 58,5%.
- Нейросети также удалось уменьшить аудио до 16,4% от исходного размера, а предназначенному для этого методу FLAC — до 30,3%.
Сжатие без потерь предполагает, что в процессе данные не теряются. Чем меньше объем сжатых данных по сравнению с исходным, тем сильнее сжат файл.
Некоторые ученые считают, что сжатие данных является формой общего ИИ, так как этот процесс в той или иной форме предполагает выявление закономерностей и понимание сложности.
В DeepMind утверждают, что это не односторонняя взаимосвязь, и хороший алгоритм сжатия можно использовать для создания новых данных. Тем не менее в ходе эксперимента gzip, в отличие от Chinchilla, сгенерировал бессмысленный результат.
Статья об исследовании DeepMind еще не прошла рецензирование, но предлагает новые способы применения для больших языковых моделей. Взаимосвязь между сжатием и интеллектом остается предметом дискуссий и исследований, и в ближайшее время может появится больше информации по этой теме.
Фото на обложке: Pavel Ignatov /
Нашли опечатку? Выделите текст и нажмите Ctrl + Enter
Популярное
Налог на прибыль организаций
Материалы по теме
-
Пройти курс «Как управлять командой»
- 1 ИИ впервые предсказал погоду точнее метеорологов К такому успеху пришла нейросеть GraphCast от DeepMind 16 ноября 00:02
- 2 Плати, если хочешь парсить: Cloudflare придумал бизнес-модель для эпохи ИИ IT-гигант вознамерился «вернуть контроль авторам контента» 01 июля 15:58
- 3 $5 млрд в долг — на стартап xAI: Илон Маск масштабирует свою ИИ-империю Компания строит дата-центры и нацелена на $200 млрд оценки 01 июля 14:05
- 4 Nvidia на пике — топы кэшатся. За год продано акций на $1 млрд на волне ИИ-истерии ИИ приносит Nvidia триллионы на бирже, но менеджмент уже начал конвертировать хайп в кэш 30 июня 13:19