МТС выпустила «открытую» языковую модель для решения бизнес-задач
MTS AI, «дочка» оператора МТС, выпустила большую языковую модель для решения задач бизнеса. Об этом RB.RU сообщили в пресс-службе компании. Cotype Nano можно использовать для создания и анализа текста на русском языке.
Модель подходит для написания статей, переводов между русским и английским языками, обработки и анализа текстовых данных, разработки чат-ботов, а также поиска и анализа информации в корпоративных базах знаний. «Cotype Nano способна обрабатывать контекст до 32,000 токенов (около 45 страниц текста) за раз, что позволяет работать с большими объемами данных», — утверждают в компании.
Там отметили, что новую модель можно запускать локально на смартфонах, компьютерах и ноутбуках даже со «средней производительностью». Согласно релизу, Cotype Nano — «открытая» модель, параметры, которые она использует для принятия решений, можно изучать и настраивать под конкретные задачи.
Технические характеристики:
Cotype Nano включает 1,5 млрд параметров. Модель была обучена на специальных наборах данных, которые содержат компьютерный код, математические задачи и синтетическую информацию.
Скорость обработки текста (инференса) составляет около 190 токенов в секунду на графическом процессоре Nvidia A100 и 9,5 токенов в секунду на смартфоне с процессором Qualcomm Snapdragon 8 Gen 2.
Освободите время и увеличьте доход с помощью ИИ
Cotype Nano использует архитектуру трансформера Qwen 2.5 и поддерживает работу с популярными фреймворками, такими как VLLM, OpenVINO и Hugging Face.
Модель доступна для скачивания на Hugging Face.
Компании все чаще интегрируют большие языковые модели в свои бизнес-процессы, чтобы повысить их эффективность. Product-менеджер Just AI Алексей Борщов ранее рассказал в колонке на RB.RU о связанных с этим рисках и стратегиях безопасного внедрения технологий генеративного ИИ.
Фото на обложке: Unsplash
Нашли опечатку? Выделите текст и нажмите Ctrl + Enter
Популярное
Налог на прибыль организаций
Материалы по теме
-
Пройти курс «Кейсы предпринимателей: как справиться с вызовами»
- 1 MTC Web Services начала продажи платформы с AI для интеграции сервисов МТС Web Services выпускает интеграционную платформу MWS OctAPI с технологиями ИИ 23 мая 16:51
- 2 «МТС ИИ» потребовал от «Городских теплиц» Лысковского вернуть конвертируемый заем на 50 млн рублей Инвестору не удалось получить долю в проекте из-за его ликвидации 21 мая 16:23
- 3 «МТС Медиа» объединит «Строки» и «МТС Музыку» под управлением Kion Управлять контентным кластером будет гендиректор Kion Алексей Иванов 18 апреля 18:35
- 4 МТС начала продавать китайские автомобили в салоне связи Если эксперимент будет успешным, число точек продаж увеличат 18 апреля 16:18