MTS AI представляет открытую LLM-модель Cotype Nano для создания и анализа текстов

MTS AI выпустила LLM-модель Cotype Nano — она умеет создавать и анализировать тексты на русском языке и переводить между русским и английским. Нейросеть в открытом доступе — её можно скачать и запустить на личном устройстве vc.ru/ai/1673851

#ии MTS AI дочерняя компания МТС в области искусственного интеллекта, ИИ выпустит большую языковую B2B-модель Cotype Nano, предназначенную для запуска непосредственно на персональных компьютерах и телефонах Модель будет открытой: ее веса параметры, которые используются ей для принятия решений можно изучать и настраивать под конкретные задачи Это первый проект подобного рода от российской компании: так, «Яндекс» или «Сбер» не публиковали открытый код своих языковых моделей — то есть с закрытым кодом без возможности создавать производные проекты В Cotype Nano от MTS AI использованы наработки другой свободной модели, Qwen 2.5 китайской Alibaba Cloud, а сама модель обучена на наборах данных, включающих программный код, математику и синтетические данные созданные искусственно, но на основе имитации реальных процессов С ее помощью можно генерировать тексты и переводы, а также разрабатывать собственные чат-боты По официальной оценке, объем российского рынка ИИ в 2023 году составил 650 млрд руб Участники рынка в целом приветствуют открытый подход к работе с кодом, но некоторые напоминают, что практичнее было бы открыть сообществу дата-сеты, на которых обучаются нейросети Подписаться

Забирай эксклюзивное предложение для пользователей Tek.fm от Газпромбанка 🔥Нажми на меня

Коммерсантъ: МТС выпускает LLM с открытым кодом и возможностью донастройки под бизнес-задачи – MTS AI выпустит большую языковую B2B-модель Cotype Nano – Модель будет работать непосредственно на ПК и телефонах – Веса модели можно изучать и настраивать под свои задачи – Для Cotype Nano использованы наработки модели Qwen 2.5 – Модель обучена на программном коде, математике и др. – В частности, для нее использовали синтетические данные – Модель Cotype Nano может генерировать тексты и переводы – Она также может разрабатывать собственные чат-боты и др. – Российские IT-компании выпускали проприетарные продукты – Т.е. их код был закрыт, создавать производные было нельзя – Рынок приветствует решение MTS AI открыть код Cotype Nano – Это позволит широкому сообществу участвовать в ее развитии

MTS AI выпустил три легковесные LLM с открытым кодом Модели Cotype‑Nano предназначены для генерации текста. Они обучались на датасетах из таких сфер как математика, программирование, function-calling, RAG, суммаризация и классификация Авторы заявляют, что модели заняли первые места на RuArenaGeneral в своих категориях. Cotype‑Nano — это легковесная модель для выполнения задач с минимальными ресурсами. Она оптимизирована для быстрого и эффективного взаимодействия с пользователями, обеспечивая высокую производительность даже в условиях ограниченных ресурсов. Cotype‑Nano-4bit — это квантизированная версия Cotype Nano, которая быстрее и в три раза меньше оригинальной модели. Cotype‑Nano‑CPU — модель, оптимизированная под Intel CPU с помощью фреймворка openVINO.

MTS AI, «дочка» оператора МТС, выпустила большую языковую модель для решения задач бизнеса. Об этом RB. RU сообщили в пресс-службе компании. Cotype Nano можно использовать для создания и анализа текста на русском языке.

В MTS AI представили три модели из линейки Cotype Nano Благодаря размеру их можно развернуть почти на любом чипе GPU или устройстве без большой потери качества по сравнению с более крупными моделями. По словам разработчиков, Cotype Nano основана на архитектуре трансформера Qwen 2.5, содержит 1,5 млрд параметров и совместима с фреймворками vLLM, OpenVINO и Hugging Face. Модель работает локально на персональных устройствах и подходит для разработки чат-ботов и виртуальных помощников. Другие модели линейки: • Cotype Nano-4bit — квантизированная версия Cotype Nano, которая быстрее и в три раза меньше оригинальной модели. • Cotype Nano CPU — модель, оптимизированная под чипы Intel с помощью фреймворка OpenVINO. Источник: Статья на «Хабре» о том, как создавалась Cotype Nano.