Mistral AI представила новые модели 3B и 8B

Mistral выпустили первые свои модели, которые могут работать локально — Ministral 3B и 8B поддерживают контекст в 128к токенов и могут использоваться локально на устройствах, включая такие, что не имеют доступа к интернету. Судя по тестам, они лучше ближайших конкурентов — Gemma 2 2B от Google и соответствующих Llama. Впрочем, авторы предполагают, что модели будут использоваться и совместно с более мощными. Модели будут доступны по коммерческой лицензии или через хостинг-партнеров.

Mistral выпустили линейку новых моделей - Ministral. Идут в двух размерах - 3B и 8B. Слегка лучше Llama 3.1 в тех же весовых категориях. К сожалению, публикуют веса лишь большой модели и только под research-only лицензией. Понятно что компании нужно кормить, но всё равно грустно. Бенчами как всегда манипулируют, так что даже не буду постить таблички. К примеру, Base модель вообще не сравнивают с Gemma 9B PT, которая на 5+ поинтов обгоняет Ministral 8B Base почти на всех бенчах. Из приятного - заметьте как разгорается соревнование в 3B моделях. Сначала это была лишь StableLM, а сейчас есть уж несколько конкурирующих моделей Gemini Nano-2, Llama 3.2, StableLM, Apple Intelligence, Phi и постоянно выходят новые.

Mistral релизнули новые модели Ministral 3B and Ministral 8B Контекст обеих – 128к токенов. В Ministral 8B добавлено специальное чередующееся скользящее окно внимания для ускорения инференса что-то похожее на механику в Gemma-2, о которой мы писали тут . Ориентированы обе модельки, конечно, как и все LM в таких весах, на локальный запуск. По бенчмаркам сравнивают с весьма ограниченным количеством моделей семейство превосходит LLama 3.1 и Gemma в соотвутсвующих размерах. Весов для 3В не будет Веса Ministral 8B Instruct только для ресерча тут

Mistral: ИИ прямо в кармане! Ребята, у нас тут горячая новость! Французский стартап Mistral выкатил модели ИИ, которые можно запускать прямо на телефонах и ноутбуках . Модели "Les Ministraux" - идеальный вариант для тех, кто хочет использовать ИИ без подключения к интернету и с заботой о своей приватности. Теперь ваш ИИ-помощник всегда под рукой, где бы вы ни были. Мини-ИИ с мощными возможностями: На выбор две модели - Ministral 3B и Ministral 8B. Они настолько мощные, что могут обработать текст, размером с целую книгу! И всё это без задержек и проблем с приватностью, прямо на устройстве. Mistral явно настроены встряхнуть рынок ИИ. Так что, если готовы к технологиям будущего - "Les Ministraux" уже тут и ждут вас! Веса модели

Умный помощник, который всегда под рукой

Mistral AI представила новые модели 3B и 8B. Mistral AI, отмечая годовщину выпуска Mistral 7B, представила две новые модели: Ministral 3B и Ministral 8B. Семейство этих моделей получило название «Ministraux», они отличаются высокой производительностью в области знаний, рассуждений, вызова функций и эффективности среди аналогичных моделей категории менее 10 млрд. параметров. Обе модели Ministraux поддерживают контекстную длину до 128 тыс. токенов 32 тыс. токенов на vLLM , а Ministral 8B использует специальную схему чередующегося скользящего окна внимания для более быстрого и эффективного инференса. Модели предназначены для использования в различных сценариях, от робототехники до автономных интеллектуальных помощников без подключения к интернету. Обе модели в ближайшее время будут доступны в сервисе La Plateforme и в облачных сервисах партнеров MistalAI. Цены: 0.1$/M input and output для Ministral 8B и 0.04$ /M input and output для Ministral 3B. Ministral 3B доступна для некоммерческого ...

Французский стартап Mistral представил малые языковые модели для ноутбуков и телефонов. Новая линейка, названная Les Ministraux, включает две версии: Ministral 3B и Ministral 8B. Обе модели могут обрабатывать текст объемом до 50 страниц благодаря контекстному окну в 128 000 токенов. Модели подходят для приложений, не требующих подключения к интернету, например, ассистент в телефоне, автономный робот или переводчик. Помимо автономной работы плюсами малых моделей являются высокая скорость и низкая стоимость. Конкуренты Les Ministraux в своем классе — это Gemma 2 от Google, Phi-3 от Microsoft и малые модели Llama 3.2. ℹ Здесь рассказ про Mistral.

Mistral AI запустили две новые языковые модели, предназначенные для предоставления мощных возможностей искусственного интеллекта на периферийных устройствах, таких как телефоны и ноутбуки. Новое семейство Les Ministraux включает в себя модели Ministral 3B и Ministral 8B, которые имеют параметры 3B и 8B соответственно. Модели предназначены для таких сценариев использования на устройстве, как локальный перевод, автономные помощники и автономная робототехника. PRO AI ПОЛЕЗНЫЙ СОФТ НОВОСТИ