Google анонсировала компактную модель Gemma 3 270M для локального использования

Google представила Gemma 3 270M — компактную модель Модель 270 млн параметров 170M для эмбеддингов и 100M для трансформер-блоков , но с отличной способностью следовать промтпам прямо «из коробки». Особенности - 256k токенов - Энергоэффективность: INT4-версия на Pixel 9 Pro расходует всего 0.75% батареи за 25 диалогов. - Доступны предобученные и instruction-tuned чекпойнты. - Поддержка Quantization-Aware Training QAT для запуска в INT4 без заметной потери качества. Когда использовать - Массовые, чётко определённые задачи: анализ тональности, извлечение сущностей, обработка текста, комплаенс-проверки. - Минимальные задержки и низкая стоимость инференса — можно запускать прямо на устройстве. - Быстрые эксперименты с fine-tuning. - Полная приватность данных благодаря on-device работе. - Создание «флота» узкоспециализированных моделей. В анонсе приводится пример, как Adaptive ML и SK Telecom дообучили Gemma 3 4B для мультиязычной модерации контента, превзойдя более крупные проприетарные модели. Gemma 3 270M — отличная компактная модель, быстрая и дешёвая в работе. Подробности: HF: #news #ai #ml #Gemma #google

Google выпустил «AI-модель для тостера» Вышла Gemma 3 270M — компактная открытая AI-модель с 270 миллионами параметров, которая может работать на смартфоне, Raspberry Pi и умных устройствах. Модель рассчитана на офлайн-работу без интернета, легко дообучается под конкретные задачи и показывает сильные результаты в тестах на понимание инструкций, обгоняя сопоставимых конкурентов. При этом на Pixel 9 Pro за 25 диалогов она расходует всего 0.75% батареи. Gemma 3 270M уже используют для приложений вроде генератора сказок для детей на смартфоне. Google видит её как идеальный вариант для задач, где важны приватность, низкое энергопотребление и работа без облака. Скачать можно тут:

Google анонсировала компактную модель Gemma 3 270M — уровня Llama 3.2 Корпорация представила уменьшенную версию своей открытой модели Gemma 3, получившую название Gemma 3 270M. Эта новая модель оптимизирована для использования на локальных устройствах, таких как смартфоны или веб-браузеры. Gemma 3 270M включает 270 миллионов параметров и предлагает высокую производительность при улучшенной конфиденциальности и низкой задержке. При этом она потребляет всего 0,75% заряда батареи за 25 разговоров на устройстве Pixel 9 Pro. Хотя Gemma 3 270M не может сравниться с более крупными моделями, её результаты на тесте IFEval составили 51,2%, что превосходит показатели более объемных аналогов. ================ News Soft Gear Links

Google выпустили Gemma 3 270М – одну из самых компактных моделей индустрии Да, именно 270M, а не B. Совсем кроха, которую запустить действительно можно чуть ли не на утюге. Она и создана специально для этого, и даже оптимизирована с точки зрения энергоэффективности: в INT4 квантизации на Pixel 9 Pro съедает всего 0.75% батареи за 25 диалогов. И кстати, для такого размера очень неплохие показатели следования инструкциям: на IF-Eval 51.2%. По этому показателю модель обходит даже Qwen 2.5 0.5В, который почти в два раза больше. Для чего использовать: 1. Конечно, локальный запуск. Для кода не подойдет, но для генерации простого текста сгодится. 2. Быстрое простое дообучение под вашу задачу например, под entity extraction или какой-нибудь sentiment-анализ подойдет отлично . 3. Edge/Internet of Things. Модельку реально можно встроить в колонку, чайник или холодильник и развлекаться Отличная штука для экспериментов, в общем Веса

Google выпустила «ультракомпактную» модель Gemma 3 на 270 млн параметров. Её можно запустить на «недорогой» инфраструктуре или смартфоне. Основное применение — классификация, анализ и генерация текстов, а также работа по инструкциям vc.ru/ai/2158971

Google выпустила миниатюрную открытую модель Gemma для смартфонов Google представила компактную модель искусственного интеллекта Gemma 3 270M, которая работает напрямую на смартфонах и в браузере. При всего 270 млн параметров она показала высокую энергоэффективность: в тесте на Pixel 9 Pro смогла провести 25 разговоров, затратив лишь 0,75% заряда. В бенчмарке IFEval модель продемонстрировала 51,2% точности, обойдя некоторые более крупные решения.