Meta представили Llama 3: 8 млрд и 70 млрд параметров

НОС: Мета официально представили свою третью версию языковой модели llama3.

Meta опубликовали Llama 3. Будут доступны модели с 8 млрд и с 70млрд параметрами. Это самая мощная открытая LLM большая языковая модель .

Meta выпустила Llama 3: модели на 8 и 70 миллиардов параметров Meta представила новейшую разработку в сфере языковых моделей - Llama 3. Пользователям доступны варианты с объемом в 8 и 70 миллиардов параметров, что делает ее наиболее продвинутым открытым продуктом в своем классе. ———————————————— - Канал про тренды из мира IT, технологий, нейросетей и бизнеса.

Meta AI представляет Llama 3 - новое поколение своих открытых больших языковых моделей Новые модели Llama 3 с параметрами 8B и 70B демонстрируют значительное повышение производительности по сравнению с предыдущими моделями, включая улучшенные способности к рассуждению и кодированию. В ближайшие месяцы компания планирует представить новые возможности, увеличенное окно контекста пока 8к токенов , дополнительные размеры моделей 400B и повышенную производительность. Осталось найти метрики других LLM и сравнить Пообщаться с модельками можно тут _______ Источник #Futuris __________________ Ну и продолжение: Мета ИИ - виртуальный ассистент, на базе Llama3 about.fb.com _______ Источник #addmeto Узнай судьбу картами Таро: Anna Taro bot

Meta выпускает Llama 3, самую мощную открытую модель LLM Llama 3 открыта для всех. Llama 3 уже используется в Meta AI в Facebook, Instagram, WhatsApp Llama 3 скоро сможет понимать изображения и видео. Llama 3 превосходит многих конкурентов в ключевых тестах и ​​задачах, таких как программирование. ============== Meta признана в РФ экстремистской

Meta выпустили Llama 3 Релиз получился годным, а по метрикам сейчас — это лучшие опенсорс модельки в своих категориях. Пока что есть две версии: Llama 3 8B и Llama 3 70B. Они поддерживают 30 языков и имеют длину контекста до 8к. Из прикольных фич, которые сопровождаются этим релизом: Чат-боты на основе Llama 3 скоро появится в Instagram , Facebook и WhatsApp. Их можно будет использовать для ответов на вопросы, не выходя из переписки см. 1 видео . Кроме того, будет доступна функция мгновенного создания изображений. Для её активации необходимо напечатать "Imagine". А когда вы продолжите вводить текст, вы увидите изображение, которое будет обновляться при каждом введённом символе см. 2 видео . — запрещены в РФ. #llama #нейросети

FT: Новая модель Llama 3 делает шаги к развитию интеллекта человеческого уровня – Llama 3 получила «значительно улучшенные возможности» – В частности, она получила способность вести рассуждения – Прошлую Llama 2 некоторые считали «слишком ханжеской» – Для новой модели количество «ложных отказов» сократили – Новая Llama 3 стала должна быть полезной, отзывчивой и др. – Отмечается, что Llama 3 задумана как аполитичная модель – Новая версия Llama 3 будет предлагаться в двух размерах – Первая – 8 млрд параметров, другая – 70 млрд параметров – В отличие от Google и OpenAI, модель идет с открытым кодом – Разработчики смогут использовать новую модель бесплатно – Но IT-гиганты должны платить за обучение своих моделей – Можель Llama 3 в семь раз больше своего предшественника – Но сейчас компания создает версию на 405 млрд параметров

FT: Новая модель Llama 3 делает шаги к развитию интеллекта человеческого уровня – Llama 3 получила «значительно улучшенные возможности» – В частности, она получила способность вести рассуждения – Прошлую Llama 2 некоторые считали «слишком ханжеской» – Для новой модели количество «ложных отказов» сократили – Новая Llama 3 стала должна быть полезной, отзывчивой и др. – Отмечается, что Llama 3 задумана как аполитичная модель – Новая версия Llama 3 будет предлагаться в двух размерах – Первая – 8 млрд параметров, другая – 70 млрд параметров – В отличие от Google и OpenAI, модель идет с открытым кодом – Разработчики смогут использовать новую модель бесплатно – Но IT-гиганты должны платить за обучение своих моделей – Можель Llama 3 в семь раз больше своего предшественника – Но сейчас компания создает версию на 405 млрд параметров

Вышла третья версия опенсорсного ИИ LLaMA Сегодня Мета официально представила релиз улучшенной языковой модели LLaMA-3. Отметим, что с релиза последней модели прошло всего 9 месяцев. Модели доступны в двух размерах: 8В и 70В параметров, а модель на 400В параметров еще обучается и будет доступна летом. Для сравнения, у GPT-4 по слухам 1,8Т параметров. Впрочем, это далеко не всегда и вовсе не обязательно говорит о качестве модели. Декларируемая цель Цукерберга, как и каждого в этой отрасли – создать общий искусственный интеллект AGI , равный человеческому. Но пока до этого как до Луны, хотя и говорилось, что третья версия LLaMA сможет рассуждать и планировать. Пока ясно что LLaMа-3 превосходит предыдущую версию LLaMa-2 в языковых нюансах, контекстном понимании и сложных задачах, таких как перевод и генерация диалога, рассуждения модели, генерация кода. Обучение модели проводилось на 15Т токенов, для сравнения LLaMA-2 тренировалась на 2Т токенов. В общем, похоже, Цукерберг нашел применение 150 тысяч процессоров GPU H100, которые он закупил в прошлом году у Nvidia. Протестировать модельку можно на сайте meta.ai, где компания приземлила «помощника» на базе третьей версии модели. Но он пока не доступен не только из России, но и из Европы, так что мы не смогли этого сделать. Отметим, что в прошлом году LLaMa-2 оказалась серьезной альтернативой OpenAI, особенно для корпоративного использования: опенсорсная LLaMA незаменима, когда нужна мощная LLM, но нет желания делиться данными. Выход третьей версии, надеемся, не даст расслабиться Open AI и почивать на лаврах. запрещена в РФ за экстремизм #СделаноВИнкубатореНецифры

Вышла Llama 3. Это самая большая LLM-модель с открытым кодом Meta опубликовала сразу две версии новой модели Llama 3: 8B и 70B — с 8 млрд и с 70 млрд параметров соответственно. В США и ряде англоязычных стран модели уже интегрированы в интеллектуального помощника Meta AI. Самая большая LLM Главный специалист Meta по AI Ян Лекун пишет, что длина контекста Llama 3 составляет 8 тыс. токенов это примерно 5 тыс. слов на английском или 1200 на русском — именно столько способна запомнить модель за один разговор с пользователем. А сами модели обучены на 15 триллионах токенов на специально созданном кластере из 24 тысяч процессоров, что делает Llama 3 самой большой в мире LLM-моделью с бесплатным доступом и открытым кодом. Что по производительности? В Meta отмечают, что благодаря улучшенной масштабируемости и производительности Llama 3 может легко справляться со сложными и многоэтапными задачами. Согласно таблицам прохождения тестов обработки естественного языка, модели 8B и 70B превосходят результаты моделей в своем классе: Mistral 7B и Claude 3 Sonnet соответственно. Смотрим таблицу выше Например, MMLU — это понимаете языка, GSM-8K — математика, а HumanEval — программирование. Специальные сценарии Llama 3 поддерживает 12 ключевых сценариев: запрос совета, мозговой штурм, классификация, ответы на закрытые вопросы, кодинг, творческое письмо, краткое содержание, умение вживаться в образ, ответы на открытые вопросы, рассуждения, переписывание и обобщение. В ближайшие месяцы Meta планирует выпустить новые версии модели, в том числе 400B, что, по словам создателей Llama 3, ознаменует новую веху в развитии LLM с открытым кодом. Как пользоваться? Протестировать новые модели можно с помощью Perplexity, выберите Llama 3 в разворачивающемся списке. Еще почитать: GPT-4-Turbo возглавила рейтинг языковых моделей xAI представила новую модель Grok-1.5 Vision Preview #news #Meta