Apple использует чипы Google для тренировки новой нейросети

9. Тренировка осуществлялась на 8192 чипах TPUv4 у Google 10. Дальше начинается шаг обучения ценностям. Тут используется два новых метода, но в целом подход идентичный тому, что делают все — сначала натренировать выполнять инструкции, а затем оптимизировать качество ответов по человеческому ощущению, какой из N ответов лучше. Для математики, программирования и подключения инструментов генерировали синтетические данные которые можно программно проверять . 11. Как и предполагалось, разные части функционала будут добавляться с помощью легковесных адаптеров тренированные LoRA , каждый по 5-50 мегабайт. По сути это такие маленькие наборы матричек, которые лишь слегка и в определённых местах меняют значения в нейронке, и как следствие управляют её поведением. Их легко переключать на лету, грузятся они очень быстро, и для улучшения качества в простых задачах прям тема. 12. Финальные модели квантизуются меньше чем в 4 бита на параметр, и Apple даже хвастается, что это SotA подход, так как деградация качества минимальна. Восстановление качества делается..тоже через LoRA. Они как бы будут включены всегда по умолчанию, и когда разработчику потребуется натренировать что-то своё, то нужно брать модель со включенными адаптерами. Адаптеры имеют разные размеры, с рангами 8, 16 и 32 — для разных юзкейсов. Чем больше ранг, тем меньше падение качества, но и тем больше накладные расходы. Соответственно, фишка в том, что модель сжимается сильно, а адаптеры не сжимаются, и их подключение на лету позволяет восстановить большую часть оригинального качества, как будто модель не квантизовали. 13. Хвастаются, что очень эффективно используют свой чип Apple Neural Engine ANE , чтобы была максимальная утилизация для конкретно их модели. Удобно, когда ты и чипы делаешь, и модели — и всё на сотню миллионов пользователей. Но детали тут уж очень специфичные про раскладывание констант квантизации в палетты в памяти .

Apple использовала процессоры Google Tensor для обучения Apple Intelligence. CNBC #новости

СОФТ НЕЙРОСЕТЬ APPLE ОБУЧИЛИ НА ЧИПАХ GOOGLE Искусственный интеллект ИИ компании Apple был обучен на основе процессоров Google. Для обучения двух ключевых компонентов своей модели Apple обратилась к Google. Таким образом, система Apple Intelligence была настроена и обучена с помощью процессоров Google. Аналитики ожидали, что корпорация Тима Кука будет использовать технологии Nvidia, которая является лидером отрасли. О том, что Apple использовала процессоры сторонних компаний для обучения своих нейросетей, стало известно еще в июне. По словам источников, оборудование Google позволило Apple создать более продвинутые модели, чем она рассчитывала. ФОТО: Kaitlyn Baker / Unsplash #аврорамедиа_софт Telegram-экосистема АВРОРА МЕДИА МЕДИА НОВОСТИ РЕГИОН ЛАЙФ СПОРТ ГЕРЛЗ ХАЙТЕК ПЕРСОНЫ ИНСАЙД КРИМИНАЛ МОЛОДОСТЬ LIVE АВРОРА МЕДИА YOUTUBE RUTUBE

CNBC: Apple раскрыла, что использовала чипы Google для обучения своих моделей – Модели из Apple Intelligence обучались на чипах от Google – Крупные компании продолжают искать альтернативу Nvidia – Google или Nvidia внутри 47-стр. документа не упоминаются – Но Apple пишет там, что использовала «Cloud TPU Clusters» – Речь там идет про базовую модель компании AFM и сервер – Т.е. использовалась инфраструктура облачного провайдера – Для модели был использован «slice» из 2048 чипов TPU v5p – AFM-сервер компании обучали уже на 8192 чипах TPU v4 – При этом последние TPU от Google стоят менее $2/час – Чип используется при бронировании на три года вперед

Ого! Apple не использовала графические процессоры Nvidia для обучения своих ИИ-моделей Компания использовала чипы Google TPU, говорится в техническом отчете Apple. Для создания ИИ-модели, которая будет работать на iPhone и других устройствах, Apple использовала 2048 чипов TPUv5p. Для своей серверной модели ИИ Apple использовала 8192 процессора TPUv4. Apple заявила, что с помощью чипов Google можно создавать еще более крупные и сложные ИИ модели.

Apple предпочла тренировать свою новую нейросеть для iPhone и других устройств на тензорных чипах Google, а не на процессорах Nvidia, несмотря на то, что последняя является лидером отрасли, производит наиболее востребованное оборудование для AI и контролирует примерно 80% этого рынка. Пытается ли Google притормозить динамику бизнеса Nvidia, которая явно движется к монополии, или дело в чем-то другом, мы вряд ли узнаем. Но, как всегда, болеем за обе стороны.

Apple использовала очень нестандартные чипы для разработки Apple Intelligence. Последствия могут быть ужасными Компания Apple использовала тензорные процессоры TPU Google вместо широко используемых графических процессоров GPU Nvidia для создания двух критически важных компонентов Apple Intelligence. Решение было подробно описано в исследовательской статье, опубликованной Apple, в которой компания сама подчеркнула свою зависимость от облачного оборудования Google. В материале говорится, что Apple использовала 2048 чипов TPUv5p от Google для создания моделей ИИ и 8192 процессора TPUv4 для серверных моделей ИИ. Nvidia в исследовательской статье вообще не упоминается. Такое решение может сыграть злую шутку с Apple в будущем, поскольку все крупные модели ИИ и нейросети создавались на процессорах Nvidia. Более того, Nvidia продает свои чипы и системы как отдельные продукты, а Google предоставляет доступ к своим TPU через облачные сервисы. Поэтому при любом сбое в работе Apple Intelligence производитель iPhone будет вынужден рассчитывать на быструю реакцию Google. Также отметим, что собственный ИИ Google Gemini пока сильно отстаёт от той же модели GPT4 от Open AI. Отчасти это также связано с оборудованием, поэтому ждать от Apple Intelligence решения задач на уровне ChatGPT бессмысленно. Видимо, по этой причине Apple встроит ChatGPT в свой ИИ позже. Сами инженеры Apple объясняют, что TPU позволили им эффективно обучать большие, сложные модели ИИ. Они описывают, как TPU Google организованы в большие кластеры, что обеспечивает вычислительную мощность, необходимую для обучения моделей ИИ Apple. Сейчас компания планирует инвестировать более $5 млрд в усовершенствования собственных серверов ИИ в течение следующих двух лет.

Apple объявила о сотрудничестве с Google для разработки искусственных нейронных сетей. Использование процессоров Google позволило компании создать более мощные модели ИИ, чем планировалось ранее. Ожидается, что новый сервис с ИИ будет запущен на iPhone в октябре после задержки. Официальных комментариев от Apple пока нет.

Apple использовала чипы Google Tensor для разработки Apple Intelligence Компания отдала предпочтение тензорным процессорам TPU Google вместо графических процессоров GPU Nvidia, которые широко используются в этой отрасли. В новой исследовательской статье Apple рассказала, что использовала 2048 чипов TPUv5p от Google для создания моделей ИИ и 8192 процессора TPUv4 для серверных моделей ИИ. Google предоставляет доступ к своим TPU через облачные сервисы — именно таким образом Apple применила технологии Google при разработке двух важнейших компонентов Apple Intelligence. Инженеры Apple также отмечают в статье, что TPU Google, организованные в большие кластеры, обеспечили вычислительную мощность, позволяющую эффективно обучать большие сложные модели ИИ. Tehnobzor: IT Технологии