AWS анонсировала чипы Trainium T2 и сотрудничество с Apple на re:Invent

AWS объявила о выпуске второго поколения своих чипов Trainium T2 для обучения языковых моделей. Один инстанс EC2 с 16 такими чипами обеспечивает производительность до 20.8 петафлопс, что в 4 раза быстрее предыдущего поколения. А специальные UltraServer-инстансы с 64 взаимосвязанными чипами могут достигать 83.2 петафлопс. Anthropic, в которую AWS активно инвестирует, уже строит огромный кластер из "сотен тысяч" таких чипов для обучения своих моделей. По заявлению AWS, это будет самый большой AI-кластер в мире, в 5 раз мощнее того, на котором обучались текущие модели Anthropic. Впрочем, следующее поколение GPU от NVIDIA архитектура Blackwell обещает быть существенно мощнее — до 720 петафлопс на стойку из 72 GPU. Видимо, поэтому AWS сразу анонсировала и Trainium3, который должен появиться в конце 2025 года и будет в 4 раза быстрее T2. Правда, пока неизвестно, сколько времени пройдет между анонсом и реальной доступностью этих чипов для разработчиков. Кстати, на сцену re:Invent также вышел топ-менеджер Apple и рассказал, что компания уже много лет использует чипы AWS — Graviton и Trainium, — для своих поисковых решений, а также хостит инфраструктуру сервисов, как Siri, Maps и Apple Music. А еще компания изучает возможность использования Trainium2 для обучения своих моделей для Apple Intelligence — в общем, это хорошее заявление в поддержку AWS и, по большому счету, это хорошо, поскольку пока что мы наблюдаем повсеместное господство Nvidia и эту фактическую монополию хорошо бы уравновешивать.

ИИ обойдётся без Nvidia: Amazon выпустила системы на чипах Trainium2, а через год выйдут Trainium3. Подразделение Amazon Web Services AWS компании Amazon объявило на проводимой им конференции re:Invent, что клиенты её облачной платформы теперь могут пользоваться системами с ускорителями Trainium2, предназначенными для обучения и запуска больших языковых моделей искусственного интеллекта. Совместно со своим партнёром в лице Anthropic, основным конкурентов OpenAI в области больших языковых моделей, AWS намеревается построить крупный кластер систем UltraServer с «сотнями тысяч чипов Trainium2», где стартап сможет обучать свои модели. Он будет в пять раз мощнее кластера, на котором Anthropic обучала модели текущего поколения — по оценке AWS, он «станет крупнейшим в мире вычислительным кластером для ИИ, о котором сообщалось до настоящего времени». Проект поможет компании превзойти показатели, которые обеспечиваются актуальными ускорителями Nvidia, которые по-прежнему пользуются высоким спросом и остаются в дефиците. Возможно, поэтому AWS уже сейчас анонсировала ускорители нового поколения Trainium3, которые предлагают ещё один четырёхкратный прирост производительности для систем UltraServer — ускорители будут производиться с использованием техпроцесса 3 нм, а их развёртывание начнётся в конце 2025 года.

В России запустили в продажу новогодний подарок, который опережает время

Amazon строит огромный суперкомпьютерный кластер для Anthropic и готовит 3-нм чипы Trainium3 СЕО AWS Мэтт Гарман заявил, что они вместе с Anthropic создают гигантский суперкомпьютер из сотни тысяч ИИ-ускорителей Trainium2. Это позволит Anthropic получить вычислительную мощность в 5 раз больше, чем при предыдущем обучении их моделей. Также AWS представила следующее поколение ИИ-ускорителей — Trainium3: - Производство на передовом 3-нанометровом техпроцессе - Производительность в 4 раза выше по сравнению с Trainium2 - Запуск в производство запланирован на конец 2025 года. Для сравнения, текущее поколение Trainium2 производится по 5-нм техпроцессу и включает два вычислительных кристалла с четырьмя блоками высокоскоростной памяти HBM по 24 ГБ каждый.

WSJ: Amazon планирует создать Ultracluster – новый ИИ-суперкомпьютер – Ultracluster будет состоять из сотен тысяч чипов Trainium – Также Amazon разработала собственный новый сервер – Внутри США планируется создать кластер Project Rainer – Этот Project Rainer будет использовать стартап Anthropic – Это будет крупнейший кластер для обучения ИИ-моделей – AWS также анонсировала свой новый сервер Utlraserver – Utlraserver будет состоять из 64 взаимосвязанных чипов – В качестве нового клиента AWS была анонсирована Apple – Рынок ИИ-чипов по итогам 2024 составляет $117,5 млрд – До конца 2027 объем рынка должен быть $193,3 млрд – При этом пока Nvidia занимает 95% рынка ИИ-чипов