Илон Маск анонсировал увеличение мощности суперкомпьютера Colossus AI в 10 раз

Илон Маск дал старт работам по увеличению в 10 раз мощности суперкомпьютера Colossus AI. Это делается для одержания верха над такими конкурентами, как OpenAI и Anthropic. Об этом сообщила газета Financial Times. / Наука

Colossus расширят минимум до миллиона видеокарт Размер суперкомпьютера xAI, который построили за рекордные четыре месяца, пару месяцев назад начали удваивать - к 100k H100 решили докинуть 50k H100 и 50k H200. Закончены ли уже работы - непонятно, но Маск вроде пока этим не хвастался. До лета следующего года планируется докинуть ещё 300к GB200, первые из которых начнут устанавливать уже в январе, за приоритетный доступ к GPU Маск заплатил больше миллиарда долларов. А вот сейчас выяснилось что и это не предел, а общее количество карт планируется довести более чем до миллиона. Для понимания масштабов - Llama 3 405B тренировали на 16k H100, Grok 2 - на 20k. Кластеры для тренировки других передовых моделей тоже находятся в пределах пары десятков тысяч GPU. Следующее поколение моделей, вроде Grok 3, тренируется уже на 100k+ GPU, а компании уже закладывают инфраструктуру на всё большую и большую тренировку. А ведь миллион GPU это не предел - уже какое-то время ходят слухи о многогигаваттных инсталляциях, стоимостью за сотню миллиардов долларов каждая, с многими миллионами чипов.

Маск запустил работы по увеличению в 10 раз мощности суперкомпьютера Colossus AI В суперкомпьютер в городе Мемфис штат Теннесси , уже считающийся одним из самых быстрых в мире, Маск планирует включить более 1 млн графических процессоров. Поддержку в реализации подобного проекта решили оказать миллиардеру компании Nvidia, Dell и Supermicro Computer, которые разместят в городе операционные пункты. Расширение Маском возможностей вычислительного гиганта потребует инвестиций "в десятки миллиардов долларов".

xAI Илона Маска завершила раунд финансирования на $6 млрд, который длился несколько месяцев. В нём участвовали 97 инвесторов, минимальный вклад составил $77,5 тысячи. Компания стремится к оценке $50 млрд, что в два раза выше её стоимости в мае 2024 года vc.ru/invest/1694248

FT: Маск вдесятеро хочет увеличить мощность суперкомпьютера Colossus AI. По информации газеты, значительное расширение возможностей вычислительного гиганта потребует инвестиций "в десятки миллиардов долларов"

Американский ИИ-стартап xAI Илона Маска пообещал увеличить мощности своего суперкомпьютера Colossus в десять раз, пишет Financial Times. Сейчас Colossus управляет кластером из более чем 100 тыс. взаимосвязанных графических процессоров Nvidia Corp. в Мемфисе штат Теннесси . Этот кластер планируется увеличить до более чем 1 млн процессоров. Работа по расширению площадки уже началась, сообщила Торговая палата Большого Мемфиса Greater Memphis Chamber . Для поддержки этих усилий в Мемфисе будут вести деятельность Nvidia, Dell Technologies и Super Micro Computer.

Маск расширяет свой суперкомпьютерный кластер до 1 млн GPU Работа уже началась, планируется увеличить мощность дата-центра Colossus в 10 раз. Сейчас дата-центр работает на кластере из 100тыс GPU от NVIDIA. В проекте участвуют также Dell и Super Micro. Все эти компании планируют открыть свои представительства в Мемфисе, где находится Colossus.

FT: Маск планирует десятикратно расширить мощности суперкомпьютера Colossus – xAI пообещал десятикратно увеличить мощности Colossus – Планируется, что Colossus будет состоять из 1+ млн GPU – Расширение поможет xAI опередить OpenAI, Anthropic и др. – Сейчас Colossus состоит уже из 100+ тыс. GPU от Nvidia – Эти чипы используются для обучения чат-бота Grok от xAI – Стоимость покупки новых GPU будет очень значительной – На расширение необходимы десятки миллиардов долларов – После начала 2024 стартап xAI привлек около $11 млрд – Илон Маск пытается активно противостоять OpenAI и др.

Маск собирается купить миллион GPU для своего суперкомпьютера Речь идет о суперкомпьютере Colossus, который использует стартап xAI. Он был построен всего за 3 месяца и сейчас включает 100 тысяч графических ускорителей Nvidia. Теперь xAI собирается увеличить Colossus в 10 раз, доведя количество GPU в нем до 1 миллиона. Работы по расширению уже ведутся. Чтобы их поддержать, неподалеку от дата-центра откроются представительства Nvidia, Dell и Supermicro.

Пока OpenAI презентует свои новинки об этом мы писали в дайджесте , Илон Маск старается доказать, что он тоже не лыком шит ему есть, чем привлечь внимание публики Его компания xAI привлекла около $6 млрд в рамках акционерного финансирования, пишет Reuters. Эти средства направлены на усиление позиций компании в индустрии ИИ, особенно они нужны суперкомпьютеру в Мемфисе, который будет оснащён более чем 1 млн графических процессоров. Ранее сообщалось, что оценка xAI после привлечения финансирования может превысить $50 млрд. Для сравнения, OpenAI в октябре завершила раунд финансирования с оценкой $157 млрд. Маск также продолжает юридическое противостояние с OpenAI, обвиняя её в монополизации рынка генеративного ИИ и вытеснении конкурентов. Фото: Lexica art TMT Channel Подписаться