cryptoEssay

Нобелевские премии по Физике и Химии дали за deep learning нейронные сети. Осталась Литература и Премия Филдса и можно будет сказать что AGI тут.

Начался OpenAI DevDay. Уже презентовали prompt caching 50% от цены если вы используете тот же промт для вашего приложения , обновления в API, fine-tuning для 4o моделей в том числе видео файнтьюн, так что вы теперь можете построить самоуправляемый велосипед на основе GPT . Самое интересное демо пока что — Realtime API. Фактически это возможность в реальном времени, но задержки, общаться с моделью голосом. На видео несколько впечатляющих демо. Это будет доступно всем разработчикам по цене базовой модели. Добавили нативную дистилляцию моделей: вы можете сделать более маленькую, дешевую специализированную модель под себя. Так же OpenAI запустил свой продукт для эвалов наконец-то! , так что теперь оценивать качество вашего приложения можно будет не по методу пол-палец-потолок, а по уму.

Сэм поднял очередные $6.5 млрд, при этом каждому инвестору требовалось вложить минимум четверть миллиарда долларов чтобы попасть в раунд. И многие жалуются, что не попали. А кому-то казалось что 1,7 млрд в ТОН Дурова это была вершина хайпа. Уверен, что вершина хайпа в ИИ еще впереди, по мере того как все больше людей будет осознавать экономический эффект от этих продуктов. Конечно, нас ждет масса пузырей на этом рынке, но я не сомневаюсь, что текущие инвесторы OpenAI прилично заработают. Тренировка GPT-5 либо уже закончена, либо близка к этому. Данный раунд пойдет на финансирование разработки новых продуктов. А за ними нас ждет эра софта, где каждая новая версия будет стоит десятки если не сотни миллиардов и, соответственно, у компаний, которые хотят пережить пузырь, должен быть план по монетизации этих моделей. В этом контексте, модели с месячной подпиской в тысячи долларов не кажутся уже такими безумными.

О пост-AI экономике: почему это происходит? Сегодня Microsoft, BlackRock, GIP и Арабские Эмираты объявили о создании консорциума для строительства первого в истории дата-центра и "энергетической инфраструктуры для него" за $100 млрд. Это какие-то космические деньги для данной индустрии, и что-то мне подсказывает это только первый из таких коммерческих проектов а сколько еще будет государственных, военных, etc? Давайте разберемся: зачем, почему? Сам факт появления новой технологии не всегда приводит к её масштабированию. Вот есть технология NFT, но большинству из вас от неё как-то горячо или холодно? Правило успешного стартапа в том, что он должен решать существующую проблему, но сильно дешевле и лучше. В статье NfX очень наглядно показан объем и острота проблемы. Рынок нама персонала в США составляет больше $5 триллионов, тогда как рынок софта всего лишь $200 с лишним миллиардов. Постепенно, бизнесы начнут выбирать второе вместо первого. Почему? Потому что стоимость такого робосотрудника в разы ниже, а маржа компаний производящих SaaS обычно составляет больше 80%, тогда как ручные сервисные бизнесы довольствуются в среднем 30%. Это значит, что создается огромная рыночная "тяга" когда техология уже доступна, а маржа выше чем в других местах. Эту пустоту моментально заполнят талантливые как вы, читатели этого канала фаундеры ИИ-стартапов. Этим фаундерам нужны все более производительные модели, поэтому Anthropic, Google и OpenAI будут строить все более дорогие датацентры и тренировать более крутые модели. Так что, даже не по своей воле, а из-за рыночных сил , но — ускоряемся!

Ну что, дождались! OpenAI выкатил новую супер-модель. o1 отличается от предыдущих моделей встроенной способностью к "рассуждениям" reasoning . В модель "вшита" способность к логическим выводам и самокритике/саморефлексии через chain of thought. Полный отчет по модели можно скачать тут. Модель уже доступна для всех разработчиков с доступом к API tier-5, но скоро будет доступна и в бесплатной версии GPT. Выводы: 1. Скейлинг работает. Больше денег, больше данных = круче модель. Ужасные рассказы о том, что LLM уперлись в потолок снова оказались просто разговорами. Вместо скейлинга pre-training, теперь скейлится test time compute то бишь инференс . 2. В точных задачах, типа математики o1 показывается в 7-8 раз круче результаты, чем gpt4o. В коде — в 8-9 раз. В задачкаъ по химии, физике — около 15% прироста. 3. OpenAI прямо зуб дают, что математические способности o1 не хуже, чем у победителя международной олимпиады по математике, а по точным наукам типа физики она работает не хуже кандидата наук. 4. В принципе, закиданный всеми на прошлой неделе в твиттере помидорами Reflection70B делал то же самое. Но не сделал. А Сэм — мужик. Сэм взял и сделал. 5. Стоит $60 за миллион токенов, а значит интеллект у нас теперь достанется только богатым. 6. Это пока что дорогая и медленная модель. Но именно используя эту новую парадигму "думай, а потом говори" , OpenAI за ближайшие годы сделает o1 в десятки или даже сотни раз дешевле, быстрее и умнее. 7. "o1 думает, но думает несколько секунд. в будущих версиях она будет думать над сложными задачами несколько часов, дней или даже недель" OpenAI

1x компания, в которую мощно вложились OpenAI представила новую версию робота NEO. Рост: 165 см Вес: 30 кг Скорость ходьбы: от 5 до 12 км/ч Может поднимать грузы до 20 кг Работает до 4 часов на одном заряде. Скоро в каждом доме. Как минимум, таких будет больше чем машин, ибо машина это куда-то ехать, а тут все удовольствия сразу в постель. Ускоряемся.

Кандидат в президенты США Роберт Кеннеди Младший только что заявил, что если его выберут, то он подпишет указ покупать по 550 BTC в день, пока они не будут владеть 4,000,000 ВТС почти $300 млрд или 20% от всех в обращении

Только что анонсировали новый ASIC для LLM: он умеет генерировать 500,000 токенов в секунду! Эта штука может писать по одному тому "Войны и Мира" каждую секунду. Локально и без доступа к интернету. Это в десятки раз быстрее, чем кластер из 8 профессиональных карт NVIDIA H100. Подходит для любых приложений на основе трансформеров: Llama, Stable Diffusion, Sora, Claude, GPT и так далее.

О том, что происходит в крипте за 3 минуты. Идет конфа State of Crypto, хочу сделать небольшую выжимку интересных фактов с неё. - в ближайшие годы будет самый большой трансфер ценности в истории: $70 триллионов — от бумеров к более молодому поколению, это приведет к больше технологичности денег - 1/3 крупнейших хедж-фондов пользуются Coinbase, $12B чистый приток в Bitcoin ETF за 3 месяца - BlackRock и Coinbase говорят, что большинство крупнейших институционалов готовы, но ждут разрешения вопроса регуляции прежде чем зайти - 80% покупок ETF это частные покупки пользователей, не брокеры/адвайзеры/институционалы - все активы стали цифоовыми активами, скоро все цифровые активы станут onchain активами - $1.3В Treasury Bonds торгуется ончейн - больше половины Fortune 500 компаний имеет экспозицию на крипту, но с прояснением регуляции эта доля вырастет с 2% до 10+% - приватные/закрытые/permissioned/корпоративные блокчейны, слава Богу, умерли как страшный сон Ничего кардинально нового, кроме того факта, что криптаны США всякие там блекроки и фиделити продолжают воевать с конгрессом и, кажется, благодаря СЮРПРИЗ! Трампу начинают выигрывать. Начинать смотреть тут:

Сегодня твиттер взорвался. Экс-сотрудник OpenAI из команды Superalignment опубликовал 165-страничный документ о будущем ИИ. Там много деталей, фактов, индукции и вполне разумных прогнозов, поэтому прежде чем строчить гневные и безумные комментарии крайне советую прочитать сам документ. - AGI к 2027 году более чем вероятен. - После AGI переход к ASI сверхинтеллекту за счет самообучения будет очень быстрым, почти мгновенным - AGI — это самый существенный геополитический ресурс, куда важнее, чем ядерное оружение и страны пойдут на многое, чтобы получить его первым. В статье приводятся примеры того как китайцы шпионят за ИИ-компаниями в США. - сегодня большой дата-центр это единицы или десятки мегаватт, но с ИИ потребность вырастет на, как минимум, 4 порядка x 10,000 - мы увидим единый вычислительный кластер стоимостью в триллион долларов в течении пяти лет. самая рациональная инвестиция со стороны state actors и big tech — это compute, атомная энергия и инфраструктура для первых двух. - NVIDIA, MSFT, AMZN, GOOG уже сегодня планируют капекс в $100B в квартал на датацентры только для ИИ - к 2030 году ежегодно и глобально будет инвестироваться $8T в ИИ включая чипы и компьют , а так же только для ИИ будет потребляться больше чем 100% э/э генерируемой в США сегодня - к 2026 году выручка одной из big tech компаний от ИИ превысит $100B - это не безумно, и сравнимые расходы и сдвиги происходили во время Манхеттенского проекта или Промышленной революции и строительства ж/д Завтра продолжу со второй частью Если вам лень читать, то можете послушать вышедший сегодня 4-часовой подкаст о том же самом: