machinelearning_books

Стэнфорд опубликовал свой самый новый курс «CS336: Language Modeling с нуля». Курс практический, всех желающих научат обучать свою LLM — уже до начала июня будете иметь в руках своего личного ChatGPT. Рассказывают про всё: от архитектуры и токенизаторов до обучения с подкреплением и масштабирования. Первые три лекции здесь, а домашка — тут.

OpenAI только выпустили статью Competitive Programming with Large Reasoning Models Примечательно, что o3 получил золотую медаль на IOI 2024 и рейтинг на Codeforces на уровне элитных программистов мира. В целом, эти результаты указывают на то, что масштабирование обучения с подкреплением общего назначения, а не упор на специфичные для домена методы, предлагает надежный путь к современному ИИ в областях рассуждений, таких как олимпиадное программирование.