Андрей Карпаты представил новую лекцию по нейронным сетям после 7-месячного перерыва

Со-основатель OpenAI Андрей Карпаты выложил новую лекцию по нейронкам впервые за 7 месяцев! Это полное погружение в устройство LLM на 3,5 часа: • Прентрейнинг: обработка данных, токенизация, архитектура Transformer и реальные примеры. • Файнтюнинг: психология LLM, галлюцинации, ошибки в орфографии и другие важные аспекты. • RLHF: как работает обучение с подкреплением в LLM на примере DeepSeek R1. Последние 10 минут — краткая выжимка всей лекции! Сохраняем и смотрим годноту тут.

В России запустили в продажу новогодний подарок, который опережает время

Сооснователь OpenAI выкатил 3-часовую лекцию по LLM и созданию ChatGPT — тут все этапы подготовки: • Подготовка к тренировкам: как собирать данные, что такое трансформер и что такое токен • Файнтюн: превращение модели в что-то рабочее • Обучение с подкреплением: когда люди выбирают лучший ответ, тем самым обучая модель В последних 10 минутах краткий экскурс по всей лекции, если лень смотреть. Лекция бесплатная и лежит на YouTube тут.

Сооснователь OpenAI записал лекцию о том, как устроены LLM Новое обучающее видео от Andrej Karpathy поможет широкой аудитории разобраться в том, как создаются и работают большие языковые модели.