Тренер-чемпион
Байтик встречает тренера Оптиму! 12 миссий об оптимизации обучения: SGD, Momentum, Adam, переобучение, dropout, регуляризация и лучшие практики тренировки нейросетей.
Первые 3 урока этого курса — бесплатно, без карты. Дальше — подписка от 699 ₽ в месяц на все курсы.
О чём этот курс
Третья часть трилогии. Курс посвящён оптимизаторам и лучшим практикам обучения нейросетей. Дети узнают о SGD, Momentum, Adam, сравнении оптимизаторов, переобучении и его признаках, dropout, регуляризации и аугментации данных. Финальный проект — составление полного плана тренировки нейросети.
Чему научитесь
- Знание основных оптимизаторов: SGD, Momentum, Adam
- Диагностика и борьба с переобучением
- Применение dropout и регуляризации
- Аугментация данных для улучшения обучения
- Составление плана тренировки модели
Для кого
Продвинутый уровень, от 9 лет. Продвинутый курс, часть 3 из трилогии обучения.
Как проходит обучение
Интерактивные задания
Квизы, головоломки, симуляторы и творческие задачи в каждом уроке
Система XP и наград
За правильные ответы начисляются очки опыта и открываются достижения
12 уроков по ~30 минут
Каждый урок — самостоятельная тема с теорией и практикой
Робот-проводник Байтик
Дружелюбный персонаж объясняет сложные темы простым языком
Программа курса
Академия тренеров
БесплатноЧто делает оптимизатор и как он надстраивается над градиентным спуском.
~30 мин
Осторожный тренер (SGD)
БесплатноСтохастический градиентный спуск: почему шаг по маленькой выборке быстрее и откуда зигзаг.
~30 мин
Тренер с инерцией (Momentum)
БесплатноМомент инерции: накопленная скорость сглаживает зигзаг и проносит сквозь мелкие ямы.
~30 мин
Умный тренер (Adam)
PROОптимизатор Adam: свой шаг для каждого веса и реакция на шумность градиента.
~30 мин
Сравниваем тренеров
PROКакой оптимизатор под какую задачу: где выигрывает SGD, а где Adam.
~30 мин
Когда спортсмен перетренирован
PROПереобучение: модель выучила конкретные примеры вместо правила — и что такое обобщение.
~30 мин
Признаки перетренированности
PROПризнаки переобучения: разрыв между ошибкой на обучении и на проверке.
~30 мин
Отдых для нейронов (Dropout)
PRODropout: зачем во время обучения отключать часть нейронов и как выбрать долю.
~30 мин
Не усложняй! (Регуляризация)
PROРегуляризация L1 и L2: почему простая модель лучше и как L1 обнуляет лишние признаки.
~30 мин
Больше примеров (Аугментация)
PROАугментация: как из одного снимка получить десяток честных новых примеров.
~30 мин
Проект: Тренировочный план
PROПроект: собрать план обучения — данные, оптимизатор, защита от переобучения.
~30 мин
Тренер-чемпион
PROИтог курса: из чего складывается тренировка модели и как понять, что она пошла не туда.
~30 мин
Похожие курсы
ИИ учится играя
Байтик становится игроком! 12 миссий об обучении с подкреплением: награды, стратегии, AlphaGo, роботы и reward hacking.
Спуск в долину
Байтик встречает альпиниста Градиуса! 12 миссий о градиентном спуске: ландшафт ошибки, градиент как указатель, learning rate, локальные минимумы, backpropagation и цепное правило.
Не учи с нуля
Байтик попадает в Великую библиотеку знаний! 12 миссий о трансферном обучении: предобученные модели, feature extraction, fine-tuning, few-shot и zero-shot learning.
Регистрация бесплатная. Первые 3 урока этого курса — без карты, а курс «Знакомство с ИИ» открыт целиком.