Спуск в долину
Байтик встречает альпиниста Градиуса! 12 миссий о градиентном спуске: ландшафт ошибки, градиент как указатель, learning rate, локальные минимумы, backpropagation и цепное правило.
Первые 3 урока этого курса — бесплатно, без карты. Дальше — подписка от 699 ₽ в месяц на все курсы.
О чём этот курс
Вторая часть трилогии. Курс объясняет градиентный спуск — главный алгоритм обучения нейросетей. Дети узнают о ландшафте ошибки, градиенте как указателе направления, learning rate, проблемах слишком большого и слишком маленького шага, локальных минимумах, backpropagation и цепном правиле. Интерактивные симуляторы спуска.
Чему научитесь
- Понимание градиентного спуска
- Знание о learning rate и его влиянии
- Представление о ландшафте функции потерь
- Основы обратного распространения ошибки
- Визуализация процесса обучения
Для кого
Продвинутый уровень, от 9 лет. Продвинутый курс, часть 2 из трилогии обучения.
Как проходит обучение
Интерактивные задания
Квизы, головоломки, симуляторы и творческие задачи в каждом уроке
Система XP и наград
За правильные ответы начисляются очки опыта и открываются достижения
12 уроков по ~30 минут
Каждый урок — самостоятельная тема с теорией и практикой
Робот-проводник Байтик
Дружелюбный персонаж объясняет сложные темы простым языком
Программа курса
Гора ошибок
БесплатноЛандшафт ошибки: что значит «спуститься вниз» и почему в начале обучения ошибка велика.
~30 мин
Куда шагать?
БесплатноЧто такое градиент: он указывает, куда ошибка растёт быстрее всего, — значит, идти надо против него.
~30 мин
Спуск вслепую
БесплатноСпуск вслепую: сеть видит только текущую ошибку и наклон под ногами, а не всю карту.
~30 мин
Размер шага
PROСкорость обучения: шаг равен градиенту, умноженному на learning rate.
~30 мин
Слишком быстро!
PROСлишком большой шаг: почему ошибка начинает скакать и модель проскакивает минимум.
~30 мин
Слишком медленно!
PROСлишком маленький шаг: обучение сходится, но может не дойти за разумное время.
~30 мин
Ловушки на горе
PROЛокальный минимум и плато: где градиент обнуляется и обучение останавливается раньше времени.
~30 мин
Ошибка течёт назад
PROОбратное распространение: ошибка видна только на выходе, а править надо все слои.
~30 мин
Цепочка ответственности
PROЦепное правило: как вклад каждой операции перемножается на обратном проходе.
~30 мин
Кто виноват больше?
PROКто виноват больше: почему вес с большим градиентом правится сильнее.
~30 мин
Проект — Спуск вручную
PROПроект: посчитать несколько шагов спуска вручную и убедиться, что ошибка убывает.
~30 мин
Выпускной — Мастер спуска
PROИтог курса: градиент, шаг и обратное распространение — механика обучения нейросети.
~30 мин
Похожие курсы
ИИ-творец
Байтик становится творцом с ИИ! 12 миссий о генеративном ИИ: как нейросети создают тексты, картинки, музыку и код. Промпт-инженерия, диффузия, галлюцинации и этика ИИ-творчества.
Ошибка как компас
Байтик отправляется в плавание по Морю ошибок! 12 миссий о loss-функциях: как нейросеть понимает, что ошиблась, и как измерить величину ошибки. Первая часть трилогии об обучении.
Тренер-чемпион
Байтик встречает тренера Оптиму! 12 миссий об оптимизации обучения: SGD, Momentum, Adam, переобучение, dropout, регуляризация и лучшие практики тренировки нейросетей.
Регистрация бесплатная. Первые 3 урока этого курса — без карты, а курс «Знакомство с ИИ» открыт целиком.