Тренер-чемпион
Байтик встречает тренера Оптиму! 12 миссий об оптимизации обучения: SGD, Momentum, Adam, переобучение, dropout, регуляризация и лучшие практики тренировки нейросетей.
Первые 3 урока этого курса — бесплатно, без карты. Дальше — подписка от 699 ₽ в месяц на все курсы.
О чём этот курс
Третья часть трилогии. Курс посвящён оптимизаторам и лучшим практикам обучения нейросетей. Дети узнают о SGD, Momentum, Adam, сравнении оптимизаторов, переобучении и его признаках, dropout, регуляризации и аугментации данных. Финальный проект — составление полного плана тренировки нейросети.
Чему научитесь
- Знание основных оптимизаторов: SGD, Momentum, Adam
- Диагностика и борьба с переобучением
- Применение dropout и регуляризации
- Аугментация данных для улучшения обучения
- Составление плана тренировки модели
Для кого
Продвинутый уровень, от 9 лет. Продвинутый курс, часть 3 из трилогии обучения.
Как проходит обучение
Интерактивные задания
Квизы, головоломки, симуляторы и творческие задачи в каждом уроке
Система XP и наград
За правильные ответы начисляются очки опыта и открываются достижения
12 уроков по ~7 минут
Каждый урок — самостоятельная тема с теорией и практикой
Робот-проводник Байтик
Дружелюбный персонаж объясняет сложные темы простым языком
Программа курса
Академия тренеров
БесплатноСыграй против машины с правилом «дели пополам» и увидь, чем правило шага лучше удачи, разбери, почему простой спуск ползёт по плоским местам, и найди сложность модели, после которой она начинает зубрить.
~6 мин
Осторожный тренер (SGD)
БесплатноОпроси команду по группам и получи два разных вывода на один вопрос, собери порцию из трёх карточек и посмотри, что модель по ней узнает, и реши, куда шагнёт SGD, когда порция врёт.
~7 мин
Тренер с инерцией (Momentum)
БесплатноВытащи спуск из мелкой ямы, включив разгон, посчитай, как копится скорость, и найди, при какой силе памяти β запуск снижает ошибку сильнее всего.
~6 мин
Умный тренер (Adam)
PROОтметь подсказки двенадцати мини-батчей и узнай, куда они тянут вес вместе, научи модель угадывать шаг Adam и проверь, что решает не размер толчков, а их согласие.
~8 мин
Сравниваем тренеров
PROСравни Adam и SGD с моментом по двадцати запускам на четырёх задачах и увидишь, что вывод зависит от выбранных задач, а потом покрути веса сам и найди набор точек, который не разделит ни один тренер.
~7 мин
Когда спортсмен перетренирован
PROДоведи кривую до идеала на тренировке и найди, где она лучше всего на новых точках, а потом реши, с какой уверенностью честно говорить модели-судье, которая на чужом стадионе права в шести случаях из десяти.
~6 мин
Признаки перетренированности
PROОстанови одну и ту же сеть после 5, 20, 60 и 200 эпох и найди лучший момент по проверке, научи модель-наблюдателя решать, пора ли останавливаться, и разберись, по какой примете модель спутала хаски с волком.
~7 мин
Отдых для нейронов (Dropout)
PROСобери тренировку из трёх снимков так, чтобы модель узнала кошку, даже если у той что-то спрятано, потом опроси двенадцать подсетей и сравни ответ одной с ответом всех вместе.
~7 мин
Не усложняй! (Регуляризация)
PROНайди вес, при котором модель меньше всего ошибается на новых пробежках, и увидишь, почему L2 тянет веса к нулю, а потом раздели точки, выключив бесполезный признак, как это делает L1.
~7 мин
Больше примеров (Аугментация)
PROНарисуй домик как обычно и вверх ногами и проверь, узнает ли его настоящая нейросеть, проведи фильтром по двум одинаковым палочкам — стоячей и лежачей — и найди искажение, которое портит пример.
~6 мин
Проект: Тренировочный план
PROПодбери шаг обучения на живом спуске — от дна до поломки, назначь роботу награду, при которой он правда убирает комнату, и запиши свой план для модели, которая отличает три вида цветов по 300 фото.
~7 мин
Тренер-чемпион
PROВыпускной проект: собери снимки для модели, которая ищет больные листья томатов в теплице, сравни три рецепта обучения запусками и поставь порог, с которого модель зовёт агронома.
~7 мин
Похожие курсы
ИИ учится играя
Байтик становится игроком! 12 миссий об обучении с подкреплением: награды, стратегии, AlphaGo, роботы и reward hacking.
Спуск в долину
Байтик встречает альпиниста Градиуса! 12 миссий о градиентном спуске: ландшафт ошибки, градиент как указатель, learning rate, локальные минимумы, backpropagation и цепное правило.
Не учи с нуля
Байтик попадает в Великую библиотеку знаний! 12 миссий о трансферном обучении: предобученные модели, feature extraction, fine-tuning, few-shot и zero-shot learning.
Регистрация бесплатная. Первые 3 урока этого курса — без карты, а курс «Знакомство с ИИ» открыт целиком.