Не учи с нуля
Байтик попадает в Великую библиотеку знаний! 12 миссий о трансферном обучении: предобученные модели, feature extraction, fine-tuning, few-shot и zero-shot learning.
Первые 3 урока этого курса — бесплатно, без карты. Дальше — подписка от 699 ₽ в месяц на все курсы.
О чём этот курс
Курс объясняет трансферное обучение — подход, позволяющий использовать знания, накопленные одной нейросетью, для решения новых задач. Дети узнают о предобученных моделях, feature extraction, fine-tuning, few-shot и zero-shot learning, применении трансфера для изображений и текста.
Чему научитесь
- Понимание transfer learning и его преимуществ
- Различие между feature extraction и fine-tuning
- Знание о предобученных моделях (ImageNet, BERT)
- Few-shot и zero-shot learning
- Применение трансфера к своим задачам
Для кого
Продвинутый уровень, от 9 лет. Для тех, кто хочет понять, как работают большие модели.
Как проходит обучение
Интерактивные задания
Квизы, головоломки, симуляторы и творческие задачи в каждом уроке
Система XP и наград
За правильные ответы начисляются очки опыта и открываются достижения
12 уроков по ~30 минут
Каждый урок — самостоятельная тема с теорией и практикой
Робот-проводник Байтик
Дружелюбный персонаж объясняет сложные темы простым языком
Программа курса
Зачем учить с нуля?
БесплатноПочему учить модель с нуля дорого и что такое перенос знаний.
~30 мин
Чужой опыт — не чужой
БесплатноПочему первые слои переносятся лучше всего: они видят края и пятна, общие для любых картинок.
~30 мин
Что нейросеть уже знает?
БесплатноЧто хранит каждый слой: от универсальных признаков внизу к узкоспециальным наверху.
~30 мин
Заморозь и дострой
PROЗаморозка слоёв и feature extraction: обучаем только новую голову поверх готовой модели.
~30 мин
Тонкая настройка
PROТонкая настройка: когда размораживать слои и почему нужен маленький learning rate.
~30 мин
Знаменитые модели-доноры
PROИзвестные модели-доноры: ResNet, BERT и CLIP — на чём они обучались и что умеют.
~30 мин
Когда трансфер работает?
PROНегативный перенос: когда чужие веса мешают и какая комбинация условий самая опасная.
~30 мин
Мало данных — не проблема!
PROОбучение по нескольким примерам: few-shot и zero-shot — как модель справляется почти без данных.
~30 мин
Трансфер для картинок
PROПеренос для изображений: выбор модели под размер выборки и роль аугментации.
~30 мин
Трансфер для текста
PROПеренос для текста: роль токена [CLS] и что замораживать в BERT.
~30 мин
Проект: Своя модель за 5 минут
PROПроект: собрать рабочую модель на готовой основе и оценить, хватает ли данных.
~30 мин
Выпускной: Мастер переноса знаний
PROИтог курса: feature extraction и fine-tuning — два способа не начинать с нуля.
~30 мин
Похожие курсы
ИИ учится видеть
Байтик отправляется в Лабораторию зрения с Профессором Линзой! 12 миссий о компьютерном зрении: пиксели, фильтры, CNN, распознавание лиц, видеоаналитика и ошибки ИИ.
Тренер-чемпион
Байтик встречает тренера Оптиму! 12 миссий об оптимизации обучения: SGD, Momentum, Adam, переобучение, dropout, регуляризация и лучшие практики тренировки нейросетей.
Секрет внимания
Байтик попадает в Детективное агентство связей! 12 миссий о трансформерах: self-attention, Query-Key-Value, multi-head attention, позиционное кодирование, энкодеры (BERT), декодеры (GPT) и Vision Transformer.
Регистрация бесплатная. Первые 3 урока этого курса — без карты, а курс «Знакомство с ИИ» открыт целиком.