Не учи с нуля

Научи готовую нейросеть двум буквам, которых она никогда не видела, за шесть рисунков. Потом доведи модель «с нуля» до зубрёжки — и увидишь, почему с нуля учат редко.

~7 мин

Проведи фильтр краёв — такие сеть выучивает на обычных фото — по рентгеновскому снимку и найди трещину. Потом помести в пространство готовой языковой модели слова, которых она не знала.

~7 мин

Выбери три снимка, чтобы доучить готовую сеть для ночной фотоловушки, и поставь порог, с которого она считает снегирей. Увидишь, что сеть знает сама, а что решаешь ты.

~7 мин

Стань новым слоем поверх замороженной сети: раздели снегирей и лазоревок одной прямой в признаках донора и попробуй то же на сырых пикселях. Потом расставь птиц сам и посчитай, за сколько поправок такой слой учится без тебя.

~7 мин

Доведи дообучение донора до дна ошибки, а потом поставь шаг как при обучении с нуля и посмотри, как он разносит готовые веса. Затем найди, сколько слоёв донора стоит размораживать, когда фото всего двести.

~7 мин

Разложи знаменитых доноров — ResNet, BERT, GPT-2, Whisper и других — по двум вопросам, по которым их выбирают. Потом наведи внимание слова «коса» на подсказку, стоящую после него, и узнай, почему одного донора берут понимать текст, а другого — сочинять.

~7 мин

Будь новым слоем для дорожных знаков: раздели «Стоп» и «Уступи дорогу» в признаках донора, а потом попробуй разделить «налево» и «направо». Проведи фильтр первого слоя по стрелке и найди, где донор всё-таки видит направление.

~7 мин

Научи модель узнавать окапи по двум фото и проверь её на новых зверях. Потом найди окапи совсем без примеров — в общем пространстве снимков и слов, как у CLIP.

~7 мин

Выбери три карточки из снимков цветов и их копий с поворотом и затемнением так, чтобы модель узнала цветы на фото с телефона. Потом найди, с какой уверенностью ей честно отвечать, если на отложенных фото она права в семи случаях из десяти.

~7 мин

Разложи сообщения из школьного чата по теме или по настроению и узнай, почему обе раскладки умеет одна модель. Потом уточни промпт для чат-бота так, чтобы у него остался ровно один способ ответить.

~7 мин

Собери свою модель для галереи телефона: разметь смазанные и чёткие фото, обучи модель поверх готовой сети и проверь её на новых снимках. Потом реши, с какой уверенности ей можно удалять фото навсегда, и разбери её ошибку.

~8 мин

Выпускной проект: выбери четыре снимка фотоловушки, чтобы модель узнавала зверей на тропе днём и ночью, в снег и без снега, подбери шаг дообучения, который не разнесёт веса донора, и реши, что сделать перед выпуском модели в заповедник.

~7 мин