Все чувства вместе
Байтик попадает в Оркестровую яму с дирижёром Синтезией и осьминогом Октави! 12 миссий о мультимодальном ИИ: модальности, CLIP, text-to-image, image captioning, голосовые помощники, видео, GPT-4V, Gemini и кросс-модальное внимание.
Первые 3 урока этого курса — бесплатно, без карты. Дальше — подписка от 699 ₽ в месяц на все курсы.
О чём этот курс
Курс объясняет мультимодальный ИИ — системы, объединяющие текст, изображения и звук. Дети узнают о модальностях данных, CLIP, text-to-image, image captioning, голосовых помощниках, видеоанализе, GPT-4V, Gemini и кросс-модальном внимании. Финальный проект — мультимодальный ИИ-ассистент.
Чему научитесь
- Понимание мультимодальности в ИИ
- Знание о CLIP и связи текста с изображениями
- Text-to-image и image-to-text
- Анализ видео с помощью ИИ
- Представление о GPT-4V и Gemini
Для кого
Продвинутый уровень, от 9 лет. Финальный курс программы, объединяющий все знания об ИИ.
Как проходит обучение
Интерактивные задания
Квизы, головоломки, симуляторы и творческие задачи в каждом уроке
Система XP и наград
За правильные ответы начисляются очки опыта и открываются достижения
12 уроков по ~7 минут
Каждый урок — самостоятельная тема с теорией и практикой
Робот-проводник Байтик
Дружелюбный персонаж объясняет сложные темы простым языком
Программа курса
Один мозг — пять чувств
БесплатноНарисуй кота для настоящей нейросети, а потом напиши ей слово «кот» буквами — и увидишь, где кончается одно чувство. Разложи фото, звуки и слова по группам и сравни с мультимодальной моделью, а потом реши, с чем работает помощник, которому показывают фото и задают вопрос голосом.
~7 мин
Три языка данных
БесплатноПодбери три числа, из которых экран соберёт жёлтый пиксель, запиши звук честно и сломай запись, убавив замеры, и разберись, почему «мать любит дочь» и «дочь любит мать» из одних и тех же слов значат разное.
~6 мин
Общее пространство смыслов
БесплатноСобери вектор подписи — и рядом встанет фото, собери вектор фото — и рядом встанет подпись. Потом спрячь из альбома все снимки паспорта по оценкам CLIP и выясни, какой чужой снимок он счёл похожим сильнее настоящих паспортов.
~7 мин
Из текста — в картинку
PROУточняй промпт «нарисуй кота», пока под него не останется одна картинка, потом разложи шесть промптов про кота и собаку и узнай, почему генератор путает, кто из них слева. В конце угадай, какой промпт генератор первых лет нарисует без ошибки.
~7 мин
Из картинки — в текст
PROПокрути смелость модели, которая подписывает фото велосипедиста, и найди, где подписи ещё не врут. Потом выбери полезный ответ незрячему на вопрос про полку в магазине и выложи четыре фото так, чтобы модель не прочитала по ним, где ты живёшь.
~7 мин
Из речи — в понимание
PROПроведи фильтром по спектрограмме слова «да» и найди, где звук начинается и кончается. Собери три записи для маленького распознавателя речи и посмотри, чью речь он потом разберёт, а потом реши, что из голосовой просьбы дойдёт до языковой модели.
~7 мин
Видео = картинка + звук + время
PROСведи звук ударов по мячу с картинкой: подбери поправку, при которой промах наименьший, и узнай, почему одной поправки мало. Реши, какой вопрос не решить по стоп-кадру, и прогони гонку внимания на пяти секундах видео.
~7 мин
Нативная мультимодальность: ИИ видит и говорит
PROПроверь по восьми вопросам, хватит ли цепочке моделей одной подписи к фото, и сузь голосовое «Ну, отлично» тоном и кадром до одного смысла. Потом найди просьбу, которую цепочка «расшифровка → языковая модель» провалит, а модель, которая слышит сама, — нет.
~7 мин
Кросс-модальное внимание
PROНаведи запрос патча с красным мячом на нужное слово подписи, а потом собери запросы слов «мяч» и «солнце» так, чтобы каждый нашёл свой кусок фото. В конце объясни, почему запрос «солнце» легко увести к мячу.
~7 мин
Когда чувства обманывают
PROНайди честную уверенность для помощника, который на трёх фото из десяти «увидел» то, чего нет, и поставь порог, с которого голосовому помощнику просыпаться. Потом угадай, что CLIP скажет про яблоко с наклейкой «iPod».
~7 мин
Проект: Мультимодальный ассистент
PROРеши, какие разрешения нужны «Лупе» — помощнику для слабовидящих, собери путь вопроса от кадра до ответа голосом и напиши ей правило, как отвечать. В конце раздай задачи проекта команде и ИИ.
~8 мин
Выпускной: Мастер всех чувств
PROВыпускной проект — гид для музея, которому показывают картину и задают вопрос голосом. Собери для него четыре пары «фото + вопрос» и сдай экзамен на новых посетителях, настрой смелость его рассказа и реши, кого опросить, чтобы честно узнать, понимает ли он людей.
~8 мин
Похожие курсы
ИИ получает тело
Байтик встречает Профессора Гиро! 12 миссий о робототехнике: сенсоры, моторы, планирование движения, беспилотники, дроны, подводные роботы, хирургические роботы и этика.
Секрет внимания
Байтик попадает в Детективное агентство связей! 12 миссий о трансформерах: self-attention, Query-Key-Value, multi-head attention, позиционное кодирование, энкодеры (BERT), декодеры (GPT) и Vision Transformer.
Фабрика нового
Байтик попадает на Фабрику нового с изобретателем Генезисом и хамелеоном Латентом! 12 миссий о генеративных моделях: GAN, VAE, диффузия, латентное пространство, Stable Diffusion и создание изображений из шума.
Регистрация бесплатная. Первые 3 урока этого курса — без карты, а курс «Знакомство с ИИ» открыт целиком.