Калькулятор не называют искусственным интеллектом, а навигатор называют. Разбираем разницу: где правило пишет человек, а где оно выводится из примеров — и почему из этого следует всё остальное, включая ошибки и предвзятость ИИ.
Калькулятор считает быстрее любого человека, ошибается реже и работает без устали. Но искусственным интеллектом его никто не называет. Навигатор строит маршрут по всему городу за секунду — а вот его уже называют. В чём разница?
Вопрос не праздный: без ответа на него всё остальное про ИИ остаётся набором слов. Разберём так, чтобы можно было объяснить ребёнку.
Обычная программа: человек написал правило
Начнём с калькулятора. Внутри него — правила, которые записал программист. «Возьми первое число, возьми второе, сложи по такому-то алгоритму, покажи результат». Правило записано один раз и не меняется.
То же самое в холодильнике: стало теплее четырёх градусов — включить компрессор. В светофоре: тридцать секунд зелёный, три жёлтый, тридцать красный. В будильнике, в стиральной машине, в фонарике на телефоне.
Главный признак обычной программы: человек заранее знал правило и записал его. Компьютер только выполняет.
Это не «примитивно» — так устроена большая часть всего софта в мире, и для большинства задач это правильный способ. Если правило известно, писать его вручную быстрее, надёжнее и дешевле.
Где такой подход ломается
А теперь задача: отличить на фотографии кошку от собаки.
Попробуйте записать правило. «У кошки треугольные уши» — у некоторых собак тоже. «У кошки усы» — и у собак есть. «Кошка меньше» — не всегда. «У кошки такая форма морды» — а как записать форму морды числами, если компьютер видит только таблицу яркостей пикселей?
Правило не записывается. Не потому, что программисты ленивы — потому что вы сами не можете объяснить, откуда знаете, что перед вами кошка. Вы просто видели много кошек.
Вот здесь и начинается другой подход.
Нейросеть: правило выводится из примеров
Вместо того чтобы записывать правило, человек показывает примеры с ответами. Тысячи фотографий, под каждой подпись: кошка или собака.
Внутри нейросети — множество простых элементов, соединённых связями. У каждой связи есть вес: число, показывающее, насколько сильно один сигнал влияет на другой. В самом начале все веса случайные, и сеть отвечает наугад.
Дальше повторяется один и тот же цикл:
- Сеть смотрит на пример и даёт ответ.
- Ответ сравнивается с подписью — считается ошибка.
- Веса чуть-чуть подкручиваются в ту сторону, где ошибка меньше.
И так тысячи раз. Постепенно веса выстраиваются так, что сеть начинает отвечать верно — в том числе на фотографиях, которых она никогда не видела.
Правило появилось. Но его никто не писал — оно выведено из примеров и записано в тысячах чисел, которые сами по себе ничего не значат.
Три следствия, которые всё объясняют
Из этой разницы вытекает почти всё, что удивляет людей в поведении ИИ.
Нейросеть ошибается, и это нормально
Калькулятор либо работает, либо сломан. Нейросеть в принципе не даёт стопроцентной точности: она нашла закономерность в примерах, а мир шире примеров. Ошибка тут не поломка, а свойство.
Качество зависит от того, что показали
Если в обучающих фотографиях были только рыжие кошки, чёрного кота сеть не узнает. Если в данных о прошлых сотрудниках компании все руководители — мужчины, модель выведет из этого «правило» и будет предлагать мужчин. Она не «злая» и не «предвзятая» — она честно повторила закономерность, которую ей показали.
Отсюда правило, которое стоит запомнить: мусор на входе — мусор на выходе.
Никто точно не знает, почему получился такой ответ
Программу можно прочитать построчно и понять логику. Веса нейросети прочитать нельзя — их миллионы, и по отдельности они бессмысленны. Поэтому на вопрос «почему модель решила именно так» часто нет простого ответа. Это не преувеличение и не мистика, а практическая проблема, над которой работают целые лаборатории.
Так что же такое ИИ
Теперь можно ответить на вопрос из начала.
Калькулятор — не ИИ: правило сложения записал человек. Навигатор — уже ближе: он предсказывает время в пути по накопленным данным о том, как машины двигались раньше, и это правило никто не записывал вручную.
Определение, которое хорошо работает для ребёнка: искусственный интеллект — это программа, которая научилась решать задачу по примерам, а не по написанному человеком правилу.
Слово «искусственный» при этом не значит «плохой» или «поддельный» — оно значит «созданный людьми», как искусственный спутник Земли. Это стоит проговорить отдельно: дети часто слышат в нём что-то тревожное.
Как проверить понимание
Три вопроса, на которых сразу видно, усвоено или нет.
«Умный чайник выключается, когда вода закипела. Это ИИ?» Нет: правило записал человек — довести до ста градусов и выключить.
«Телефон подсказывает следующее слово, когда ты печатаешь. Это ИИ?» Да: правило «после какого слова какое обычно идёт» выведено из огромного количества текстов, а не написано вручную.
«Что нужно, чтобы ИИ стал точнее?» Больше разных примеров. Не больше одинаковых — именно разных. Если ребёнок отвечает так, он понял главное.
Коротко
Обычная программа выполняет правило, которое написал человек. Нейросеть выводит правило сама, из примеров с ответами, и хранит его в весах связей. Первое надёжно и предсказуемо. Второе справляется с задачами, для которых правило невозможно сформулировать, — но ошибается, зависит от качества данных и не умеет объяснить свой ответ.
Понимание этой разницы — фундамент. Без него разговоры про нейросети остаются заклинаниями, а с ним ребёнок начинает задавать правильный вопрос: «а на чём эта штука училась?»
Ровно с этого начинается наш бесплатный первый курс. Ребёнок собирает маленькую нейросеть, обучает её на своих примерах и видит своими глазами, как из случайных весов появляется работающее правило.