Что такое нейросеть — объясняю на пальцах через кота и многоэтажку

У моего друга есть кот — Бэтмэн. Он умеет открывать холодильник. Лапой за ручку — рывок — дверь открыта — паштет твой. Никто его этому не учил. Однажды случайно дёрнул, дверь открылась, внутри оказалось мясо. Мозг кота сделал щёлк: «дверь + лапа = еда». Через неделю — отработанный навык.

То, что произошло в голове у Бэтмэна, — это ровно то же самое, что происходит внутри ChatGPT. Один в один. Только у Бэтмэна один холодильник, а у ChatGPT — весь интернет.

Забудь слово «программа»

Когда мы слышим «компьютер делает что-то», сразу представляем программу. Программа — это инструкция: если А, делай Б, иначе В. Как рецепт. Чёткие шаги, прописанные человеком.

Так работает Excel. Так работает калькулятор. Так работает приложение банка.

Нейросеть — не так. Никто не писал ChatGPT инструкцию «если человек спросил про погоду — отвечай вот так». Это было бы невозможно физически: вариантов вопросов — бесконечность.

Нейросеть учится сама. На примерах. Как ребёнок учится говорить — никто не объясняет двухлетке грамматику. Он слышит миллионы фраз, и мозг сам ловит закономерности. «Мама — вот эта тёплая. Папа — этот высокий. Если хочется есть — говорить «ам».»

Нейросеть — то же самое, только её «мозг» из математики, а вместо двух лет у мамы — сотни миллиардов страниц интернета.

Многоэтажка с миллиардами работников

Представь огромный дом. В каждой комнате — маленький работник. Тупой как пробка: умеет одно — получить циферку от соседей снизу, что-то с ней сделать и передать соседям сверху. Таких работников — миллиарды. Этажей — десятки. Связей — триллионы.

Сюда — на первый этаж — заливаем вопрос: «Какая столица Франции?». Превращается в циферки. Бежит вверх по этажам. Каждый работник немного преобразует. И на верхнем этаже из всего этого хаоса выходит ответ: «Париж».

Никто не объяснял этим работникам, где Париж. Во время учёбы сеть прочитала миллионы текстов, где «Франция» и «Париж» стояли рядом. Связи между нужными работниками укрепились — как тропинка в траве: чем чаще ходишь, тем заметнее.

Учёные называют это «веса» и «параметры». Проще говоря — протоптанные дорожки в голове сети.

Почему это работает пугающе хорошо

Примерно в 2017-м выяснилось странное: если «многоэтажку» сделать просто очень большой — она начинает делать вещи, которые никто не закладывал.

Маленькая нейросеть узнаёт кошек на фото. Средняя переводит с английского. А когда сеть стала размером с GPT-4 — она вдруг начала шутить, писать стихи, объяснять физику, спорить о политике. Никто не учил её «шутить». На каком-то пороге размера эта способность появилась сама.

Учёные до сих пор не могут объяснить, почему. Серьёзно. Это одна из главных открытых загадок нашего времени. Мы построили что-то умнее, чем понимаем, как оно работает.

Это как если бы ты складывал лего домик — и на сотом кирпичике он встал, посмотрел на тебя и сказал: «Привет, давай поговорим».

Что это значит на практике

Главный вывод: ИИ — не калькулятор. Он не «знает» в нашем человеческом смысле. Он угадывает, какое слово должно быть следующим, на основе триллионов прочитанных текстов. Очень-очень хорошо угадывает. Иногда — лучше любого эксперта. Иногда — выдаёт чушь с уверенным лицом (об этом — в эпизоде 8).

Запомни одну фразу: это статистика на максималках. Кот, который выучил всю кухню до миллиметра. Очень умный кот. Но всё ещё кот.

Когда это понимаешь — перестаёт трястись рука перед полем чата. Перестаёшь спрашивать «а можно ли?» и начинаешь спрашивать «как лучше?». Это другая лига отношений с инструментом.

Вот с чем уходи:

1. Нейросеть — не программа, а ученик. Учится на примерах, а не выполняет инструкцию.
2. Внутри — миллиарды простых работников, и вся магия в масштабе и количестве связей.
3. Никто до конца не понимает, почему это работает так хорошо. Даже создатели.

Источники

• OpenAI — GPT-3 Technical Report (arxiv.org)
• Nature — How AI large language models work
• Anthropic — Core Views on AI Safety