Как устроена нейросеть

12 июня 2017 года восемь исследователей — семеро сотрудников Google и стажер из Университета Торонто — выложили на arXiv статью “Attention Is All You Need” — «Внимание — всё, что нужно» [1]. В ней описана архитектура нейросети, получившая название «трансформер». Прошло девять лет, и на этой архитектуре построены все флагманские языковые модели: ChatGPT и Claude, Gemini и Llama, DeepSeek и GigaChat. При общей базовой архитектуре они различаются тем, на каких данных модель обучали, сколько в ней настраиваемых параметров и как ее доводили после основного обучения. Эта колонка разбирает сам принцип: что такое веса и обучение, почему создание модели стоит больше ста миллионов долларов, а один короткий запрос к готовой — доли цента, чем чат-бот отличается от агента и что такое оркестраторы, которые доводят задачу до результата без человека на каждом шаге. Терминов по дороге встретится много; основные собраны в шпаргалку справа.

‌

‌

Машина, дописывающая текст. В основе всей нынешней волны ИИ лежит одна операция: по имеющемуся куску текста предсказать следующее слово — строго говоря, не слово, а токен, о котором ниже. Языковая модель — это функция в математическом смысле: на вход подается текст, на выходе возникает список вероятностей для каждого возможного продолжения (рис. 1). Фразу «он открыл дверь и увидел…» модель скорее продолжит словом «коридор», чем словом «кота», и скорее «кота», чем «динозавра», — но какая-то вероятность приписана каждому слову словаря. Чат устроен как многократное повторение этой операции: к переписке дописывается одно слово, к получившемуся тексту — следующее, и так до конца ответа. Одна деталь этого устройства объясняет то, что часто принимают за характер. Модель не всегда выбирает самый вероятный вариант: время от времени она берет слово пониже в списке — без этого текст выходит однообразным и механическим.

Долгий разбег. Сама идея искусственных нейросетей заметно старше, чем кажется по новостям (рис. 2). Одну из первых обучаемых машин — перцептрон — Фрэнк Розенблатт описал в 1958 году, а собранное по этой схеме устройство училось отличать карточки с фигурами, подстраивая моторчиками регуляторы-потенциометры. В 1969 году Марвин Минский и Сеймур Пейперт показали в своей книге, на что простейшие перцептроны принципиально не способны; следующие два десятилетия интерес к нейросетям оставался невелик. Сама область искусственного интеллекта пережила за это время два спада финансирования — в середине 1970-х и на рубеже 1990-х; их так и называют «зимами искусственного интеллекта»: обещания опережали возможности тогдашней техники, и деньги доставались другим направлениям. В 1986 году Дэвид Румельхарт, Джеффри Хинтон и Рональд Уильямс опубликовали в Nature работу об «обратном распространении ошибки» — способе автоматически настраивать многослойную сеть [2]. Сам прием выводился и раньше, в работах по автоматическому дифференцированию 1970-х, но известным его сделала именно эта статья; он работает во всех нынешних моделях, и к нему мы вернемся ниже. Перелом произошел в 2012 году, когда сеть AlexNet выиграла конкурс по распознаванию изображений с большим отрывом от классических методов [3]. Рецепт успеха состоял из двух компонентов, которых не было у Розенблатта: большие данные (миллионы размеченных картинок) и видеокарты, взявшие на себя вычисления. Дальше события ускорились: в 2017-м появился «трансформер», в 2022-м — ChatGPT, сделавший технологию бытовой, в 2024-м — агенты, о которых пойдет речь ниже. Подробная история подходов и «зим» заслуживает отдельной колонки; для сегодняшней достаточно того, что все развилки этой дороги в итоге сошлись в одной архитектуре. В 2024 году эта история получила и академическое признание: Нобелевская премия по физике была присуждена Джону Хопфилду и Джеффри Хинтону — за основополагающие работы, сделавшие возможным машинное обучение на искусственных нейронных сетях [4]. Отмечены при этом были конкретные работы начала 1980-х — ассоциативная сеть Хопфилда и машина Больцмана, устроенные по образцу моделей статистической физики, — а не обратное распространение ошибки и тем более не нынешние языковые модели.

‌

Веса. Внутри обученной модели нет ни сохраненных текстов, ни базы фактов, ни свода правил грамматики. Есть только числа, и называются они весами или параметрами. Вес — это одна настройка, аналог ручки громкости на приемнике или движка на микшерском пульте; современная модель — пульт с сотнями миллиардов таких ручек (рис. 3). У GPT-3, чей размер OpenAI в свое время раскрыла, их 175 миллиардов [5]; с тех пор разработчики размеры флагманских моделей не сообщают. Всё, что модель «знает», от орфографии до дат сражений, записано исключительно во взаимном положении этих ручек.

Сетью эту конструкцию называют потому, что числа собраны не в кучу: они разложены по слоям, а внутри слоя — по узлам, которые по старой аналогии зовут искусственными нейронами. Каждый узел складывает пришедшие к нему числа со своими весами и пропускает сумму через простое нелинейное преобразование, без которого вся глубина схлопнулась бы в одно умножение. Узлы одного слоя считают одновременно, и так слой за слоем — отсюда и требования к железу, о которых ниже. У больших моделей слои вдобавок разбиты на группы-«эксперты», и на каждое слово включается лишь малая часть: объявленный размер такой модели и то, что реально работает над ответом, различаются в разы. Отсюда следствие, которое новостные заметки регулярно передают неточно. Программа, которая числа-веса перемножает, невелика и общеизвестна, так что тот, к кому файл попал, может развернуть у себя полную рабочую копию. Осторожность, воспитанная в модели на втором этапе обучения (о нём ниже), при этом никуда не девается: она тоже записана в весах. Но у владельца файла есть то, чего нет у пользователя облачного сервиса, — доступ к самим числам, а значит, возможность за несколько часов дополнительной подгонки вытравить из модели эту осторожность. Именно поэтому «утечка весов» в отраслевых новостях — событие уровня кражи самого продукта, а не уровня утечки документации к нему.

‌

Обучение. Выставить сотни миллиардов ручек вручную невозможно, и никто их вручную не выставляет — их подгоняет автоматическая процедура. В начале обучения веса случайны, и модель порождает бессвязный набор букв. Дальше запускается цикл. Из обучающего набора берется фрагмент текста, и последнее слово скрывается; модель делает предсказание; предсказание сравнивается с тем, что стояло в оригинале; алгоритм обратного распространения ошибки — тот самый из статьи 1986 года [2] — вычисляет, какую ручку в какую сторону и насколько сильно следует сдвинуть, чтобы правильное слово стало чуть вероятнее, а отдельная процедура-оптимизатор эти сдвиги выполняет. Сдвиги микроскопические, зато предсказаний, по которым они вычисляются, — сотни миллиардов: корпус проходят не по одному фрагменту, а огромными порциями, и каждая поправка к весам усредняет ошибку сразу по миллионам предсказаний. GPT-3 обучалась примерно на 300 млрд токенов — так называют куски текста, которыми модель оперирует вместо слов; по оценке из [6], человеку, читающему круглосуточно и без выходных, на такой корпус понадобилось бы около 2 600 лет. Токен — это чаще всего частое слово целиком, но может быть и приставка, и окончание, и пробел, и один символ; русский текст обычно дробится мельче английского. Отсюда, между прочим, известная слабость: букв внутри слова модель напрямую не видит, поэтому простой вопрос, сколько в слове определенных букв, ей дается хуже, чем рассуждение о смысле этого слова. Из самой процедуры видно, почему качество данных значит не меньше, чем размер модели: сбор, чистка и фильтрация обучающих корпусов давно выросли в отдельную индустрию, а точный состав корпуса флагманской модели охраняется не хуже секретов ее архитектуры.

‌

Почему обучение дорого. Отдельная операция в этом цикле дешева, но операций астрономически много. По прикидке из того же [6], если выполнять по миллиарду сложений и умножений в секунду — это примерно темп одного процессорного ядра, — на обучение самой большой модели ушло бы больше ста миллионов лет. Видеокарта устроена иначе: она выполняет десятки тысяч одинаковых операций одновременно (рис. 4), а обучение нейросети как раз и сводится к перемножению огромных таблиц чисел — задаче, которая идеально раскладывается на одинаковые параллельные операции. Так видеокарты, созданные для игровой графики, стали главным вычислительным ресурсом отрасли. Флагманские модели обучают месяцами на кластерах из тысяч видеокарт. Точные сметы не публикуются; известна одна оценка из первых уст — глава OpenAI Сэм Альтман на вопрос, стоило ли обучение GPT-4 сто миллионов долларов, ответил «больше» [7]. Это со слов, других подтверждений нет. Существенно, что вся эта стоимость относится к созданию модели. Работа готовой модели — на отраслевом языке инференс — несопоставимо дешевле: веса уже зафиксированы и не меняются, а на каждое порождаемое слово нужен один проход по сети. Счет растет вместе с длиной запроса: за разбор рукописи на сотню страниц придется заплатить уже несколько десятков центов. Уменьшенные копии больших моделей работают на ноутбуке и даже в телефоне: их получают дистилляцией, обучая маленькую модель воспроизводить ответы большой, либо квантованием — огрублением самих чисел, когда каждый вес хранят не с полной точностью, а в 4–8 раз короче, теряя в качестве немного, а в размере файла — в разы.

Дистилляция и кража весов. Скопировать чужую модель можно двумя принципиально разными способами, и в новостях их регулярно смешивают. Кража весов — это кража файла. Веса лежат на серверах разработчика; чтобы получить чужую модель целиком, этот файл нужно унести — взломом, через сотрудника или вследствие случайной утечки. Показательный эпизод: в марте 2023 года веса первой Llama, которые разработчик рассылал проверенным исследователям по некоммерческой лицензии, оказались выложены в виде торрента на анонимном форуме — через несколько дней модель работала на домашних ноутбуках по всему миру, и отозвать файл было уже невозможно [8]. Дистилляция устроена иначе: файл с весами ей не нужен вовсе. Модель-«учитель» опрашивают через обычный публичный доступ — задают сотни тысяч вопросов, собирают ответы и обучают на парах «вопрос — ответ» собственную, обычно меньшую модель-«ученика». Ученик перенимает поведение учителя, не увидев ни одного его веса, а обходится на порядки дешевле обучения с нуля.

‌

Второй этап: настройка на человека. Модель, прошедшая только основное обучение, умеет ровно одно — правдоподобно продолжать любой текст. Полезным собеседником она от этого не становится: на вопрос такая модель может ответить новым вопросом, потому что в ее корпусе за вопросами часто следовали другие вопросы. Поэтому поверх основного обучения проводят второй этап (рис. 5). Сперва модели показывают образцы: тысячи пар «запрос — хороший ответ», написанных людьми. Затем идет основная процедура: модель отвечает на пробные запросы, люди-разметчики сравнивают варианты ответов и отмечают, какие лучше, а отдельный алгоритм сдвигает веса так, чтобы одобряемые ответы становились вероятнее. Стандартное название этой части — «обучение с подкреплением на основе человеческой обратной связи», RLHF; за прошедшие годы у нее появились более дешевые разновидности, в том числе такие, где сравнения делает не человек, а другая модель. Это ядро того, что в отрасли называют выравниванием (alignment), — подгонки поведения модели под намерения и ценности людей.

Что придумано в 2017-м. Нейросети предыдущего поколения читали текст так же, как человек, — последовательно, слово за словом — и к концу длинного абзаца «забывали», что стояло в начале. «Трансформер» устроен иначе. Он обрабатывает все слова фрагмента одновременно, а связи между ними устанавливает механизм с названием «внимание» (attention). Технически каждое слово представлено внутри модели столбиком из сотен чисел — вектором, или, на отраслевом языке, эмбеддингом; внимание — процедура, по которой эти столбики обмениваются поправками, и смысл каждого слова уточняется его окружением. Как соседние слова выбирают значение многозначного «ключа», показано на рис. 6. Вслед за вниманием стоит блок, который хранит выученные языковые шаблоны и применяет их к уже уточненным словам; пара «внимание плюс шаблоны» повторяется десятки раз подряд — это, по существу, вся архитектура. Одновременность обработки хорошо легла на параллельное устройство видеокарт, и модели стало возможно наращивать почти без ограничений. Дальнейшее развитие описывается эмпирической закономерностью, известной как «законы масштабирования»: при согласованном росте числа параметров, объема данных и вычислений средняя ошибка предсказания падает предсказуемо, по степенному закону [9]. Оговорки здесь две. Первая: закон описывает именно среднюю ошибку, а не любую отдельную способность — успех на конкретной задаче из него не следует. Вторая: соотношение «сколько параметров на сколько данных» с тех пор пересматривали, и оказалось, что ранние модели были слишком велики для того объема данных, на котором их обучали. Но предсказуемость сама по себе и есть главное: миллиардные вложения в вычислительные кластеры делаются не вслепую, а с калькулятором. Альтернативные архитектуры публикуются регулярно, однако все флагманские модели 2026 года по-прежнему стоят на схеме из статьи девятилетней давности. Та же схема, к слову, давно вышла за пределы текста: картинку, звук и видео нарезают на такие же кусочки и переводят в такие же столбики чисел, после чего внимание работает с ними ровно так же, как со словами. Поэтому нынешние модели читают графики и слушают речь не отдельным приспособлением, а тем же механизмом.

‌

Галлюцинации. Главный дефект технологии следует из ее устройства, и мистики в нём нет. Модель порождает правдоподобное продолжение текста; процедуры «остановись и сверься с реальностью» в конструкции не предусмотрено. Ссылка на несуществующую статью несуществующего автора строится по той же статистике научной библиографии, что и настоящая, — правдоподобная фамилия, разумный год, солидное название журнала, — и надежного внутреннего признака, по которому модель отличила бы выдуманную ссылку от настоящей, в ее устройстве нет. Средства борьбы поэтому лежат снаружи конструкции: дать модели поисковик или базу документов и требовать, чтобы каждое утверждение опиралось на найденный источник, — эта схема называется поиском с дополнением, RAG; подключить калькулятор для арифметики; в конечном счете — проверять важное самому, на чём настаивают и сами разработчики. Доля выдумок у новых моделей снижается, но метода, который гарантировал бы их отсутствие, не опубликовано, и числа, имена и ссылки из ответа языковой модели разумно по умолчанию считать неподтвержденными.

‌

Где кончается память. Два ограничения объясняют большинство бытовых разочарований в чат-ботах, и оба тоже видны из устройства (рис. 7). Первое: знания модели заморожены. Всё, что она «знает», перенесено в веса во время обучения, а корпус собирался до определенной даты — ее называют датой отсечки. О событиях после этой даты из обучения модель не знает ничего, хотя охотно порождает о них правдоподобный текст; свежие факты попадают в ответ, только если программа-обвязка подложила их в запрос, например результаты поиска. Второе: у модели нет памяти в человеческом смысле. Между двумя репликами внутри нее не сохраняется ничего; при каждом ответе модель заново получает на вход весь диалог целиком. Прочитать же за один раз она способна ограниченный объем текста — его называют окном контекста; у флагманов 2026 года это миллион токенов, у отдельных моделей заявлено и больше, т. е. тысячи страниц. Всё, что в окно не поместилось, для модели не существует, пока обвязка не подложит это заново.

Рассуждающие модели. Заметное развитие последних двух лет — модели, которые перед ответом порождают черновик рассуждений: разбирают задачу по шагам, проверяют промежуточные результаты, при необходимости возвращаются назад и только затем пишут ответ. Новой архитектуры за этим не стоит — по крайней мере, в тех случаях, которые описаны открыто: это тот же трансформер, генерирующий дополнительные токены «для себя», прежде чем породить токены для пользователя. Отличается способ доводки. Модель прогоняют через задачи, у которых ответ можно проверить механически — сошелся ли числовой ответ, прошли ли тесты у написанной программы, — и подкрепляют те цепочки рассуждений, которые привели к верному результату; длинный разбор по шагам возникает при этом сам, его не программируют. Выигрыш реален: точность на математических и программистских задачах заметно растет; DeepSeek-R1, модель этого класса, стала первой большой языковой моделью, статья о которой прошла рецензирование в Nature [10]. Природы предсказателя слов черновик, впрочем, не отменяет: рассуждение может оказаться таким же правдоподобно выдуманным, как и любой другой текст модели.

От чата к оркестратору. Поколения продуктов на одной и той же архитектуре различаются не моделью, а обвязкой — программой, которая стоит между моделью и внешним миром (рис. 8). ChatGPT образца 2022 года — это модель с окном ввода и почти ничем сверх того: она порождает текст, и только текст, а каждый следующий шаг остается за человеком. Сегодняшняя обвязка получает от человека цель и сама доводит ее до результата. Такую программу называют оркестратором: она держит план, а под каждую подзадачу порождает отдельный рабочий процесс — агента. Агент — та же модель, которой выданы инструменты и право ими пользоваться: искать, читать файлы, запускать программы. Команды при этом не произносятся в пустоту. Модель заполняет строгую форму — какой инструмент вызвать и с какими аргументами, а обвязка эту форму проверяет, исполняет и возвращает результат. Дальше агент повторяет цикл «сделал — проверил — исправил», пока проверка не пройдена или пока не исчерпан лимит времени, денег и попыток; в отраслевом жаргоне такой цикл называется loop. Агенты работают параллельно и независимо: один собирает источники, другой пишет, третий выступает критиком и возвращает непрошедшее на переделку. Снаружи такая обвязка видна, например, в режимах «глубокого исследования» у крупных сервисов: по одному вопросу система за десятки минут сама собирает материал и сводит его в отчет со ссылками; как именно устроена внутри конкретная система, по результату не видно. Принципиальное ограничение у схемы одно, зато умноженное на длину цепочки: ошибка, сделанная на раннем шаге и не пойманная критиком, воспроизводится на всех последующих шагах.

Как это выглядит на практике. Слово «обвязка» звучит абстрактно, поэтому стоит разобрать один рабочий контур по шагам — на примере рабочей сборки автора. Ее основная работа — программы, и в ней же готовился этот текст. Это тот же оркестратор из предыдущего раздела, только здесь шаги идут друг за другом, а не параллельно. Человек ставит задачу одной фразой, а обвязка собирает контекст: поднимает документацию проекта из локальной базы, вытаскивает принятые в нём правила, находит похожие прошлые решения — и только из этого формулирует техническое задание для модели. Когда модель написала код, написанное уходит на «второе мнение» — другой модели, которой задача ставится заново и которая не видела, как рассуждала первая. Затем запускаются тесты, причем отдельным шагом проверяются сами тесты, потому что тест, который проходит всегда, не проверяет ничего. По результату собирается документация, и только потом изменение выкладывается. На каждом стыке стоит свое правило — что должно быть проверено, чтобы шаг считался пройденным. Дешевле такая цепочка не выходит, она заметно дороже одного вопроса чат-боту; но именно в ней, а не в самой модели, лежит разница между текстом, похожим на решение, и решением, которое можно применить.

Два открытых вопроса. Оба — из устройства технологии. Первый — надежность: ошибка чат-бота есть неверный абзац, который читатель волен проигнорировать, а ошибка агента — уже совершенное действие, и потому чем труднее отменить действия системы, тем строже приемка. Второй вопрос глубже. Принципы трансформера сформулированы людьми и умещаются в короткую статью, но поведение конкретной обученной модели — итог совместной настройки сотен миллиардов весов, и полного, проверяемого объяснения, почему на данный вопрос она ответила именно так, сегодня нет ни у кого, включая ее создателей. Дисциплина, которая пытается восстановить внутренние механизмы модели по ее весам и промежуточным вычислениям — заглянуть внутрь ящика, а не судить о нём по ответам снаружи, — называется белоящичной, или механистической, интерпретируемостью; продвижение в ней есть, но до полного понимания далеко. Об этой дисциплине — в следующих выпусках; о задокументированных случаях, когда агенты делали то, чего их не просили, мы уже писали — в выпуске о «побегах» моделей.

Илья Белых

1. Vaswani A. et al. Attention Is All You Need // arXiv. 12.06.2017. arxiv.org/abs/1706.03762

2. Rumelhart D., Hinton G., Williams R. Learning representations by back-propagating errors // Nature. 1986. doi.org/10.1038/323533a0

3. Krizhevsky A., Sutskever I., Hinton G. ImageNet Classification with Deep Convolutional Neural Networks // Communications of the ACM. 2017. doi.org/10.1145/3065386

4. The Nobel Prize in Physics 2024. nobelprize.org/prizes/physics/2024

5. Brown T. et al. Language Models are Few-Shot Learners // arXiv. 2020. arxiv.org/abs/2005.14165

6. Большие языковые модели — краткое объяснение (3Blue1Brown; рус. озвучка Vert Dider). youtu.be/529gNoh1mok

7. Knight W. OpenAI’s CEO Says the Age of Giant AI Models Is Already Over // Wired. 17.04.2023. wired.com/story/openai-ceo-sam-altman-the-age-of-giant-ai-models-is-already-over

8. How Meta’s LLaMA NLP Model Leaked // The Batch (deeplearning.ai). 03.2023. deeplearning.ai/the-batch/how-metas-llama-nlp-model-leaked

9. Kaplan J. et al. Scaling Laws for Neural Language Models // arXiv. 2020. arxiv.org/abs/2001.08361

10. Guo D. et al. DeepSeek-R1 incentivizes reasoning in LLMs through reinforcement learning // Nature. 17.09.2025. Т. 645. С. 633–638. doi.org/10.1038/s41586-025-09422-z