Как устроен современный ИИ
После урока
вы сможете объяснить, откуда берутся возможности и ошибки языковой модели, и отличить свойства модели от свойств приложения вокруг неё.
Модель, приложение, агент
Модель — обученная вычислительная система с параметрами. Она получает представление входных данных и вычисляет выход. Приложение добавляет интерфейс, историю, загрузку файлов, поиск, управление пользователями и оплату. Агентная система добавляет цикл действий: получить задачу, выбрать инструмент, выполнить разрешённую операцию, прочитать результат и решить, что делать дальше. Эти уровни часто продаются под одним брендом, но их полезно мысленно разделять.
Если чат ответил на вопрос о вчерашней новости, это могло произойти благодаря поиску, а не знаниям самой модели. Если помощник изменил файл, операцию выполнила программа с доступом к файловой системе. Если он «помнит» ваш проект через неделю, приложение могло сохранить заметку или историю. Память не доказывает, что веса модели переобучились на ваших сообщениях.
Рабочая схема: входные данные → модель → текст или запрос инструмента → проверка приложением → результат инструмента → следующий шаг. Качество всей системы зависит и от модели, и от того, какие инструменты, данные и ограничения ей предоставлены.
Токены и предсказание
Текст разбивается на токены: слова, части слов, знаки, иногда байтовые фрагменты. Соотношение слов и токенов зависит от языка, токенизатора и содержания. Длинный идентификатор, русский текст и JSON могут иметь разную стоимость при одинаковом количестве символов. Правило «один токен равен одному слову» неверно. Для бюджета используйте токенизатор поставщика или фактическое поле usage, а до запуска — осторожную оценку с запасом.
Языковая модель обучается предсказывать продолжение в контексте. Это не означает, что она просто ищет самое частое готовое предложение. В ходе обучения параметры начинают кодировать сложные зависимости: синтаксис, факты, закономерности программ и способы решения задач. Но механизм генерации не содержит универсальной гарантии истинности. Правдоподобная последовательность может описывать несуществующий метод библиотеки или придуманный источник.
При генерации модель получает распределение возможных продолжений. Настройки выборки могут влиять на разнообразие, однако не все современные reasoning-модели поддерживают одинаковые параметры. Даже низкая температура не превращает распределённый сервис в математически детерминированную программу: меняются инфраструктура, версия модели, порядок инструментов и входные данные. Для воспроизводимости сохраняйте полную конфигурацию и результаты, а не одно значение temperature.
Обучение, инструкции и рассуждение
Многие языковые модели используют архитектуру Transformer. Токены переводятся в числовые представления; механизм attention позволяет каждому положению учитывать подходящие части доступного контекста. Дополнительные преобразования и последовательность слоёв уточняют представление. Информация о позиции помогает различать порядок элементов. Attention не является сознательным вниманием человека и не проверяет факты автоматически. Исходная работа о Transformer — историческая основа; современные модели могут значительно менять архитектуру. S58
В типичной авторегрессионной модели обработка уже полученного входа называется prefill, а последовательное продолжение — decoding. Повторное использование промежуточных данных помогает не пересчитывать всё с нуля, но требует памяти. Отсюда практический эффект: длинный вход влияет на время до первого ответа, а длинный выход — на продолжительность генерации. Длина контекста, скорость ответа и потребление памяти связаны, но не являются одной величиной.
На предобучении модель извлекает закономерности из больших массивов данных. Последующая настройка может учить её выполнять инструкции, использовать инструменты и выбирать более полезные ответы. Дообучение под конкретную задачу меняет параметры или адаптеры. Контекстная инструкция только влияет на текущий вызов; это не эквивалент обучения.
Reasoning-модели могут выделять дополнительное вычисление на решение: внутренние промежуточные шаги, проверку вариантов, более длинный поиск. Это часто полезно в сложных задачах, но может увеличивать задержку и стоимость. Для извлечения трёх полей из простого письма максимальный режим рассуждения может оказаться лишним. Для неоднозначной миграции базы экономия на проверке иногда дороже самого вызова.
Просите понятное обоснование, допущения, формулы, источники и способы проверки. Не считайте многословный рассказ о рассуждении доказательством правильности. Вам нужен проверяемый внешний результат: вычисление, тест, ссылка на фрагмент документа, воспроизводимый эксперимент. Внутренние механизмы модели нельзя надёжно восстановить по её рассказу о себе.
Контекст и память
Контекст — информация, доступная модели в конкретном вызове. В него могут входить инструкции системы, запрос пользователя, история, документы, результаты инструментов и промежуточные данные. Максимальное окно ограничивает объём, но не гарантирует одинаково качественную работу с каждым фрагментом.
Длинный контекст полезен, когда нужно сопоставить большие документы или исследовать репозиторий. Однако лишние журналы и повторяющиеся обсуждения затрудняют выделение важного. Исследование Lost in the Middle показывало зависимость качества от положения нужной информации у изученных моделей. Это историческое свидетельство проблемы, а не доказательство фиксированного «порога тупости» у всех моделей 2026 года. Проверяйте конкретную модель на собственном распределении длин и позиций. S42
Размеры частей условны: универсальной пропорции нет.
- ПравилаПостоянные ограничения и условия, которые нельзя нарушать.
- ЗадачаЦель и критерии готовности.
- ОснованияНужные файлы, документы и результаты инструментов.
- РезервМесто для ответа и следующих действий.
Практически полезно выделять четыре части: постоянные правила, текущее задание, доказательства и резерв для ответа или действий. Важные условия формулируйте явно и без противоречий. Ссылку на файл недостаточно написать: убедитесь, что инструмент действительно прочитал нужный участок и актуальную версию.
Память приложения может быть краткосрочной историей, конспектом сессии или отдельной долговременной базой. Сжатие истории сохраняет не всё. После передачи задачи другой сессии проверяйте, остались ли инварианты, нерешённые вопросы, версии и уже выполненные операции. Повторный запуск агента без такого состояния может повторить платёж или миграцию.
Мультимодальность и инструменты
Мультимодальная модель обрабатывает несколько типов данных: текст, изображение, звук, видео. Возможности входа и выхода различаются. Модель, понимающая фотографию, необязательно генерирует изображения; модель с аудиовходом необязательно ведёт разговор в реальном времени. В каталогах смотрите отдельно входные форматы, выходные форматы, потоковую обработку и доступные инструменты.
Инструменты компенсируют ограничения генерации: калькулятор считает, SQL получает строки, поиск находит актуальный документ, тестовый раннер исполняет проверки. Но инструмент не отменяет ошибки постановки задачи. Правильно выполненный SQL на неверной выборке даст неверный бизнес-вывод. Поиск может вернуть устаревшую страницу. Поэтому проверять нужно весь путь от вопроса до принятого решения.
Откуда возникают ошибки
Ошибки удобно делить по месту возникновения. Во входе — недостаточные или противоречивые требования. В знаниях — устаревшие сведения. В поиске — найден не тот документ. В интерпретации — верный документ прочитан неверно. В действии — неправильные аргументы функции. В проверке — тест повторяет ту же ошибку, что реализация.
Такое разделение помогает чинить причину. Если в документах нет текущего тарифа, новый «суперпромпт» его не создаст. Если поиск не учитывает права пользователя, более сильная модель не исправит утечку. Если функция округляет деньги до целого рубля, призыв «будь точным» слабее явного требования считать в копейках и проверять границы.
Разобранный пример. Пользователь спрашивает: «Можно вернуть заказ через 20 дней?» Модель помнит популярное правило о 14 днях и отвечает «нет». Ошибка не обязательно в логике: неизвестны страна, категория товара, дата покупки, договор и исключения. В учебном сервисе мы избегаем правовых догадок: ищем актуальное внутреннее правило, проверяем его область применения и при нехватке данных задаём уточнение. В реальной правовой ситуации дополнительно нужны применимая юрисдикция и проверенный правовой источник.
Практика
Возьмите один документ с пятью правилами и тремя исключениями. Попросите модель ответить на восемь вопросов. Затем уберите из документа одно исключение и повторите вопрос о нём. Правильное поведение — отметить нехватку основания, а не уверенно восполнить его знакомой формулой. Зафиксируйте, как изменился ответ после добавления точной выдержки.
Критерий: вы различаете четыре причины неудачи — отсутствующие сведения, плохой поиск, неверное чтение, неверное действие — и предлагаете отдельное исправление для каждой.
