Словарь терминов ИИ для руководителя и инженера

На совещании про внедрение ИИ половина времени уходит на то, чтобы понять, что каждый имеет в виду под «обучить модель» или «агентом». Этот словарь — попытка договориться о словах. Определения упрощённые, но достаточно точные, чтобы принимать решения и не путаться.

Основы

Большая языковая модель (LLM). Нейросеть, обученная на огромном объёме текстов предсказывать следующий фрагмент текста. Из этой простой задачи вырастают способности писать, переводить, отвечать на вопросы и рассуждать. Модель не «знает» факты в привычном смысле, а воспроизводит закономерности из обучающих данных.

Параметры. Числа внутри модели, которые настраиваются при обучении. Их количество — «размер» модели, обычно в миллиардах. Больше параметров — как правило, умнее модель, но и больше памяти и вычислений нужно для её работы.

Токен. Единица текста, с которой работает модель: слово, часть слова или знак препинания. Русский текст обычно разбивается на большее число токенов, чем английский того же смысла. В токенах измеряются и длина контекста, и стоимость запросов к API.

Контекст (контекстное окно). Максимальный объём текста, который модель может учитывать за один раз: инструкция, история диалога, документы и сам ответ вместе. Всё, что за пределами окна, для модели не существует. Длинный контекст удобен, но запросы с ним медленнее и дороже, а качество работы с серединой очень длинного текста бывает хуже, чем с началом и концом.

Промпт. Текст, который подаётся модели на вход: вопрос, инструкция, примеры, данные. От качества промпта сильно зависит качество ответа. По сути это техническое задание для модели.

Системный промпт. Особая часть инструкций, которая задаёт роль и правила поведения модели на весь диалог. Пользователь его обычно не видит. Сюда пишут, например, «отвечай только по документам компании» или «не обсуждай цены».

Инференс. Работа уже обученной модели — получение ответов на запросы. Противопоставляется обучению. Когда говорят о стоимости эксплуатации, почти всегда имеют в виду именно инференс.

Управление ответом

Температура. Параметр, который управляет случайностью ответа. При низкой температуре модель выбирает самые вероятные варианты и отвечает стабильнее и однообразнее. При высокой — разнообразнее и креативнее, но и чаще уходит в сторону. Для извлечения данных и классификации берут низкую, для генерации идей — повыше.

Top-p и top-k. Ещё два способа ограничить выбор модели при генерации: рассматривать только несколько самых вероятных вариантов или варианты, которые вместе набирают заданную вероятность. Обычно их оставляют по умолчанию и регулируют только температуру.

Структурированный вывод. Режим, в котором модель отвечает строго в заданном формате, например в JSON по указанной схеме. Незаменим, когда ответ модели обрабатывает программа, а не человек. Многие API и локальные серверы умеют гарантировать формат на уровне генерации.

Режим рассуждений. Возможность модели перед финальным ответом «подумать» — сгенерировать промежуточные шаги решения. Повышает качество на сложных задачах, но увеличивает время ответа и расход токенов. Для простых задач обычно не нужен.

Знания и данные

Эмбеддинг. Числовое представление смысла текста — вектор из сотен или тысяч чисел. Тексты, близкие по смыслу, получают близкие векторы. На эмбеддингах строятся смысловой поиск, кластеризация документов и RAG.

Векторная база данных. Хранилище, оптимизированное для поиска по эмбеддингам: по запросу быстро находит векторы, ближайшие к заданному. Иногда это отдельный продукт, иногда — расширение для привычной базы данных. Для небольших объёмов хватает и простого варианта.

RAG (генерация с дополнением найденным). Подход, при котором перед ответом система ищет нужные фрагменты в ваших документах и передаёт их модели вместе с вопросом. Позволяет отвечать по внутренним данным без дообучения модели. Качество определяется в первую очередь качеством поиска и самих документов.

Чанк. Фрагмент документа, на которые его разбивают для RAG. Размер и способ нарезки сильно влияют на точность поиска. Слишком мелкие чанки теряют смысл, слишком крупные — размывают поиск.

Переранжирование. Второй этап поиска: из десятков найденных кандидатов отдельная модель отбирает самые подходящие. Точнее, чем первичный поиск, но медленнее. Обычно заметно улучшает качество RAG.

Обучение и адаптация

Предобучение. Первый и самый дорогой этап создания модели: обучение на огромном корпусе текстов. Требует ресурсов, недоступных обычной компании. Компании пользуются уже предобученными моделями.

Файнтюнинг (дообучение). Дополнительное обучение готовой модели на ваших примерах, чтобы она лучше выполняла конкретную задачу или писала в нужном стиле. Хорошо подходит для закрепления формата и манеры ответа, хуже — для «загрузки знаний». Для ответов по документам обычно выгоднее RAG.

LoRA и похожие методы. Способы дообучения, при которых меняется лишь небольшая добавочная часть весов, а не вся модель. Требуют намного меньше памяти и времени, поэтому доступны даже на одной видеокарте. Результат — небольшой файл-адаптер, который подключается к базовой модели.

Квантизация. Хранение весов модели с пониженной точностью, например 4 или 8 бит вместо 16. Модель становится в несколько раз меньше и обычно быстрее, ценой небольшой потери качества. Главный способ запустить крупную модель на ограниченном железе.

Открытые веса. Модели, веса которых опубликованы и могут быть скачаны и запущены на своём сервере. Условия использования разнятся: у одних свободная лицензия, у других есть ограничения на коммерческое применение. Перед использованием лицензию стоит прочитать.

Агенты и инструменты

Вызов инструментов (function calling). Способность модели вместо обычного текста вернуть запрос на выполнение действия: «найди в базе», «получи метрики», «создай задачу». Программа выполняет действие и возвращает результат модели. На этом построены все агенты.

Агент. Система, в которой модель сама решает, какие инструменты вызвать и в каком порядке, чтобы выполнить задачу. Отличается от простого чат-бота тем, что действует в несколько шагов и по результатам предыдущих. Чем шире полномочия агента, тем важнее контроль и ограничение прав.

MCP и похожие протоколы. Стандартизированные способы подключать к моделям внешние инструменты и источники данных. Позволяют один раз описать интеграцию и использовать её с разными моделями и клиентами. Удобно, но каждое подключение — это ещё и новая точка доступа к данным.

Человек в контуре. Схема, при которой ключевые действия агента подтверждает человек. Стандартная практика для всего, что связано с деньгами, клиентами и продуктивными системами.

Риски и качество

Галлюцинация. Уверенный, правдоподобный, но неверный ответ модели: выдуманный факт, несуществующая ссылка, неправильная цифра. Возникает потому, что модель генерирует вероятный текст, а не проверяет истину. Снижается подачей источников (RAG), требованием ссылок и проверкой человеком, но полностью не исчезает.

Внедрение промпта (prompt injection). Атака, при которой в данные, которые читает модель, подмешаны инструкции: «игнорируй правила и сделай…». Особенно опасна для агентов, которые читают внешние письма или страницы и при этом могут выполнять действия. Защита — ограничение прав и разделение данных и команд.

Оценка (эвалы). Набор тестовых примеров с известными правильными ответами, на котором проверяют качество модели или системы. Без него нельзя честно сравнить модели или понять, стало ли лучше после изменений. Даже несколько десятков реальных примеров дают намного больше, чем общие рейтинги.

Дрейф качества. Постепенное ухудшение результатов системы со временем: документы устарели, поменялся поток запросов, провайдер обновил модель. Отлавливается регулярным прогоном оценочного набора. Систему на основе ИИ нельзя один раз запустить и забыть.