Сколько стоит ИИ в компании: токены, железо, люди и скрытые расходы

Когда руководитель спрашивает «сколько это будет стоить», ему обычно называют цену подписки или тариф за токены. Это примерно как оценивать стоимость автомобиля по цене бензина. Бензин важен, но в общей сумме он далеко не главное.

Разберём, из чего на самом деле складывается бюджет, и посчитаем пример на условных цифрах. Тарифы и цены на железо меняются быстро, поэтому важна не конкретная сумма, а метод: подставьте свои значения, и расчёт останется верным.

Четыре статьи расходов

1. Вычисления. Либо оплата облачного API за токены, либо своё железо: сервер, видеокарты, электричество, размещение.
2. Люди. Кто строит решение, кто его поддерживает, кто отвечает за качество данных, кто учит сотрудников.
3. Интеграция и инфраструктура вокруг. Подключение к учётной системе, сервис-деску, базе знаний; логирование, мониторинг, хранение, резервные копии.
4. Скрытые расходы. Пилоты, которые не взлетели, переделки при смене модели, время на проверку ответов, ошибки.

В небольших проектах вычисления часто оказываются самой маленькой статьёй. Это контринтуитивно, но цифры ниже это покажут.

Как считать токены

Токен — это кусочек текста, которым оперирует модель. Для русского языка грубо можно считать, что одно слово занимает от одного до нескольких токенов — в зависимости от модели и её словаря. Точное соотношение для вашей модели легко проверить: большинство провайдеров дают инструмент подсчёта токенов, а локальные серверы показывают количество в логах.

Расход за месяц считается так:

запросов в месяц × (токенов на входе × цена входа
                    + токенов на выходе × цена выхода)

Что важно учесть:

• Вход обычно больше выхода. В RAG на вход идут найденные фрагменты документов, и запрос в несколько тысяч токенов — норма, а ответ может быть в несколько сотен.
• Выход обычно дороже входа за единицу. У многих провайдеров в разы.
• История диалога растёт. В чате каждая новая реплика отправляет модели всю предыдущую переписку. Десятый вопрос в одном диалоге стоит заметно дороже первого.
• Агенты умножают расход. Агент, который делает пять вызовов инструментов, отправляет модели пять запросов, каждый с растущим контекстом.
• Модели с режимом рассуждений генерируют внутренние размышления, которые тоже оплачиваются как выход.

Пример расчёта: облачный API

Возьмём условную компанию на 120 человек, которая запускает два сценария: помощник по внутренней базе знаний и автоматический разбор заявок в сервис-деск. Все цены ниже — условные, только для иллюстрации метода.

Помощник по базе знаний:

• активно пользуются 60 сотрудников, по 10 вопросов в рабочий день, 21 рабочий день — это 12 600 запросов в месяц;
• на входе в среднем 4 000 токенов (вопрос плюс найденные фрагменты), на выходе 400.

Итого: около 50 млн входных и 5 млн выходных токенов в месяц.

Разбор заявок:

• 300 заявок в день, 30 дней — 9 000 запросов в месяц;
• на входе 1 500 токенов (текст заявки и инструкция), на выходе 200.

Итого: около 13,5 млн входных и 1,8 млн выходных токенов.

Сумма: примерно 64 млн входных и 7 млн выходных токенов.

Допустим, условный тариф — 200 ₽ за миллион входных токенов и 800 ₽ за миллион выходных:

64 × 200 = 12 800 ₽
 7 × 800 =  5 600 ₽
Итого:     18 400 ₽ в месяц

Добавим запас в полтора раза на тестовые прогоны, повторные запросы и рост использования — выходит около 28 000 ₽ в месяц. Ваши цифры могут отличаться в разы в любую сторону в зависимости от модели, но порядок для такого масштаба часто именно такой: десятки тысяч, а не миллионы.

Пример расчёта: своё железо

Теперь та же нагрузка на своём сервере с одной видеокартой на 48 ГБ. Снова условные цифры.

• Сервер: 1 200 000 ₽. При амортизации на 36 месяцев — около 33 000 ₽ в месяц.
• Электричество: сервер под нагрузкой потребляет условно 0,8 кВт. За месяц круглосуточной работы — около 580 кВт·ч. По условному тарифу 8 ₽ за кВт·ч — примерно 4 600 ₽.
• Размещение и резерв: место в стойке или серверной, охлаждение, бесперебойное питание — условно 5 000 ₽ в месяц.

Итого около 43 000 ₽ в месяц только на железо. Это уже больше, чем облачный вариант, и при этом локальная модель, которая помещается на одну карту, скорее всего уступит по качеству сильной облачной модели.

Свой сервер начинает выигрывать по деньгам при росте нагрузки: если запросов станет в несколько раз больше, облачный счёт вырастет пропорционально, а стоимость сервера почти не изменится, пока он справляется. Но часто решение о своём железе принимают не из-за денег, а из-за данных, которые нельзя отправлять наружу. Это нормальная причина, просто её стоит честно назвать.

Главная статья: люди

Теперь добавим то, что обычно забывают.

Для облачного варианта:

• инженер, который поддерживает интеграции, следит за качеством, обновляет промпты и тестовый набор, — условно 0,3 ставки. Если полная ставка с налогами обходится компании условно в 300 000 ₽, это 90 000 ₽ в месяц;
• владелец базы знаний, который следит за актуальностью документов, — условно 0,1 ставки специалиста за 200 000 ₽, то есть 20 000 ₽.

Итого с вычислениями: около 138 000 ₽ в месяц.

Для своего железа к этому добавляется администрирование сервера: обновления драйверов и софта, мониторинг, реакция на сбои, тестирование новых моделей. Допустим, нагрузка на инженера вырастает до 0,5 ставки — 150 000 ₽. Итого: 43 000 + 150 000 + 20 000 = около 213 000 ₽ в месяц.

Видно, что в обоих случаях люди составляют большую часть бюджета. Поэтому сравнивать варианты только по цене токена или сервера — бессмысленно.

Скрытые расходы

То, что не попадает в первоначальную смету, но обязательно случается:

• Пилоты. Из трёх попробованных сценариев до продуктива доживает в лучшем случае один-два. Время на остальные — тоже затраты.
• Подготовка данных. Навести порядок в документах перед RAG, распознать сканы, вычистить дубли — часто это недели работы.
• Обучение сотрудников. Без него инструментом пользуются пять энтузиастов, а не весь отдел.
• Проверка результата. Если каждый ответ модели человек перепроверяет целиком, экономии времени нет. Нужно время, чтобы выстроить доверие и понять, что проверять выборочно.
• Смена модели. Провайдер выпустил новую версию или снял старую с поддержки — нужно прогнать тесты, поправить промпты, иногда переделать интеграцию.
• Логирование и хранение. Запросы и ответы нужно где-то хранить для разбора ошибок и аудита, и это тоже место и деньги.
• Ошибки. Неверная категория заявки, неточный ответ клиенту, неправильная цифра в отчёте. Их цена зависит от процесса, но она не нулевая.

С чем сравнивать

Затраты имеют смысл только рядом с эффектом. Для нашего примера:

• если помощник экономит каждому из 60 активных пользователей хотя бы 15 минут в день на поиске информации, это около 315 часов в месяц;
• при условной стоимости часа сотрудника 1 000 ₽ — около 315 000 ₽ в месяц;
• разбор заявок может освободить заметную часть времени диспетчера.

Но здесь важная оговорка: сэкономленное время не равно сэкономленным деньгам. Если освободившиеся часы ни во что не превращаются — ни в большее число обработанных заявок, ни в более быстрые ответы клиентам, — экономия остаётся на бумаге. Измеряйте не «сколько минут сэкономили», а изменение показателей процесса: время реакции, количество обработанных обращений, число ошибок.

Шаблон для своего расчёта

1. Опишите сценарии и оцените число запросов в месяц для каждого.
2. Замерьте реальный размер запросов и ответов в токенах на десятке примеров.
3. Посчитайте облачный вариант по текущим тарифам с запасом в 1,5–2 раза.
4. Посчитайте свой сервер: амортизация, электричество, размещение.
5. Добавьте людей — в долях ставки, честно.
6. Добавьте разовые расходы: пилот, подготовку данных, обучение.
7. Сравните с измеримым эффектом в показателях процесса.

Расчёт займёт пару часов и почти наверняка изменит ваше представление о том, на что на самом деле уходят деньги.