Как посчитать стоимость ИИ на одну завершенную задачу
Стоимость токенов не равна цене результата. Сложите расходы всех этапов и делите их на задачи, принятые по заранее заданному критерию качества.

Определите единицу результата
В автоматизации один пользовательский запрос может вызвать классификатор, основную модель, поиск, инструмент, проверку формата и повтор. Часть запусков заканчивается до результата, но создает расход. Поэтому «цена вызова» годится для счета провайдера, но не для сравнения процессов.
Определите успешное завершение наблюдаемым событием. Для обработки обращения это может быть карточка, принятую без ручной пересборки; для документа - все обязательные поля в нужной схеме; для помощника - действие, прошедшее проверку владельца. Сам факт, что модель вернула текст, не является успехом.
Собирайте подробный журнал
Для каждого вызова сохраняйте внутренний task ID, этап, модель, входные и выходные токены, кэшированный ввод, длительность, код ответа, повтор и связанный вызов. Инструменты фиксируйте отдельными строками: retrieval, поиск, выполнение кода или распознавание файла могут иметь собственный тариф.
Если провайдер считает изображения, звук, видео или длительность сессии отдельно, сохраняйте эти единицы. Не переводите их в выдуманные токены. В тарифе могут иметь значение модель, регион, режим, размер входа и дата, поэтому храните снимок примененной цены.
Не записывайте в финансовую телеметрию полный пользовательский документ. Для расчета часто достаточно идентификатора, типа операции, размера и результата. Доступ к содержимому ограничьте отдельно.
Разведите прямые и полные затраты
Прямые расходы включают модельные вызовы, повторы и инструменты. Полная себестоимость может включить сервер, платный поиск, очередь ручной проверки и другие переменные операции. Показывайте эти величины раздельно, если инфраструктура общая для нескольких продуктов.
Рабочая формула:
- Сложите успешные и неуспешные вызовы и инструменты за выбранный период.
- Прибавьте долю переменной инфраструктуры и ручной проверки.
- Разделите на число задач, которые прошли критерий приемки.
- Рядом покажите долю завершения и долю передачи оператору.
Так дешевый сценарий с большим числом негодных ответов не будет выглядеть выгодным. Повтор из-за временной сетевой ошибки отличается от повтора из-за плохого формата, поэтому маркируйте причины отдельно.
Сравнивайте на одинаковых задачах
Прогоните текущий и альтернативный варианты на одном сохраненном наборе. Сначала проверьте минимальное качество: обязательные поля, корректный формат, критические ошибки и допустимая доля ручной проверки. Затем сравнивайте цену, задержку и незавершенные задачи среди вариантов, прошедших порог.
Покажите медиану, p90 и p95 цены по задаче. Среднее скрывает дорогой хвост, например сложные файлы, которые запускают несколько повторов. Сравнивайте по сценарию, модели, версии инструкции, типу входа и периоду. Если поменялись объем или тариф, обозначьте границу и не приписывайте всю разницу оптимизации.
Найдите лишние расходы без ухудшения качества
Проверьте, можно ли пропускать модельный вызов для детерминированных правил, уменьшить повторяющийся контекст, кэшировать стабильные данные или маршрутизировать простой запрос более легкой моделью. Не удаляйте проверку только потому, что она добавляет стоимость: она может снижать цену ошибок и ручной доработки.
Поставьте ограничения на длину входа, число шагов, таймауты и бюджет на пользователя. Уведомляйте о росте повторов, расхода на тысячу задач и незавершенных сценариев. Счет может измениться из-за тарифа, объема или доли сложных запросов - мониторьте причины отдельно.
Пример учета
За период пришло 1 000 задач, но по критерию качества завершено 760. В журнале есть 1 200 вызовов модели, 80 повторов из-за схемы, поиск и ручная проверка 140 задач. Делить счет на тысячу входов неверно: четверть не завершена, а некоторые операции повторялись. Распределите платежи по task ID и покажите две метрики: прямую цену провайдера и полную операционную стоимость.
Добавьте процент завершения, p95 затрат, частоту повторов и долю проверки человеком. Сравнивайте версии на одном наборе и отмечайте дату смены тарифа. При модели с другим качеством допустимое число успешных задач может поменяться.
Проверьте единицы счета
Сверяйте локальный журнал с фактической детализацией. Кэшированный контекст, изображения, аудио, длительность сессии и внешний поиск тарифицируются по разным правилам. Неуспешный ответ может уже создать стоимость. Общую инфраструктуру распределяйте по понятному признаку, например активному времени или числу операций, и называйте это оценкой, если точную связь восстановить нельзя.
Если задача включает риск дорогостоящей ошибки, добавьте ожидаемую цену проверки и исправления. Самый дешевый вызов может быть дороже по полному процессу.
Рабочий расчет
За период пришло 1 000 обращений, но по критерию приемки завершены 760. Журнал содержит 1 200 запросов модели, 80 повторов из-за неверной схемы и 140 передач оператору. Сложите стоимость вызовов и инструментов, распределите переменную инфраструктуру по task ID и разделите на принятые задачи. Рядом покажите автоматическое завершение и завершение после оператора.
Не сравнивайте дешевую модель только по цене ответа, если ее качество изменило число повторов. После смены тарифа отметьте дату границы и сравните версии на одинаковом наборе. Для общей инфраструктуры используйте понятное распределение и называйте его оценкой, если точную цену восстановить нельзя.
Учитывайте единицы счета
Кэшированный контекст, изображения, аудио, длительность сессии и поиск могут считаться по разным правилам. Храните фактическое количество единиц и цену на дату операции. Даже неуспешный ответ способен создать счет. Не переводите изображения или минуты в условные токены ради одной строки отчета.
Смотрите p50 и p95 стоимости, повторов и задержки. Дорогой хвост может определять бюджет, даже если медиана низкая. Задайте лимит длины входа, числа шагов, timeout и максимальных расходов. После оптимизации повторите проверку качества, чтобы не купить дешевизну ростом ручных исправлений.
Разделите стоимость модели и стоимость процесса
Отдельно рассчитайте стоимость принятой задачи, стоимость попытки и средний счет на входящий запрос. Эти показатели отвечают на разные вопросы. Попытка помогает сравнить модели, задача - экономику рабочего потока, входящий запрос - бюджет отдела. Если сценарий остановился до результата, распределите его затраты между успешными задачами только при явном описании метода, а отдельно покажите расход отказов.
Проверка человеком может оплачиваться окладом, подрядом или по времени, поэтому способ оценки отличается от счета API. Для решения о запуске достаточно собрать доступное время сотрудника и долю проверенных задач, затем показать диапазон. Не притворяйтесь, что аллокация общих расходов измерена с точностью до цента.
При сравнении двух вариантов сохраните одну входную выборку, критерий успеха и окно тарифа. Проводите короткий тест на реальных типах нагрузки, а не на среднем размере запроса. Для бюджета на квартал добавьте пессимистичный сценарий по p95 и сезонному объему.
Планируйте бюджет по сценариям
Для фиксированного объема можно умножить наблюдаемую цену успешной задачи на плановое количество. Для переменного процесса добавьте диапазон по типу запроса и сезонности. Три сценария - обычный, p95 и пиковый - покажут, хватит ли бюджета на редкие большие документы и очереди повторов. Не используйте среднее одного тестового дня как годовой прогноз.
Сверяйте оценку с фактическим счетом ежемесячно. Расхождение разложите на рост количества, новый тариф, измененный размер контекста, кэш и повторные шаги. Назначьте владельца аномалии и лимит, при котором новые запуски останавливаются или переходят в ручной режим. Это превращает расчет из отчета задним числом в механизм контроля.
Для нескольких команд сравнивайте одинаковую единицу результата. «Письмо», «разобранный документ» и «решенная заявка» не взаимозаменяемы без общей рубрики качества.