Калькулятор стоимости LLM API (токены)

Как рассчитать месячную стоимость AI API

Расчет начинается с трех чисел, которые нужно знать еще до того, как вы вообще откроете прайс-лист: сколько запросов в день вы делаете, сколько токенов в среднем входит в каждый запрос и сколько токенов возвращает модель. Большинство ошибается, оценивая только длину вопроса и забывая контекст, который отправляется вместе с каждым вопросом: системные инструкции, предыдущие сообщения в разговоре, извлеченные фрагменты документов. В разговорных приложениях контекст часто составляет 70 до 90 процентов входных токенов.

Порядок действий:

1. Возьмите десять реальных запросов из продакшена или тестов и перепишите их в текстовый файл.
2. Измерьте входные токены инструментом провайдера (tokenizer) или грубой оценкой: количество символов, деленное на 3 для сербского.
3. Измерьте выходные токены тем же способом, но только для ответов, которые модель действительно возвращает.
4. Умножьте средние значения на количество запросов в день, затем на 30 для месяца.
5. Примените цены за миллион токенов для входа и выхода отдельно и сложите.

Пример: 2 000 запросов в день, 1 500 входных и 300 выходных токенов. Это 3 миллиона входных и 600 тысяч выходных токенов в день, то есть 90 миллионов входных и 18 миллионов выходных в месяц. Если вход стоит 1 денежную единицу за миллион токенов, а выход 4, месячная стоимость составляет 90 + 72 = 162 единицы. Такой детализированный расчет сразу показывает, где нужно сокращать.

Что такое токен и почему сербский текст стоит дороже

Токен это не слово и не буква, а фрагмент текста, который модель обрабатывает как одну единицу. Английские слова часто делятся на один токен, тогда как длинные сербские слова с окончаниями делятся на два или три. Поэтому один и тот же контент на сербском занимает больше токенов, чем на английском, а разница наибольшая в падежных формах, сложных словах и словах с диакритикой.

Практическое следствие: если вы переводите промпт с английского и не адаптируете его, вы платите больше, чем думаете. Короткие инструкции на сербском допустимы, но длинные шаблоны и описания продуктов выгодно писать как можно лаконичнее. То же касается JSON-вывода: каждый ключ, кавычка и скобка считаются.

Совет для продвинутых: вместо того чтобы гадать, создайте небольшой тестовый набор из 20 до 30 примеров и измеряйте токены программно перед каждым вызовом. Эти измерения позже служат основой для бюджета и для сравнения моделей, поскольку разница между двумя моделями часто видна только на реальных данных, а не на демо-промпте.

Самые частые ошибки в оценке стоимости

• Подсчет только последнего вопроса. Забывается история разговора, которая повторно отправляется при каждом запросе.
• Игнорирование выходных токенов. Люди вводят цену входа и думают, что это вся стоимость, а выход обычно в несколько раз дороже.
• Средние значения без хвостов. Редкие запросы с огромным документом могут перевесить сотни обычных. Проверяйте и самые крупные запросы, а не только среднее.
• Устаревшие цены. Провайдеры меняют прайс-листы и вводят новые классы моделей, поэтому расчет месячной давности может быть неверным.
• Мелкие запросы в большом количестве. При очень коротких ответах стоимость за запрос мала, но 50 000 запросов в день все равно дают серьезный счет.

Как снизить стоимость без потери качества

Сначала проверьте, действительно ли каждый запрос должен идти на самую мощную модель. Рутинные задачи, такие как классификация, извлечение полей из текста и короткие резюме, часто выполняет меньшая модель с похожим результатом. Во-вторых, сократите контекст: вместо всего документа отправляйте только релевантные фрагменты, а историю разговора ограничьте последними несколькими сообщениями. В-третьих, кешируйте ответы на повторяющиеся вопросы и установите жесткое ограничение количества выходных токенов, поскольку это предотвращает редкие но дорогие «романы» в ответе.

Если стоимость растет быстрее числа пользователей, проблема обычно в архитектуре вызовов, а не в цене модели. EVI Solutions может помочь, когда нужно внедрить отслеживание расходов по пользователю и проекту и установить бюджеты на уровне приложения.