LLM-API-Kostenrechner (Tokens)

Wie Sie die monatlichen Kosten für eine KI API berechnen

Die Berechnung beginnt mit drei Zahlen, die Sie kennen müssen, bevor Sie überhaupt einen Blick auf die Preisliste werfen: wie viele Anfragen Sie täglich haben, wie viele Token durchschnittlich in jede Anfrage eingehen und wie viele Token das Modell zurückgibt. Die meisten Menschen machen den Fehler, nur die Länge der Frage zu schätzen und dabei den Kontext zu vergessen, der mit jeder Frage gesendet wird: Systemanweisungen, vorherige Nachrichten im Gespräch, aus Dokumenten extrahierte Abschnitte. In Konversationsanwendungen macht der Kontext oft 70 bis 90 Prozent der Eingabe-Token aus.

Vorgehensweise:

1. Nehmen Sie zehn echte Anfragen aus der Produktion oder aus Tests und übertragen Sie diese in eine Textdatei.
2. Messen Sie die Eingabe-Token mit dem Tool des Anbieters (Tokenizer) oder schätzen Sie grob: Anzahl der Zeichen geteilt durch 3 für Serbisch.
3. Messen Sie die Ausgabe-Token auf dieselbe Weise, aber nur für die Antworten, die das Modell tatsächlich zurückgibt.
4. Multiplizieren Sie die Durchschnittswerte mit der Anzahl der Anfragen pro Tag und dann mit 30 für den Monat.
5. Wenden Sie die Preise pro Million Token für Eingabe und Ausgabe getrennt an und addieren Sie diese.

Beispiel: 2.000 Anfragen pro Tag, 1.500 Eingabe- und 300 Ausgabe-Token. Das sind 3 Millionen Eingabe- und 600 Tausend Ausgabe-Token pro Tag, also 90 Millionen Eingabe- und 18 Millionen Ausgabe-Token pro Monat. Wenn die Eingabe 1 Geldeinheit pro Million Token kostet und die Ausgabe 4, betragen die monatlichen Kosten 90 + 72 = 162 Einheiten. Eine solche aufgeschlüsselte Berechnung zeigt sofort, wo gekürzt werden muss.

Was ein Token ist und warum serbischer Text mehr kostet

Ein Token ist weder ein Wort noch ein Buchstabe, sondern ein Textstück, das das Modell als eine Einheit verarbeitet. Englische Wörter werden oft in einen Token aufgeteilt, während längere serbische Wörter mit Endungen in zwei oder drei Token aufgeteilt werden. Deshalb beansprucht derselbe Inhalt auf Serbisch mehr Token als auf Englisch, und der Unterschied ist am größten bei Fallformen, Zusammensetzungen und Wörtern mit diakritischen Zeichen.

Praktische Folge: Wenn Sie einen Prompt aus dem Englischen übersetzen und ihn nicht anpassen, zahlen Sie mehr, als Sie denken. Kurze Anweisungen auf Serbisch sind in Ordnung, aber lange Vorlagen und Produktbeschreibungen sollten so knapp wie möglich formuliert werden. Dasselbe gilt für JSON-Ausgaben: Jeder Schlüssel, jedes Anführungszeichen und jede Klammer wird gezählt.

Tipp für Fortgeschrittene: Statt zu raten, erstellen Sie ein kleines Testsets von 20 bis 30 Beispielen und messen Sie die Token programmatisch vor jedem Aufruf. Diese Messungen dienen Ihnen später als Grundlage für das Budget und für den Vergleich von Modellen, denn der Unterschied zwischen zwei Modellen zeigt sich oft erst an echten Daten, nicht an einem Demo-Prompt.

Häufigste Fehler bei der Kostenschätzung

• Nur die letzte Frage berechnen. Die Gesprächshistorie wird vergessen, die bei jeder Anfrage erneut gesendet wird.
• Ausgabe-Token vernachlässigen. Viele tragen nur den Eingabepreis ein und denken, das sei der gesamte Aufwand, dabei ist die Ausgabe meist um ein Vielfaches teurer.
• Durchschnittswerte ohne Ausreißer. Seltene Anfragen mit einem riesigen Dokument können Hunderte gewöhnliche Anfragen übertreffen. Prüfen Sie auch die größten Anfragen, nicht nur den Durchschnitt.
• Veraltete Preise. Anbieter ändern Preislisten und führen neue Modellklassen ein, sodass eine einen Monat alte Berechnung falsch sein kann.
• Viele kleine Anfragen. Bei sehr kurzen Antworten sind die Kosten pro Anfrage gering, aber 50.000 Anfragen pro Tag ergeben trotzdem eine ernstzunehmende Rechnung.

Wie Sie Kosten ohne Qualitätsverlust senken

Prüfen Sie zuerst, ob jede Anfrage wirklich an das stärkste Modell gehen muss. Routineaufgaben wie Klassifizierung, das Extrahieren von Feldern aus Text und kurze Zusammenfassungen erledigt oft ein kleineres Modell mit ähnlichem Ergebnis. Zweitens kürzen Sie den Kontext: Senden Sie statt des gesamten Dokuments nur die relevanten Abschnitte, und begrenzen Sie die Gesprächshistorie auf die letzten wenigen Nachrichten. Drittens cachen Sie Antworten auf wiederkehrende Fragen und setzen Sie eine feste Obergrenze für die Anzahl der Ausgabe-Token, denn damit verhindern Sie seltene, aber teure „Romane" in der Antwort.

Wenn die Kosten schneller steigen als die Zahl der Nutzer, liegt das Problem meist in der Architektur der Aufrufe und nicht im Preis des Modells. EVI Solutions kann helfen, wenn Sie die Verbrauchsüberwachung pro Nutzer und Projekt einführen und Budgets auf Anwendungsebene festlegen möchten.