Modellauswahl und Kostensteuerung: von „immer das stärkste Modell“ zu aufgabenbasierter Klassifizierung

Warum „einheitlich das stärkste Modell“ eine Kostenfalle ist

Modellfähigkeiten sind geschichtet: Flaggschiffmodelle sind gut bei langen Reasoning-Ketten, komplexem Code und mehrfach eingeschränkten Anweisungen; leichte Modelle reichen oft schon für Klassifikation, Extraktion, Formatkonvertierung und kurze Frage-Antwort-Aufgaben. Der Preisunterschied zwischen beiden kann das Zehnfache oder mehr betragen.

Die aktuelle Preisseite von Anthropic und die [API pricing](https://developers.openai.com/api/docs/pricing) von OpenAI unterteilen ihre Modelle jeweils in mehrere Stufen; betrachtet man die von Anthropic veröffentlichte [pricing](https://claude.com/pricing) als Beispiel, richten sich die drei Stufen Opus, Sonnet und Haiku an unterschiedlich anspruchsvolle Aufgaben, mit deutlichen Preisunterschieden. Hunderttausende einfache Klassifikationen pro Tag auch dem Flaggschiffmodell zu überlassen, ist die am leichtesten übersehene Verschwendung.

Die Aufgabenklassifizierung in den Code bringen

1. Listen Sie die LLM-Aufrufe im System nach „Aufgabentyp“ auf (Klassifikation / Extraktion / Zusammenfassung / Generierung / Reasoning / Code).
2. Wählen Sie für jeden Aufgabentyp eine Standardstufe und schreiben Sie sie in die Konfiguration, nicht als verstreute Modellnamen.
3. Bereiten Sie für jeden Aufgabentyp 50–200 feste Evaluationsbeispiele vor, einschließlich typischer schwieriger Fälle.
4. Führen Sie zuerst mit der Standardstufe eine Baseline aus und versuchen Sie dann ein Downgrade; vergleichen Sie Genauigkeit und Formatkonformität.
5. Behalten Sie das Downgrade nur bei, wenn der Qualitätsverlust unter dem Schwellenwert liegt; andernfalls zurück zur vorherigen Stufe.

Gestuftes Routing: erst günstig, dann teuer

Ein praktisches Muster ist „erst günstig, dann teuer“: zuerst mit dem leichten Modell verarbeiten und bei folgenden Signalen auf das Flaggschiff hochstufen –

• Die Ausgabe lässt sich nicht parsen (kaputtes JSON, fehlende Felder).
• Das Modell erklärt selbst Unsicherheit, oder die Konfidenz liegt unter dem Schwellenwert.
• Eine geschäftsseitige Qualitätsprüfung schlägt an (z. B. das generierte SQL ist nicht ausführbar).
• Die Komplexitätskennzahl der Anfrage überschreitet den Schwellenwert (Eingabelänge, Anzahl referenzierter Dokumente).

So bleibt der Großteil des Traffics auf der günstigen Stufe, und nur die wirklich schwierigen Teile werden auf der Flaggschiffstufe bezahlt. Achten Sie darauf, die Anzahl der Hochstufungen ins Monitoring aufzunehmen: Eine dauerhaft hohe Hochstufungsrate zeigt, dass die Auswahl neu bewertet werden sollte.

Was vor einem herstellerübergreifenden Wechsel geklärt werden muss

Verschiedene Hersteller sind sich bei Ausgabestil, Tool-Calling-Format und Ablehnungsstrategie für dieselbe Aufgabe nicht einig. Bevor Sie einen Aufgabentyp von Hersteller A zu Hersteller B verschieben, sollten Sie mindestens klären:

• Strukturierte Ausgabe: Ist der Grad der Unterstützung von JSON mode / striktem Schema gleich?
• Tool-Calling-Format: Parameterstruktur, parallele Aufrufe, Art der Fehlerrückgabe.
• Kontextlänge und Abschneideverhalten: Führt zu lange Eingabe zu einem Fehler oder zu stillem Abschneiden?
• Unterschiede in der Inhaltsrichtlinie: Derselbe Eingabetext wird bei einem Modell abgelehnt, bei einem anderen normal verarbeitet.

Klassifizierung in einem einzigen Gateway

Admesh hält nach außen das OpenAI-kompatible Protokoll ein; Modelle werden in der Form namespace/model bereitgestellt (z. B. anthropic/…, openai/…, deepseek/…). Das bedeutet, dass für die Aufgabenklassifizierung nur eine Zuordnungstabelle „Aufgabentyp → Modell“ in der Konfiguration gepflegt werden muss, und im Code immer nur der model-Parameter geändert wird.

Da das Routing nur innerhalb des Kanalpools desselben public_model erfolgt, wird Ihr anthropic/xxx nicht stillschweigend durch ein Modell eines anderen Herstellers ersetzt – die Klassifizierung ist Ihre explizite Wahl, nicht eine Entscheidung des Gateways für Sie.

Modelllisten-API ansehen →