physar / AI-Grundlagen / Ökonomie & Modellwahl — die Ressourcen-Entscheidungen

Ökonomie & Modellwahl — die Ressourcen-Entscheidungen

Token-Ökonomie, Latenz-Budget und Modellwahl: gemessene Kostenanteile optimieren, interaktive und asynchrone Last trennen sowie Modelle, Routing und Adaptions-Hebel am eigenen Qualitätsziel evaluieren.

Ökonomie & Modellwahl — die Ressourcen-Entscheidungen

Einführung · 9 Abschnitte · ~8 Min Lesezeit · Stand

Warum die Ressourcen-Sicht?

In Produktion optimierst du drei Ziele: Kosten, Latenz und Qualität. Welcher Hebel trägt, entscheidet nicht eine allgemeine Rangliste, sondern eure gemessene Last, das Qualitätsziel und die konkrete Anbieter- oder Deployment-Konfiguration.

Technisch verarbeitet der Prefill viele Positionen der Eingabe weitgehend parallel; der autoregressive Decode erzeugt Ausgabepositionen nacheinander. Das prägt Rechen- und Latenzprofile, legt aber weder Preise noch Modellrangfolgen fest.

Token-Ökonomie: Input ist nicht Output

Eine Kostenrechnung multipliziert gemessene Mengen mit den Sätzen des gewählten Anbieters, Modells oder eigenen Deployments. Input, Output, Cache-Nutzung und weitere Rechenanteile können unterschiedlich abgerechnet werden; aus Prefill und Decode folgt keine universelle Preisrelation.

Wenn die Abrechnung zeigt, dass lange Antworten den größten Kostenanteil verursachen, ist Output-Kürzung der erste Kandidat. Dominiert dagegen ein großer Kontext, setzt du dort an. Die sequenzielle Ausgabe macht die Antwortlänge zusätzlich zu einem Latenzhebel — wie stark, muss die Ende-zu-Ende-Messung zeigen.

Input (Prompt, Kontext, Historie)Menge × anbieter-/deploymentabhängiger Satz; Prefill weitgehend parallel
Output (erzeugte Antwort)Menge × anbieter-/deploymentabhängiger Satz; Decode autoregressiv und sequenziell

Multi-Turn: der Verlauf wächst mit

Bei einer stateless Integration, die bei jedem Aufruf die vollständige Historie mitsendet und keinen serverseitigen Gesprächszustand nutzt, wächst der Input pro Zug mit dem Verlauf. Das ist eine Eigenschaft dieser Integration — nicht aller APIs oder Betriebsformen.

Sind die Züge ungefähr gleich lang, wird die Historie immer vollständig erneut gesendet und greift kein Cache, summiert sich der wiederholte Input grob quadratisch mit der Zugzahl. Fenster und Summary ändern die Menge; unterstütztes Caching kann Wiederverarbeitung oder Abrechnung des stabilen Präfixes verändern.

  • Verlauf kürzen — nur aufgabenrelevante Züge oder ein begrenztes Fenster mitsenden.
  • Zusammenfassen — ältere Züge verdichten und den Informationsverlust im Eval prüfen.
  • Prefix-/Prompt-Caching — wiederholte Präfixe nur dann wiederverwenden, wenn Anbieter oder eigenes Deployment dies unterstützt; Wirkung und Abrechnung messen.

Latenz: TTFT, Gesamtzeit und Streaming

Time-to-First-Token (TTFT) misst aus Sicht des gewählten Messpunkts bis zum ersten Token. Clientseitig können darin Netzwerk, Queueing, Vorverarbeitung, Retrieval oder Tool-Schritte und Prefill stecken. Die Gesamtzeit umfasst zusätzlich Decode und spätere Pipeline-Schritte. Deshalb beide Größen am relevanten Systemrand instrumentieren.

  1. Client sendet Request
  2. Netzwerk, Queue und Vorverarbeitung
  3. Prefill → erstes Token
  4. Decode und weitere Schritte
  5. vollständige Antwort

Streaming kann den ersten sichtbaren Fortschritt vor die vollständige Antwort ziehen. Ob Nutzer das als schneller oder hilfreicher erleben, ist eine testbare UX-Hypothese. Streaming verkürzt weder automatisch die Gesamtzeit noch erhöht es automatisch den Durchsatz.

Interaktiv vs. Batch: der richtige Pfad

Interaktive Last hat ein Nutzer-Latenzbudget; nicht-interaktive Massenarbeit hat meist ein Fertigstellungsfenster. Teilt beides denselben synchronen Pfad, konkurrieren Requests um Threads, Queues, Quoten und Serving-Kapazität.

Eine Queue, ein Worker-Pool oder eine unterstützte Batch-Schnittstelle entkoppelt die Lasten. Batching kann Auslastung verbessern und je nach Anbieter oder eigenem Deployment eine andere Kostenstruktur haben; ein Preisvorteil ist aber keine Universalität. Auch Modellgröße allein sagt weder Tempo noch Kosten voraus.

Right-Sizing und Routing: Qualität ist die Schranke

Beim Right-Sizing gewinnt das kleinste Kandidatenmodell, das definierte Qualitäts- und Zuverlässigkeitsschwellen in einem repräsentativen, gelabelten Eval erfüllt. Ein kleines Modell kann genügen; Größe allein beweist weder Qualität noch Latenz oder Kosten.

Bei heterogener Last kann Capability-Routing einfache Fälle an einen ressourcenärmeren Kandidaten und schwierige Fälle an einen stärkeren Kandidaten geben. Das lohnt nur, wenn eine extern gelabelte, kalibrierte Qualitätsprognose die Zielqualität im Eval hält. Rohe Selbstconfidence des antwortenden Modells ist kein unabhängiges Routing-Signal.

Ein Modell für allesEinfacher Betrieb; akzeptabel, wenn es die Schwelle zu tragbaren Kosten erfüllt
RoutingZusätzlicher Router und Fallback; nur bei validiertem Qualitäts-/Kostenvorteil
Mittelgroßer KompromissFaire Option, wenn er selbst die Schwelle erfüllt — sonst keine automatische Lösung

Adaption: Ursache statt Universal-Leiter

Prompting, Retrieval und Fine-Tuning sind keine universell sortierte Kostenleiter. Zuerst diagnostizierst du die Eval-Lücke; dann vergleichst du Kandidaten am Qualitätsziel sowie an Einführungs- und Betriebskosten. Beginne mit dem kleinsten reversiblen Experiment, das die vermutete Ursache prüft.

Prompt, Beispiele, SchemaKandidat bei unklarer Anweisung, fehlenden Demonstrationen oder Ausgabegrenzen
RAG / RetrievalKandidat für dynamisches Wissen oder einen großen, variablen Bestand an Fakten und Beispielen
Fine-TuningKandidat für wiederkehrendes Zielverhalten, wenn Nutzen, Trainingsdaten, Eval und Modell-Lifecycle den Zusatzaufwand rechtfertigen

Veränderliche Fakten gehören nicht als alleinige Aktualisierungsstrategie ins Fine-Tuning. Bleibt eine gemessene Verhaltenslücke nach kleineren Experimenten bestehen, kann Fine-Tuning sinnvoll sein — mit eigenem Daten-, Evaluations- und Betriebszyklus.

Modell-Migration: nicht blind tauschen

Öffentliche Benchmarks und Kostenprognosen sind Kandidatensignale, keine Freigabe. Für die Basismodell- und Pipeline-Wahl vergleichst du Alt und Neu auf einem repräsentativen, gelabelten Eval mit euren Qualitäts-, Zuverlässigkeits-, Latenz- und Kostenzielen.

Diese Achse endet bei der Entscheidung über Basismodell und Pipeline. Fällt sie positiv aus, prüft der Prompt-Track anschließend Portabilität und gezieltes Re-Tuning des Prompts. So vermischst du die Modellwahl nicht vorab mit einer zweiten Änderung.

Gleich im Check

Du entscheidest gleich alle acht Achsen: gemessener Input-/Output-Kostenanteil, vollständig mitgesendete Chat-Historie, TTFT und Streaming, Batch vs. interaktiv, Right-Sizing, validiertes Capability-Routing, ursachengerechte Adaption und Basismodell-/Pipeline-Migration.

Gelesen ist nicht geprüft: Im Modul entscheidest du die Fälle selbst und siehst danach, wo dein Urteil trägt.

8 Checks starten →

Modul-Aufbau

EINFÜHRUNGÖkonomie & Modellwahl — die Ressourcen-Entscheidungen~8 Min
ADR-001COSTeinstieg
ADR-002COSTsolide
ADR-003LATENCYeinstieg
ADR-004LATENCYsolide
ADR-005MODEL-CHOICEsolide
ADR-006MODEL-CHOICEsolide
ADR-007MODEL-CHOICEsenior
ADR-008MODEL-CHOICEsenior

Quellen

  1. 01Pope et al. — Efficiently Scaling Transformer Inference, MLSys 2023 (Prefill-/Decode-Asymmetrie)
  2. 02Agrawal et al. — Taming Throughput-Latency Tradeoff in LLM Inference with Sarathi-Serve, OSDI 2024 (Prefill, Decode, Batching)
  3. 03Yao et al. — ScaleLLM: A Resource-Frugal LLM Serving Framework by Optimizing End-to-End Efficiency, EMNLP Industry 2024
  4. 04Zheng et al. — SGLang: Efficient Execution of Structured Language Model Programs, NeurIPS 2024 (KV-/Prefix-Wiederverwendung)
  5. 05Liang et al. — Holistic Evaluation of Language Models, TMLR 2023
  6. 06Ding et al. — Hybrid LLM: Cost-Efficient and Quality-Aware Query Routing, ICLR 2024
  7. 07Xiong et al. — Can LLMs Express Their Uncertainty? An Empirical Evaluation of Confidence Elicitation in LLMs, ICLR 2024
  8. 08Brown et al. — Language Models are Few-Shot Learners, NeurIPS 2020
  9. 09Lewis et al. — Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks, NeurIPS 2020
  10. 10Gekhman et al. — Does Fine-Tuning LLMs on New Knowledge Encourage Hallucinations?, EMNLP 2024
  11. 11Raji et al. — AI and the Everything in the Whole Wide World Benchmark, NeurIPS Datasets and Benchmarks Track 2021
  12. 12Pope et al. — Efficiently Scaling Transformer Inference, MLSys 2023 (Prefill- vs. Decode-Phase)
  13. 13Agrawal et al. — Taming Throughput-Latency Tradeoff in LLM Inference with Sarathi-Serve, OSDI 2024 (Prefill-/Decode-Asymmetrie)
  14. 14Zheng et al. — SGLang: Efficient Execution of Structured Language Model Programs (RadixAttention/Prefix-Caching), NeurIPS 2024
  15. 15Agrawal et al. — Taming Throughput-Latency Tradeoff in LLM Inference with Sarathi-Serve, OSDI 2024 (TTFT, Prefill, Decode)
  16. 16Kleppmann — Designing Data-Intensive Applications, 2017 (Batch- vs. Online-Verarbeitung)
  17. 17Nygard — Release It!, 2. Auflage 2018 (Bulkhead: Ressourcen-Isolierung)
  18. 18Agrawal et al. — Taming Throughput-Latency Tradeoff in LLM Inference with Sarathi-Serve, OSDI 2024 (Batching und Durchsatz-/Latenz-Trade-off)
  19. 19Chen et al. — FrugalGPT: How to Use Large Language Models While Reducing Cost and Improving Performance, TMLR 2024
  20. 20Liang et al. — Holistic Evaluation of Language Models (HELM), TMLR 2023 (aufgabenabhängige, mehrdimensionale Bewertung)
  21. 21Brown et al. — Language Models are Few-Shot Learners, NeurIPS 2020 (In-Context/Few-Shot als prüfbarer Kandidat)
  22. 22Lewis et al. — Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks, NeurIPS 2020 (nicht-parametrischer Wissenszugriff)
  23. 23Google Cloud Vertex AI — Introduction to tuning, Abschnitt `Tuning compared to prompt design`
  24. 24Liang et al. — Holistic Evaluation of Language Models (HELM), TMLR 2023 (aufgabenabhängige Bewertung)

Verfasst von Julian Zentgraf