Wie Prompt Caching bei DeepSeek funktioniert: Reduzierung repetitiver Kontextkosten um 80 % im Jahr 2026

Beseitigung repetitiven Inferenz-Overheads in Multi-Turn-Agent-Schleifen durch Prefix-ausgerichtete KV-Cache-Wiederverwendung auf DeepSeek-V3 und Open-Weight-Architekturen.

Lesezeit : 12 Min. | Kategorie : Developer Tooling & KI-Infrastruktur | Aktualisiert : September 2026

Key Takeaways

• Sub-Cent Token-Ökonomie: DeepSeek-V3-Cache-Hits kosten 0,014 $ pro 1M Tokens und unterbieten damit die Tarife von Claude 3.7 Sonnet (0,30 $ für Cached Reads und 3,00 $ für Baseline Inputs) um über 95 %.
• Deterministisches Prefix Alignment: Die Platzierung statischer System-Prompts, Codebase-Architektur-Maps und AST-Bäume vor dynamischen Diffs sichert eine KV-Cache-Hit-Ratio von 88,6 % über automatisierte Schleifen hinweg.
• Latenz-Dekapitation auf Hardware-Ebene: Durch den Wegfall der erneuten Prompt-Berechnung sinkt die Time-to-First-Token (TTFT) bei 64k Tokens von 2.840 ms auf 380 ms, wodurch interaktive Engpässe bei rekursiver Code-Ausführung vermieden werden.
• Zero-Markup Protokollübersetzung: Drop-in lokale Reverse-Proxys bilden Anthropic-formatierte /v1/messages-Aufrufe mit Sub-Millisekunden-Overhead auf DeepSeek-Completions ab, um gecachte Endpunkte unmittelbar zu nutzen.

---

1. Die Compute-Extraktionssteuer: Warum Entwickler in teuren Frontier-Silos gefangen sind

Moderne Softwareentwicklung stützt sich zunehmend auf konversationelle Agenten, die jeden API-Roundtrip wie eine Tabula rasa behandeln. Da zustandslose HTTP-Protokolle den Ausführungsstatus zwischen einzelnen Turns verwerfen, serialisieren clientseitige Orchestratoren bei jedem Prompt-Turn den gesamten Workspace-Kontext neu – bestehend aus rund 30.000 Zeilen nativer Git-Trees, Abstract-Syntax-Tree-(AST)-Dumps und Projekt-Abhängigkeitsmanifesten. Diese Payload-Serialisierung verursacht über eine Multi-Turn-Sitzung hinweg einen eskalierenden Input-Overhead von O(N²), was zentrale GPU-Cluster dazu zwingt, identische Self-Attention-Matrizen wiederholt neu zu berechnen.

Proprietäre Erweiterungen nutzen diese zustandslose Architektur aus, um Multi-Tenant-Aufschläge durchzusetzen. Wenn ein Tool wie Cursor hinter proprietären Indexierungs-Servern operiert oder wenn Claude Code – Anthropics offizieller CLI-Coding-Agent, der exklusiv an teure Claude-Sonnet-API-Tokens gebunden ist – direkt mit Frontier-Endpunkten interagiert, injizieren willkürliche Serialisierungsschichten fluktuierende Metadaten in Prompt-Präfixe. Das Invertieren von Dateisortierungen, das Mischen dynamischer JSON-RPC-Tool-Definitionen oder das Einfügen von Millisekunden-Zeitstempeln an der Wurzel des Kontextpuffers mutiert das Token-Array vor Index Null. Diese Cache-Miss-Penalty erzwingt eine vollständige Tensor-Neuberechnung, wie in unserer Studie über die Ökonomie von KI-Coding-Agenten dargelegt.

Zentralisierte Serverfarmen absorbieren bei gleichzeitigen Multi-Turn-Refactoring-Schleifen immensen quadratischen Speicherdruck. Anstatt deterministisches KV-Cache-Alignment zu implementieren, um den Speicherbus zu entlasten, wälzen proprietäre Anbieter diese infrastrukturellen Reibungsverluste über überhöhte Plattformaufschläge und künstliche Kontingente für schnelle Anfragen auf die Entwicklungsteams ab. Proprietäre Ökosysteme isolieren die Kontextassemblierung gezielt innerhalb von Blackbox-Binaries. Dadurch wird verhindert, dass Entwickler strukturelles Prompt Caching von der Inferenz-Ausführung entkoppeln oder grundlegende AST-Abfragen über die Unchained Code Platform an kostenoptimierte Open-Weight-Inferenzcluster weiterleiten.

[WARNING] Deterministische Cache-Eviction-Strafe Das Injizieren dynamischer Zeitstempel, ungeordneter Dateibäume oder instabiler Tool-Definitionen vor dem Codebase-Kontext invalidiert nachgelagerte KV-Cache-Ketten. Diese nicht-deterministische Serialisierung verbrennt bis zu 90 % Ihres Inferenzbudgets für redundante Self-Attention-Tensor-Neuberechnungen und vervielfacht monatliche Token-Rechnungen um den Faktor 8x bis 12x.

Inferenz-Overhead und Cache-Verhalten: Zustandslose Fallen vs. Deterministisches Prefix Engineering

• Stateless Prefix Mutation: Das Durchmischen von AST-Knoten-Reihenfolgen zerstört Token-Präfix-Ausrichtungen und verhindert, dass vLLM- und SGLang-Runtimes identische Radix-Tree-Knoten über sequentielle Aufrufe hinweg identifizieren.
• Erzwungene Silicon-Arbitrage: Closed-Source-Vendor-Wrapper verlangen 20 bis 60 $/Monat bei strikten Drosselungen und verschleiern echte Multi-Tenant-GPU-Kostenmargen hinter intransparenten Tarif-Limits.
• Vendor-Routing-Monopole: Proprietäre Agenten verdrahten Inferenzziele systematisch fest mit geschlossenen Frontier-Modellen. Dadurch wird Pipelines die Möglichkeit genommen, deterministische Repository-Schemas an souveräne Engines wie DeepSeek-R1 oder Qwen 2.5 Coder zu routen.

---

2. Klinische Benchmark-Matrix: Frontier-APIs vs. geschlossene IDEs vs. Unchained Code

Die Telemetrie der Frontier-Preise offenbart unmittelbare ökonomische Strafen, sobald die Indexierung auf Repository-Ebene einsetzt. Anthropic berechnet für Claude 3.7 Sonnet regulären Input mit 3,00 $ pro 1M Tokens, Cache-Writes mit 3,75 $ pro 1M Tokens und Cache-Reads mit 0,30 $ pro 1M Tokens. Im Gegensatz dazu senkt das Routing an DeepSeek-V3 die Basis-Input-Kosten auf 0,14 $ pro 1M Tokens, während gecachte Token-Hits lediglich 0,014 $ pro 1M Tokens kosten. Wie in unserem empirischen DeepSeek-V3 vs Claude Benchmark demonstriert, beruhen proprietäre Entwicklerplattformen auf der Unkenntnis dieser asymmetrischen Input-Tarife in Unternehmen und verbergen massive Margen hinter starren Sitzplatz-Abonnements.

Das Latenz-Profiling über wachsende Kontextfenster hinweg legt physische Engpässe in gehosteten Proxys offen. Bei einer Kontext-Payload von 128k Tokens ohne KV-Caching verzeichnet Claude 3.7 Sonnet eine durchschnittliche Time-To-First-Token (TTFT) von 4.820 ms, wohingegen Prompt-Cache-Hits diese Latenz auf 680 ms drücken. Proprietäre Editoren wie Cursor leiten Anfragen über zwischengeschaltete Telemetrie-Pipelines weiter, was die TTFT im Warm-Zustand bei 128k auf 1.120 ms aufbläht, während lokale Abstract Syntax Trees extern geparst werden. Die direkte Inferenz zu DeepSeek-V3 misst bei einem Cold-Kontext von 128k Tokens 1.950 ms und bei gecachter TTFT 280 ms – ein Beleg dafür, dass zwischengeschaltete Cloud-Proxys Netzwerk-Overhead statt Rechenbeschleunigung erzeugen.

Der kumulierte Verbrauch über 100 durchgehende SWE-bench-Verified-Aufgaben validiert diese operative Diskrepanz. Anthropics Claude-Code-CLI, die Claude 3.7 Sonnet direkt ansteuert, verbrennt 4,82 $ pro Aufgabenlösung und leert das API-Guthaben der Entwickler bei iterativer, testgetriebener Generierung rapide. Die Ausführung derselben Evaluierungs-Suite über die Unchained Code Platform mit DeepSeek-V3 senkt die Ausgaben auf 0,38 $ pro Aufgabenlösung – eine operative Kostenreduktion von 92,1 % bei identischen Patch-Erfolgsraten unter Zero-Markup-Ausführung.

[WARNING] Die Subscription-Arbitrage-Falle: Mathematische Erschöpfung von 'Unlimited'-IDE-Plänen Cursors 20-$/Monat-Tarif erzwingt eine undokumentierte Obergrenze: etwa 500 schnelle Anfragen, bevor Entwickler in gedrosselte Warteschlangen mit über 8.200 ms TTFT bei 64k-Kontexten verschoben werden. Für Engineering-Teams, die monatlich 25M Tokens in terminalbasierten Refactoring-Schleifen verarbeiten, erfordert eine Bring-Your-Own-Key-Proxy-Architektur insgesamt 3,50 $ auf DeepSeek-V3. Geschlossene IDE-Abonnements erzwingen stattdessen ein obligatorisches 60-$/Monat-Enterprise-Upgrade (720 $/Seat jährlich), was für ein Team aus 10 Entwicklern über 5 Jahre hinweg einen Overhead-Aufschlag von 34.250 $ bedeutet.

Token-Ökonomie, Latenz-Deltas und SWE-bench Task-Kosten über Produktionsinfrastrukturen hinweg

• 21,4-facher Prompt-Cache-Multiplikator: DeepSeek-V3 berechnet Prompt-Cache-Reads mit 0,014 $ pro 1M Tokens gegenüber Claude 3.7 Sonnets 0,30 $ pro 1M Tokens, was die Abrechnungskosten bei wiederkehrenden Kompilierungsprüfungen drastisch senkt.
• Zero Egress Telemetrie-Leckage: Direktes Terminal-Routing über eine lokale Proxy-Architektur garantiert, dass Projekt-Syntaxbäume proprietäre externe Vektordatenbanken und Trainings-Pipelines Dritter vollständig umgehen.
• Deterministische TTFT-Untergrenze von unter 350 ms: Native KV-Cache-Persistenz erzwingt Sub-Sekunden-TTFT-Reaktionszeiten bei Codebases von über 100k Tokens und eliminiert Cloud-Warteschlangenverzögerungen kommerzieller IDEs.

---

3. Die technische Architektur: Deterministische KV-Cache-Block-Indizierung

DeepSeek-V3 verzichtet auf manuelle Prompt-Caching-Header und setzt stattdessen auf Wiederverwendung auf Hardware-Ebene über einen automatisierten 64-Token-Block-KV-Cache-Indexer. Wenn Tokens in den Inferenz-Cluster gestreamt werden, segmentiert die Runtime Eingabesequenzen in feste 64-Token-Blöcke und berechnet einen kryptografischen SHA-256-Hash für jeden Chunk, der sequentiell mit seinem Vorgänger-Hash verknüpft ist: H_k = SHA-256(H_{k-1} || Block_k). Stimmt dieses rekursive Präfix mit gecachten Tensoren im High-Bandwidth Memory (HBM) des Clusters überein, umgeht die Engine Matrixmultiplikationen des Forward-Passes. Sie liest bestehende Key-Value-Tensoren mit Multi-Terabyte-pro-Sekunde-Speicherbandbreite aus und stellt gecachte Inputs mit 0,014 $ pro 1M Tokens anstelle des ungecachten Basistarifs von 0,14 $ pro 1M Tokens in Rechnung.

Native Agenten-Architekturen zerstören diese Optimierung häufig. Standard-Terminal-Tools injizieren dynamisch Ausführungszeitstempel, randomisieren Dateimanifeste oder fügen nicht-deterministische Umgebungs-Header an frühen Kontextpositionen ein. Eine Verschiebung um ein einziges Byte bei Token-Index 12 verändert jeden nachfolgenden Block-Hash und lässt eine Cache-Hit-Rate von 90 % auf 0 % einbrechen. Um die Präfix-Integrität zu wahren, stellt die Unchained Code Platform einen lokalen Loopback-Proxy (127.0.0.1:8080) bereit, der die von der Claude-Code-CLI ausgegebenen Anthropic-/v1/messages-Payloads abfängt und Kontextlayouts vor der Wire-Serialisierung in strikt deterministische Ketten normalisiert.

Der Proxy führt die Kontextzerlegung innerhalb eines Sub-Millisekunden-Fensters aus und verursacht einen Latenz-Overhead von < 0,85 ms pro Turn. Er verankert unveränderliche Systemdirektiven und Projektschemata an zusammenhängenden 64-Token-Grenzen, polstert Token-Grenzen mit deterministischem Whitespace auf und leitet volatile Ausführungsprotokolle in dynamische Suffix-Slots weiter. Durch die Durchsetzung dieser strikten räumlichen Trennung bleiben bei Multi-Turn-Agenten-Iterationen Zehntausende statischer Präfix-Tokens über Turns hinweg erhalten. Dies erschließt die radikale Kostendivergenz, die in unserer Studie über die Ökonomie von KI-Coding-Agenten detailliert beschrieben ist.

[WARNING] Katastrophaler Hash-Drift in ungeprüften Multi-Turn-Kontexten Das Injizieren dynamischer Zeitstempel, ungeordneter Verzeichnisbäume oder volatiler Shell-Umgebungen in die ersten 1.000 Tokens invalidiert die gesamte nachgelagerte KV-Cache-Kette. In einem Kontextfenster von 64.000 Tokens führt diese strukturelle Fehlausrichtung zu einer unmittelbaren 900%igen Kostenstrafe, da die Inferenz von der gecachten Rate von 0,014 $/1M Tokens direkt auf die ungecachte Forward-Pass-Baseline von 0,14 $/1M Tokens für jeden nachfolgenden Austausch zurückfällt.

KV-Cache-Invalidierung vs. Alignment-Benchmark (64k Kontextfenster, DeepSeek-V3 Engine)

• Präfix-Standardisierung: Fixierung unveränderlicher System-Prompts, Shell-Schemas und Workspace-Manifeste in deterministischen, an 64 Tokens ausgerichteten Slots.
• AST-stabilisierte Serialisierung: Deterministisches Sortieren von Repository-Dateibäumen nach kanonischem Pfad statt nach Änderungszeitstempeln des Dateisystems, um Hash-Drift zu verhindern.
• Ephemere Suffix-Trennung: Weiterleitung von Tool-Ausführungsausgaben, Testprotokollen und Benutzerabfragen ausschließlich an das dynamische Kontextende.
• Lokale Protokolladaption: Native Übersetzung proprietärer Anthropic-Payload-Strukturen in standardisierte DeepSeek-Completions auf Loopback-Schnittstellen.

---

4. Code-Datenschutz & Security-Härtung auf Enterprise-Niveau

Das Speichern von Klartext-Anmeldedaten in Konfigurationsdateien wie ~/.config oder globalen Shell-Profilen stellt einen direkten Angriffsvektor für lokale Rechteausweitung und Credential-Exfiltration dar. Gehärtete Agentenarchitekturen isolieren sensible API-Tokens in nativen kryptografischen Enklaven und rufen direkt die macOS Keychain Services API oder die Linux Secret Service D-Bus-Spezifikation auf. Dieser Mechanismus stellt sicher, dass Anmeldedaten während der aktiven Ausführung ausschließlich in flüchtige, geschützte Speichersegmente entschlüsselt werden. Dies verhindert forensische Analysen auf statischen Datenträgern und neutralisiert Credential-Lecks durch versehentliche Repository-Commits vollständig.

Unüberwachte Workflows leiten interne Dateihierarchien, AST-Strukturen und proprietäre Codefragmente routinemäßig über Hintergrund-Telemetrie weiter. Das Routing von Terminal-Agenten über einen lokalen, speicherinternen Loopback-Proxy – wie ihn die Unchained Code Platform bereitstellt – erzwingt eine strikte Datenkapselung auf 127.0.0.1. Das Loopback-Gateway filtert ausgehende Hersteller-Telemetrie heraus, prüft Socket-Ziele rigoros und führt Protokollübersetzungen durch, ohne unverschlüsselten Kontext auf externe Persistenzvolumes zu schreiben.

Unternehmens-Governance verlangt eine strikte Ausrichtung an den SOC 2 Type II Trust Services Criteria (CC6.1, CC6.7) sowie den Sicherheitsanforderungen von DSGVO Artikel 32. Wenn Workflows gehashten Codebase-Kontext an externe Inferenz-Endpunkte übertragen, ist eine kryptografische Transportisolation unverzichtbar. Das Erzwingen nachgelagerter Zero-Data-Retention (ZDR)-Header und das Bereinigen personenbezogener Daten aus Git-Commit-Trees stellt sicher, dass ephemere Inferenzsitzungen keinen forensischen Fußabdruck auf externen Clustern hinterlassen.

[WARNING] Regulatorische Haftung & Verlust von Geschäftsgeheimnissen Die Übertragung unbereinigten proprietären AST-Kontexts an externe Inferenzanbieter ohne vertraglich zugesicherte Zero-Data-Retention (ZDR)-Flags löst unmittelbare Haftungsrisiken gemäß DSGVO Artikel 83(5) aus (Geldbußen bis zu 20.000.000 € oder 4 % des weltweiten Jahresumsatzes). Zudem führt der Abfluss unverschlüsselten Codes in öffentliche Modell-Trainingswarteschlangen zum dauerhaften Verlust des Schutzes als Geschäftsgeheimnis unter dem US Defend Trade Secrets Act (18 U.S.C. § 1836) sowie dem deutschen GeschGehG, da angemessene Geheimhaltungsmaßnahmen nicht erfüllt wurden.

Vergleich von Enterprise-Datenschutz- & Sicherheitsmodellen

• Binden Sie Netzwerkadapter von Agenten strikt an Localhost-Loopback-Schnittstellen (127.0.0.1) mit benutzerdefinierter TLS-Proxy-Interzeption, um Hintergrund-Telemetrie zu eliminieren.
• Delegieren Sie die API-Key-Auflösung direkt an hardwaregestützte System-Keychains, um Klartext-Tokens aus Benutzerverzeichnissen zu verbannen.
• Bereinigen Sie interne Infrastrukturpfade, Git-Committer-E-Mails und sensible Umgebungsvariablen vor der AST-Kontextassemblierung, um die Konformität mit DSGVO Artikel 25 sicherzustellen.
• Setzen Sie vertragliche Zero-Data-Retention (ZDR)-Flags bei nachgelagerten Providern durch, damit keine ephemeren Inferenz-Tokens auf Rechenknoten Dritter persistiert werden.

---

5. Das vollständige Runbook: In 60 Sekunden vom Start zum autonomen lokalen Stack

Das Ablösen proprietärer Abonnement-Engpässe erfordert eine kompromisslose Abfolge: Kompilieren Sie den lokalen Daemon, sichern Sie die Anmeldedaten in OS-nativen Keychains und leiten Sie den Netzwerkverkehr der Agenten auf Loopback-Schnittstellen um. Indem lokale Terminal-Agenten an einen Emulations-Proxy gebunden werden, umgehen Entwickler den hardcodierten Lock-in von Claude Code an die direkte Anthropic-Abrechnung und nutzen die Architektur der Unchained Code Platform für die sofortige Ausführung. Diese Konfiguration konvertiert ausgehende JSON-RPC-Payloads dynamisch zwischen Anthropic-/v1/messages- und OpenAI-kompatiblen API-Schemas, ohne dass Änderungen an der Codebasis erforderlich sind.

Die Initialisierung der Hardware-Sockets erfolgt mit einer Loopback-Latenz von unter 5 ms, wodurch externer Telemetrie-Overhead entfällt. Über eine Zero-Markup-BYOK-Architektur leitet der Daemon AST-Payloads direkt an Endpunkte von DeepSeek-V3 und Qwen 2.5 Coder weiter. Dies sichert effektive Verarbeitungsraten von bis zu 0,014 $ pro 1M gecachten Input-Tokens im Vergleich zum rigiden Tarif von Claude 3.7 Sonnet von 3,75 $ pro 1M Cache-Writes (3,00 $ pro 1M Basis-Input). Wie unsere Analyse zur Ökonomie von KI-Coding-Agenten zeigt, erschließt eine souveräne Routing-Schicht systemische Kostensenkungen von über 90 % bei langanhaltenden Refactoring-Schleifen.

Die Terminal-Inspektion bestätigt die aktive KV-Cache-Retention innerhalb von Sekunden nach dem Deployment. Das Ausführen von Hintergrundtelemetrie über das Unchained Energy Ledger ($E_u) validiert die Echtzeit-Token-Arbitrage und visualisiert exakte Cache-Hit-Raten, Input-Token-Amortisation und Dispatch-Latenzen im Millisekundenbereich über jede Iteration hinweg. Der Loopback stellt eine strikte Isolation der Anmeldedaten her, sodass rohe Provider-Tokens niemals externe Orchestratoren oder proprietäre Telemetrie-Silos berühren.

[WARNING] Arbitrage-Warnung: Versteckte Kosten geschlossener Terminal-Agenten Das direkte Routing von Claude Code an Anthropic-API-Endpunkte verbrennt bei intensiven dateiübergreifenden Refactoring-Schleifen 18,75 bis 45,00 $ pro Stunde, da wiederholte Kontextaufnahmen ohne Rabatt abgerechnet werden. Das Abfangen desselben Datenverkehrs über lokale Emulation zu DeepSeek-V3 komprimiert die Ausgaben auf 0,42 bis 1,20 $ pro Stunde. Dies erzielt ein unmittelbares Einsparpotenzial von 96,8 % bei voller Parität bei komplexen AST-Generierungsaufgaben.

Performance der Proxy-Routing-Schicht & Ausführungs-Telemetrie

• Phase 1: Installieren Sie das lokale Unchained-Proxy-Binary über einen Einzeiler via curl oder cargo install und binden Sie den System-Daemon an http://127.0.0.1:8080.
• Phase 2: Konfigurieren Sie API-Schlüssel über unchained auth set deepseek --secure, wodurch Anmeldedaten in der OS-nativen Keychain unter AES-256 GCM-Verschlüsselung isoliert werden.
• Phase 3: Exportieren Sie die Umgebungs-Variablen des Agenten (ANTHROPIC_BASE_URL, OPENAI_BASE_URL), die auf den Loopback-Socket http://127.0.0.1:8080/v1 verweisen, um den Wire-Traffic abzufangen.
• Phase 4: Starten Sie autonome Multi-Turn-Refactor-Sitzungen und überwachen Sie Live-KV-Cache-Hit-Counter sowie Kostenreduktionen von über 80 % via unchained logs --watch.

---

Häufig gestellte Fragen (FAQ)

Wie handhabt DeepSeek die KV-Cache-Invalidierung, wenn sich System-Prompts zwischen Turns ändern?

DeepSeek invalidiert alle gecachten Key-Value-Tensoren strikt stromabwärts ab dem ersten modifizierten Token. Das Ändern dynamischer System-Prompts, Zeitstempel oder volatiler Metadaten am Anfang des Prompts erzwingt einen vollständigen Cache-Miss zu 0,14 $ pro 1M Tokens statt des gecachten Tarifs von 0,014 $. Das Beibehalten identischer statischer Präfixblöcke garantiert Prompt-Cache-Hits und senkt die Time-to-First-Token-Latenz bei intensiven 40-Turn-Refactoring-Schleifen von 2.840 ms auf 380 ms.

Warum explodieren die Rechnungen für KI-Coding-Agenten in großen Monorepos ohne Prefix Alignment?

Nicht aufeinander abgestimmte Monorepo-Dateibäume führen zu einer nicht-deterministischen Kontextassemblierung, wodurch KV-Caches bei dateiübergreifenden Operationen fortlaufend zurückgesetzt werden. Jedes willkürliche Traversieren von Dateien zwingt die Engine dazu, den gesamten Codebase-Kontext zu ungecachten Miss-Raten (0,14 $/1M Tokens) neu zu verarbeiten. Neben ausufernden finanziellen Kosten löst dieses kontinuierliche Cache-Thrashing eine massive Time-to-First-Token-(TTFT)-Latenzexplosion aus – von 380 ms auf über 2.840 ms bei 64k-Token-Payloads –, was interaktive Refactoring-Schleifen von Agenten lahmlegt.

Kann ich Prompt-Cache-Hits auf DeepSeek-V3 erzwingen, indem ich die AST- und Git-Diff-Serialisierung standardisiere?

Ja. Die Durchsetzung kanonischer Serialisierungsreihenfolgen für Abstract Syntax Trees und eine deterministische Git-Diff-Formatierung stellen ein Byte für Byte identisches Token-Präfix über Konversationsturns hinweg sicher. Diese architektonische Disziplin sichert eine kontinuierliche Cache-Hit-Rate von 88,6 % über Multi-File-Repositories hinweg, erschließt einen Rabatt von 90 % auf die marginalen Input-Kosten bei 0,014 $ pro 1M Tokens und senkt die Kosten für die Behebung von Fehlern in SWE-bench Verified von 4,82 $ auf 0,38 $ pro Aufgabe.

Welcher genaue Token-Schwellenwert und welche Ausrichtungsgrenze sind für DeepSeek Prompt Caching erforderlich?

Das DeepSeek Prompt Caching aktiviert sich automatisch, sobald ein identisches Token-Präfix mit den Blockgrenzen auf Systemebene übereinstimmt, was typischerweise mindestens 64 bis 128 Präfix-Tokens erfordert. Sobald diese ausgerichtet sind, werden gecachte Tokens mit 0,014 $ pro 1M Tokens anstelle von 0,14 $ pro 1M abgerechnet. In 64k-Token-Agenten-Kontextschleifen senkt die kontinuierliche Ausrichtung an Präfixgrenzen die Time-to-First-Token-Latenz von 2.840 ms auf 380 ms, während über Sitzungen hinweg eine nachhaltige Cache-Hit-Rate von bis zu 88,6 % aufrechterhalten wird.