Fix line endings in wiki docs
Co-Authored-By: Claude Opus 4.5 <noreply@anthropic.com>
This commit is contained in:
parent
03516bb9f7
commit
3a128d4d1f
3 changed files with 17 additions and 17 deletions
|
|
@ -6,17 +6,17 @@ The LLM Router provides a unified interface for language model calls. Agents req
|
||||||
|
|
||||||
```
|
```
|
||||||
┌─────────────────────────────────────────────────────────────────┐
|
┌─────────────────────────────────────────────────────────────────┐
|
||||||
│ Agent Handler │
|
│ Agent Handler │
|
||||||
│ response = await complete("grok-4.1", messages) │
|
│ response = await complete("grok-4.1", messages) │
|
||||||
└─────────────────────────────────┬───────────────────────────────┘
|
└─────────────────────────────────┬───────────────────────────────┘
|
||||||
│
|
│
|
||||||
▼
|
▼
|
||||||
┌─────────────────────────────────────────────────────────────────┐
|
┌─────────────────────────────────────────────────────────────────┐
|
||||||
│ LLM Router │
|
│ LLM Router │
|
||||||
│ • Find backends serving model │
|
│ • Find backends serving model │
|
||||||
│ • Select backend (strategy) │
|
│ • Select backend (strategy) │
|
||||||
│ • Retry on failure │
|
│ • Retry on failure │
|
||||||
│ • Track usage per agent │
|
│ • Track usage per agent │
|
||||||
└────────────┬────────────────┬────────────────┬──────────────────┘
|
└────────────┬────────────────┬────────────────┬──────────────────┘
|
||||||
│ │ │
|
│ │ │
|
||||||
▼ ▼ ▼
|
▼ ▼ ▼
|
||||||
|
|
|
||||||
|
|
@ -28,17 +28,17 @@ await pump.shutdown()
|
||||||
│
|
│
|
||||||
▼
|
▼
|
||||||
┌──────────────────────────────────────────────────────────────┐
|
┌──────────────────────────────────────────────────────────────┐
|
||||||
│ INGRESS PIPELINE │
|
│ INGRESS PIPELINE │
|
||||||
│ │
|
│ │
|
||||||
│ ┌─────────┐ ┌──────┐ ┌──────────┐ ┌─────────────┐ │
|
│ ┌─────────┐ ┌──────┐ ┌──────────┐ ┌─────────────┐ │
|
||||||
│ │ Repair │ → │ C14N │ → │ Envelope │ → │ Payload │ │
|
│ │ Repair │ → │ C14N │ → │ Envelope │ → │ Payload │ │
|
||||||
│ │ Step │ │ Step │ │ Validate │ │ Extraction │ │
|
│ │ Step │ │ Step │ │ Validate │ │ Extraction │ │
|
||||||
│ └─────────┘ └──────┘ └──────────┘ └─────────────┘ │
|
│ └─────────┘ └──────┘ └──────────┘ └─────────────┘ │
|
||||||
│ │
|
│ │
|
||||||
│ ┌──────────┐ ┌─────────┐ ┌─────────────┐ │
|
│ ┌──────────┐ ┌─────────┐ ┌─────────────┐ │
|
||||||
│ │ Thread │ → │ XSD │ → │ Deserialize │ │
|
│ │ Thread │ → │ XSD │ → │ Deserialize │ │
|
||||||
│ │ Assign │ │ Validate│ │ to class │ │
|
│ │ Assign │ │ Validate│ │ to class │ │
|
||||||
│ └──────────┘ └─────────┘ └─────────────┘ │
|
│ └──────────┘ └─────────┘ └─────────────┘ │
|
||||||
│ │
|
│ │
|
||||||
└──────────────────────────────────────────────────────────────┘
|
└──────────────────────────────────────────────────────────────┘
|
||||||
│
|
│
|
||||||
|
|
|
||||||
|
|
@ -223,7 +223,7 @@ For CPU-bound handlers:
|
||||||
|
|
||||||
```
|
```
|
||||||
┌─────────────────────────────────────────────────────────────────┐
|
┌─────────────────────────────────────────────────────────────────┐
|
||||||
│ Main Process (StreamPump) │
|
│ Main Process (StreamPump) │
|
||||||
│ - Ingress pipeline │
|
│ - Ingress pipeline │
|
||||||
│ - Routing decisions │
|
│ - Routing decisions │
|
||||||
│ - Response re-injection │
|
│ - Response re-injection │
|
||||||
|
|
@ -240,7 +240,7 @@ For CPU-bound handlers:
|
||||||
└─────────────────┼──────────────────┘
|
└─────────────────┼──────────────────┘
|
||||||
▼
|
▼
|
||||||
┌─────────────────────────────────────────────────────────────────┐
|
┌─────────────────────────────────────────────────────────────────┐
|
||||||
│ Shared Backend (Redis / Manager / Memory) │
|
│ Shared Backend (Redis / Manager / Memory) │
|
||||||
│ - Context buffer slots │
|
│ - Context buffer slots │
|
||||||
│ - Thread registry mappings │
|
│ - Thread registry mappings │
|
||||||
└─────────────────────────────────────────────────────────────────┘
|
└─────────────────────────────────────────────────────────────────┘
|
||||||
|
|
|
||||||
Loading…
Reference in a new issue