diff options
| author | Paul Buetow <paul@buetow.org> | 2026-03-21 15:38:25 +0200 |
|---|---|---|
| committer | Paul Buetow <paul@buetow.org> | 2026-03-21 15:38:25 +0200 |
| commit | 680ab42a7bd1eba9ba1c89471e5e1a278b628f14 (patch) | |
| tree | b297339ba54f78016a6adf005c4114e30d9ebcdb | |
| parent | 9fc3b3cdc9354caffd9256d1f2a59bd566500a03 (diff) | |
Update architecture diagram: tmux + FreeBSD bhyve isolation layer
Both Pi sessions now shown inside a tmux session, which runs inside a
FreeBSD bhyve VM on a FreeBSD physical host (earth). Reflects the actual
isolation setup: FreeBSD host → bhyve VM → tmux → pi windows.
Co-Authored-By: Claude Sonnet 4.6 <noreply@anthropic.com>
| -rw-r--r-- | README.md | 57 |
1 files changed, 33 insertions, 24 deletions
@@ -8,30 +8,39 @@ Runs two A100 VMs concurrently — each serving a different model — with [Pi]( ## Architecture ``` - earth (local machine) - 192.168.3.2 / wg1 - ┌──────────────────────────────────────────────────────────────────┐ - │ │ - │ ┌─────────────┐ ┌─────────────┐ │ - │ │ Pi │ │ Pi │ │ - │ │ Nemotron 3 │ │ Qwen3 Coder │ │ - │ └──────┬──────┘ └──────┬──────┘ │ - │ │ OpenAI API │ OpenAI API │ - │ │ /v1/chat/completions │ /v1/chat/completions │ - └─────────┼────────────────────────┼──────────────────────────────-┘ - │ WireGuard wg1 │ WireGuard wg1 - │ 192.168.3.0/24 │ 192.168.3.0/24 - │ UDP :56710 │ UDP :56710 - ▼ ▼ - ┌──────────────────────┐ ┌──────────────────────┐ - │ VM1 (A100 80GB) │ │ VM2 (A100 80GB) │ - │ 192.168.3.1 │ │ 192.168.3.3 │ - │ hyperstack1.wg1 │ │ hyperstack2.wg1 │ - │ │ │ │ - │ vLLM :11434 │ │ vLLM :11434 │ - │ Nemotron-3-Super 120B│ │ Qwen3-Coder-Next 80B │ - │ (Mamba+MoE, AWQ-4b) │ │ (MoE, AWQ-4bit) │ - └──────────────────────┘ └──────────────────────┘ + FreeBSD physical host (earth) + ┌─────────────────────────────────────────────────────────────────────────┐ + │ │ + │ FreeBSD bhyve VM (isolation layer) 192.168.3.2 / wg1 │ + │ ┌───────────────────────────────────────────────────────────────────┐ │ + │ │ │ │ + │ │ tmux session │ │ + │ │ ┌─────────────────────────────────────────────────────────────┐ │ │ + │ │ │ │ │ │ + │ │ │ window 0: pi-nemotron window 1: pi-coder │ │ │ + │ │ │ ┌──────────────────┐ ┌──────────────────┐ │ │ │ + │ │ │ │ Pi │ │ Pi │ │ │ │ + │ │ │ │ Nemotron-3-Super │ │ Qwen3-Coder-Next │ │ │ │ + │ │ │ └────────┬─────────┘ └────────┬─────────┘ │ │ │ + │ │ │ │ OpenAI API │ OpenAI API │ │ │ + │ │ │ │ /v1/chat/completions │ /v1/chat/completions│ │ │ + │ │ └───────────┼──────────────────────────┼────────────────────-┘ │ │ + │ │ │ │ │ │ + │ └──────────────┼───────────────────────────┼────────────────────────┘ │ + │ │ WireGuard wg1 │ WireGuard wg1 │ + └─────────────────┼───────────────────────────┼───────────────────────────┘ + │ 192.168.3.0/24 │ 192.168.3.0/24 + │ UDP :56710 │ UDP :56710 + ▼ ▼ + ┌──────────────────────────┐ ┌──────────────────────────┐ + │ VM1 (A100 80GB) │ │ VM2 (A100 80GB) │ + │ 192.168.3.1 │ │ 192.168.3.3 │ + │ hyperstack1.wg1 │ │ hyperstack2.wg1 │ + │ │ │ │ + │ vLLM :11434 │ │ vLLM :11434 │ + │ Nemotron-3-Super 120B │ │ Qwen3-Coder-Next 80B │ + │ (Mamba+MoE, AWQ-4bit) │ │ (MoE, AWQ-4bit) │ + └──────────────────────────┘ └──────────────────────────┘ ``` **WireGuard topology:** |