Lab
LabExperten-Level

AMD Strix Halo vs. NVIDIA DGX Spark vs. Apple Mac Studio: Die 128-GB-Realität für lokale KI

128 GB+ Unified-Memory-Workstations im ehrlichen Vergleich: Framework Desktop & Minisforum MS-S1 Max (Strix Halo) vs. NVIDIA DGX Spark vs. Apple Mac Studio M5 Max/Ultra.

Titelbild: AMD Strix Halo vs. NVIDIA DGX Spark vs. Apple Mac Studio: Die 128-GB-Realität für lokale KI
Inhalt

Alle paar Monate verfestigt sich bei lokaler KI-Hardware dasselbe Klischee — und dann sprengt ein neuer Speicherbus die Rechnung. Ende 2026 dreht sich das Duell um 128 GB+ Unified Memory auf dem Schreibtisch um drei Systeme: AMD Strix Halo (Ryzen AI Max+ 395), NVIDIA DGX Spark (GB10) und Apples im August 2026 aktualisierten Mac Studio (M5 Max / M5 Ultra).

Viele Vergleiche im Netz zitieren noch veraltete M4-Max-/M3-Ultra-Tabellen oder bleiben bei Marketing-Floskeln („Apple hat Bandbreite, NVIDIA hat CUDA, AMD ist günstiger“). Entscheidend sind aber die harten Engineering-Details: wie sich MoE- vs. Dense-Modelle auf einem 256-Bit-Bus verhalten, warum Strix Halo unter ROCm bei 64k–128k Kontext einbrechen kann, und was 24/7-Stromkosten in Europa über drei Jahre ausmachen.

AMD Strix Halo vs NVIDIA DGX Spark vs Apple Mac Studio: 128 GB+ Unified Memory und lokale KI-Kompromisse

Die drei Kontrahenten im November 2026

Anders als bei diskreten GPUs — wo etwa eine RTX 5090 mit ~1.792 GB/s rennt, bis sie hart an der 32-GB-VRAM-Grenze scheitert — teilen sich CPU und GPU bei allen drei Desktop-Systemen denselben großen Speicherpool. Diese Architektur bestimmt, welche Modelle überhaupt laden, wie schnell sie antworten und welcher Software-Stack trägt.

Die drei Kontrahenten im November 2026
Spezifikation AMD Strix Halo (Ryzen AI Max+ 395) NVIDIA DGX Spark (GB10) Apple Mac Studio (M5 Max / M5 Ultra)
CPU + GPU 16-Core Zen 5 + Radeon 8060S (40 CUs, RDNA 3.5) 20-Core Armv9 + Blackwell GPU (1.000 TOPS FP4) 18-Core + 32/40-Core GPU (Max) · 30–36-Core + 64/80-Core GPU (Ultra)
Unified Memory 128 GB LPDDR5x-8000 (bis 96 GB BIOS-VGM) 128 GB kohärenter LPDDR5x 36–128 GB (Max) · 96–512 GB (Ultra)
Speicherbandbreite ~215–256 GB/s (256-Bit-Bus) 273 GB/s (256-Bit-Bus) 460 / 614 GB/s (Max) · 1,2 TB/s (Ultra)
Netzwerk / I/O 2,5GbE (Framework/EVO-X2) bzw. Dual-10GbE + PCIe x16 (MS-S1 Max) 200 Gb/s ConnectX-7 RDMA (2-Knoten-Cluster) Thunderbolt 5, 10GbE, Wi-Fi 7
Software-Stack x86_64 Linux / Windows · ROCm, Vulkan, llama.cpp DGX OS (Arm Linux) · natives CUDA, vLLM, TensorRT-LLM macOS · MLX, Metal, llama.cpp
Idle-Verbrauch ~30 W ~45 W ~9 W
Einstiegspreis 2026 (128 GB) ~1.999–2.499 $ (Framework / MS-S1 Max) 4.699 $ UVP (Handel bis 6.950 $) ~3.899–4.099 $ (M5 Max) · 5.499 $+ (M5 Ultra ab 96 GB)

Die konkreten Geräte im Detail

Strix Halo ist kein einzelnes Gerät, sondern steckt in drei unterschiedlichen Formfaktoren:

  • Framework Desktop (~1.999 $ Basis für 128 GB): Modulares 4,5-Liter-Mini-ITX-Gehäuse mit zwei M.2-NVMe-Slots und sauberer Linux-Unterstützung.
  • GMKtec EVO-X2 (~2.199–3.499 $): Kompakter Mini-PC mit vorinstalliertem Windows 11 Pro.
  • Minisforum MS-S1 Max (~2.499 $): Etwas größere Mini-Workstation mit Dual-10GbE-Ports und physischem PCIe-x16-Slot — besonders spannend für Homelab-Cluster und schnelle NAS-Anbindung.
AMD Ryzen AI Halo Referenz-Desktop mit Ryzen AI Max+ 395 Strix Halo und 128 GB Unified Memory
AMD Ryzen AI Halo (Strix Halo / Ryzen AI Max+ 395): 128 GB LPDDR5x Unified Memory für natives x86_64-Linux und Windows. Bildnachweis: AMD.

Auf NVIDIA-Seite bleibt der DGX Spark das kompakteste schlüsselfertige CUDA-System der 128-GB-Klasse. Wie in unserer technischen Analyse zum NVIDIA DGX Spark gezeigt, hat NVIDIA den 273-GB/s-Bus bewusst begrenzt, um 1 PFLOP Sparse-FP4-Leistung und 200-Gb/s-ConnectX-7-RDMA in einem 150 × 150 mm-Würfel (~140 W SoC-TDP) unterzubringen.

NVIDIA DGX Spark kompakte Workstation im Gold-Mesh-Gehäuse neben einem Laptop
NVIDIA DGX Spark: 128 GB kohärenter LPDDR5x, natives CUDA/TensorRT-LLM und 200-Gb/s-ConnectX-7-RDMA im 1,2-kg-Gehäuse. Bildnachweis: NVIDIA.

Apples Mac-Studio-Update vom August 2026 hat einen M4 Ultra komplett übersprungen und direkt auf M5 Max (460 GB/s bzw. 614 GB/s mit 40-Core-GPU) und M5 Ultra (1,2 TB/s, bis 512 GB Unified Memory) umgestellt. Neu sind Neural Accelerators direkt in den GPU-Kernen, was den früheren Nachteil beim Prompt-Prefill deutlich reduziert.

Apple Mac Studio Desktop-Workstation mit M5 Max und M5 Ultra Unified Memory
Apple Mac Studio (M5 Max / M5 Ultra, August 2026): 614 GB/s bis 1,2 TB/s Bandbreite und ~9 W Leerlaufverbrauch, gebunden an macOS und MLX. Bildnachweis: Apple.

Decode-Geschwindigkeit: Warum 70B Dense bremst und MoE fliegt

Die Token-Generierung für einen einzelnen Nutzer (Decode) ist durch die Speicherbandbreite limitiert: Für jedes neue Token muss die GPU alle aktiven Modellgewichte aus dem RAM lesen. Wie Quantisierung den Speicherbedarf reduziert, erklärt unser Leitfaden zur Quantisierung auf Consumer-Hardware.

Roofline-Decode-Limit ≈ Speicherbandbreite (GB/s) ÷ Aktive_Modellgröße (GB)

Rechnet man das für ein klassisches 70B-Dense-Modell in Q4_K_M (~40,5 GB aktiv pro Token) durch:

  • Strix Halo (~256 GB/s): theoretisches Maximum ~6,3 tok/s → ~5,0 tok/s in veröffentlichten llama.cpp-Messungen.
  • DGX Spark (273 GB/s): theoretisches Maximum ~6,8 tok/s → ~4,7 tok/s in llama.cpp (~2,7–3,0 tok/s in FP8 vLLM).
  • Mac Studio M5 Max (614 GB/s) / M5 Ultra (1,2 TB/s): 2,2- bis 4,4-mal breiterer Bus → ~11,5–13+ tok/s auf dem M5 Max und 20+ tok/s auf dem M5 Ultra.

Wechselt man dagegen auf Mixture-of-Experts-(MoE)-Modelle wie Qwen3-30B-A3B (~3B aktive Parameter pro Token) oder 120B-MXFP4/NVFP4-MoE, bleiben zwar alle Experten im 128-GB-RAM, aber pro Token fließt nur ein Bruchteil über den Bus:

  • 30B MoE: Strix Halo erreicht ~72–75 tok/s; DGX Spark liegt ohne FP4-Pfad bei ~35–44 tok/s; der Mac Studio M5 Ultra überschreitet 100+ tok/s.
  • 120B MoE (MXFP4 / NVFP4): Strix Halo liefert ~31 tok/s; der DGX Spark zieht dank nativer Blackwell-NVFP4-Tensor-Cores auf ~41 tok/s davon.
Decode-Geschwindigkeit vs. Einstiegspreis pro GB für AMD Strix Halo, NVIDIA DGX Spark und Apple Mac Studio M5
Veröffentlichte Single-Stream-Decode-Raten und 128-GB-Einstiegspreis pro Gigabyte für Dense- und MoE-Modelle.

Architektur-Fallen: BIOS-VGM, der ROCm-Kontext-Einbruch und CUDA

Datenblätter verschweigen die Praxisprobleme bei 32k bis 128k Kontext. Genau dort entscheidet der Treiber-Stack über flüssiges Arbeiten oder Frust.

Unified-Memory-Architektur im Vergleich: Strix Halo BIOS-VGM und ROCm-Kontext-Einbruch vs. DGX Spark NVLink-C2C und Apple UltraFusion
Unterschiede bei Speicherzuteilung und Treiberreife zwischen AMD Strix Halo, NVIDIA DGX Spark und Apple Mac Studio M5.

1. Der 64k–128k-ROCm-Einbruch bei Strix Halo

Strix Halo weist den 128-GB-Pool über Variable Graphics Memory (VGM) im BIOS zu — bis zu 96 GB exklusiv für die Radeon 8060S iGPU, während 32 GB beim System bleiben.

Nutzer in r/LocalLLaMA haben dabei einen kritischen Engpass dokumentiert: Wenn VGM auf 96 GB ausgereizt wird und die Kontextlänge unter ROCm in llama.cpp auf 64k–128k Tokens steigt, kann der KV-Cache in Host-UMA-Speicherseiten überlaufen — mit einem abrupten Einbruch der Token-Rate. Community-Benchmarks mit llama.cpp auf Strix Halo (gfx1151) zeigen zudem eine klare Arbeitsteilung zwischen Vulkan (RADV) und getuntem ROCm:

1. Der 64k–128k-ROCm-Einbruch bei Strix Halo
llama.cpp-Backend (Strix Halo gfx1151) Prompt-Prefill (TTFT) Token-Decode (tg/s) Stabilität & Setup
ROCm / HIP (ROCBLAS_USE_HIPBLASLT=1 + rocWMMA) +28 % bis +42 %+ schneller Konkurrenzfähig Empfindlich bei ROCm-/LLD-Versionen & 96-GB-UMA-Spill
Vulkan (RADV) Solide Basis +10 % bis +19 % schneller Plug-and-play mit Mesa; umgeht den ROCm-UMA-Einbruch

Daraus ergeben sich zwei klare Praxisregeln:

  • Vulkan (RADV) für interaktiven Chat, Coding-Bursts und stabile Long-Context-Sessions ohne ROCm-Feintuning;
  • Getuntes ROCm, wenn großes Prompt-Einlesen (lange RAG-Dokumente oder ganze Codebases) Ihre Latenz dominiert.

2. Wann sich der doppelte Preis des DGX Spark rechnet

Bei 4.699 $ UVP (~36,7 $/GB gegenüber ~15,6 $/GB beim 128-GB-Framework-Desktop) lohnt sich der DGX Spark nicht für reines Experimentieren. Seine Stärke liegt in reibungsloser Engineering-Parität:

  • Natives CUDA + vLLM + TensorRT-LLM: Derselbe Inference-Stack wie auf Cloud-L4/H100/B200-GPUs läuft ohne ROCm-Workarounds.
  • Compute-gebundener Prefill: Das Einlesen eines großen Code-Repositorys (64k+ Tokens) ist rechen- und nicht speicherlimitiert — hier drücken Blackwells 1-PFLOP-FP4-Cores den Prefill auf 800–1.000+ tok/s.
  • 200-Gb/s-ConnectX-7-RDMA: Zwei DGX Spark per QSFP-Kabel direkt gekoppelt ergeben einen 256-GB-Cluster für quantisierte 405B-Modelle.

3. Apple Mac Studio M5: Leise Rohgewalt ohne CUDA

Wer mit MLX, llama.cpp oder LM Studio arbeitet, bekommt mit dem M5 Max (614 GB/s) und M5 Ultra (1,2 TB/s, bis 512 GB) die mit Abstand höchste Geschwindigkeit bei großen Dense-Modellen. Der Preis dafür ist strukturell: kein CUDA, keine nativen x86-Linux-Container und hohe Aufpreise für 256-GB-/512-GB-Ausbaustufen.

TCO in Europa: Leerlauf-Watt zählen bei 0,32 €/kWh

Testberichte messen meist nur Spitzenlast, dabei verbringt eine Entwickler-Workstation 80–90 % einer 24/7-Woche im Leerlauf. Bei typischen europäischen Strompreisen von 0,32 €/kWh summiert sich der Unterschied:

  • Mac Studio M5 (~9 W Idle): ~79 kWh/Jahr → ~25 €/Jahr (praktisch unhörbar).
  • AMD Strix Halo Mini-PC (~30 W Idle): ~263 kWh/Jahr → ~84 €/Jahr (~3,3× Mac-Idle, aber ~50 % geringere Anschaffungskosten als DGX Spark).
  • NVIDIA DGX Spark (~45 W Idle): ~394 kWh/Jahr → ~126 €/Jahr.
Europäische TCO bei 0,32 €/kWh Leerlaufkosten und Entscheidungsmatrix für 128-GB+-Workstations
Jährliche Leerlauf-Stromkosten in Europa und klare Kaufkriterien für Strix Halo, DGX Spark und Mac Studio M5.

Entscheidungsmatrix: Welches 128-GB+-System passt zu wem?

  1. AMD Strix Halo (Framework Desktop oder Minisforum MS-S1 Max) wählen, wenn Sie 128 GB unter 2.500 $ wollen, vor allem MoE-Modelle (30B–120B) nutzen und natives x86_64-Linux brauchen (inklusive Dual-10GbE und PCIe-Slot beim MS-S1 Max für Homelab/NAS) — und bereit sind, bei 64k+ Kontext auf Vulkan statt ROCm zu setzen.
  2. NVIDIA DGX Spark wählen, wenn Ihr Stack zwingend natives CUDA / vLLM / TensorRT-LLM verlangt, Sie schnellen Long-Context-Prefill für Coding-Agents brauchen oder ein 256-GB-RDMA-Cluster über ConnectX-7 planen.
  3. Apple Mac Studio (M5 Max / M5 Ultra) wählen, wenn Sie täglich 70B+-Dense-Modelle fahren, 256–512 GB in einem leisen Gehäuse benötigen, ~9 W Leerlauf schätzen und im macOS-/MLX-Ökosystem zu Hause sind.

Persönliche Einschätzung: Warum ich zuerst AMD Strix Halo testen würde

Wenn ich mir heute mit eigenem Budget eine 128-GB-Workstation für mein Homelab aussuchen müsste, würde ich zuerst zu AMD Strix Halo greifen — konkret als Framework Desktop oder Minisforum MS-S1 Max. Für rund 1.999–2.499 $ bekommt man 128 GB Unified Memory in einer normalen x86_64-Linux-Umgebung zum halben Preis eines DGX Spark (4.699 $), ohne sich an macOS zu binden. Natürlich kriechen dichte 70B-Modelle bei ~5 tok/s und man muss bei langen Kontexten zwischen Vulkan und ROCm abwägen — aber für 30B–120B-MoE-Coding-Modelle, lokale Agenten und Docker-Dienste parallel bietet Strix Halo das stärkste Verhältnis aus Freiheit und Preis pro Gigabyte.

Fazit

  • Speicherkapazität bestimmt, was lädt; Speicherbandbreite bestimmt das Tempo dichter Modelle; MoE-Architekturen holen aus 256–273 GB/s ein Vielfaches heraus.
  • Strix Halo ist der Preis-Leistungs-Disruptor Ende 2026 (~15,6–19,5 $/GB) und halbiert den Einstieg in die 128-GB-Klasse.
  • DGX Spark gewinnt bei CUDA-Parität, FP4-Prefill und ConnectX-7-Clustering, nicht beim reinen Single-User-Decode.
  • Mac Studio M5 gewinnt bei Bandbreite (614 GB/s–1,2 TB/s), 512-GB-Ausbau und 9-W-Effizienz, bleibt aber an macOS gebunden.

Häufig gestellte Fragen

Ist AMD Strix Halo schneller als NVIDIA DGX Spark für lokale LLMs?

Die reine Speicherbandbreite ist nahezu identisch (~256 GB/s bei Strix Halo vs. 273 GB/s beim DGX Spark), sodass die Decode-Rate bei 70B-Dense-Modellen fast gleichauf liegt (~4,7 bis 5,0 tok/s). Strix Halo liegt bei 30B-MoE-Modellen in llama.cpp oft vorn (~72–75 tok/s) und kostet rund die Hälfte; der DGX Spark punktet mit NVFP4-Tensor-Prefill (800–1.000+ tok/s), nativem CUDA und 200-Gb/s-ConnectX-7-Clustering.

Welcher 128-GB-Strix-Halo-Rechner lohnt sich am meisten: Framework Desktop, GMKtec EVO-X2 oder Minisforum MS-S1 Max?

Der Framework Desktop (~1.999 $ Basis) ist ideal für modulare Mini-ITX-Linux-Builds; der GMKtec EVO-X2 (~2.199–3.499 $) richtet sich an schlüsselfertige Windows-11-Pro-Setups; der Minisforum MS-S1 Max (~2.499 $) sticht für Homelab- und Cluster-Builds durch Dual-10GbE und einen physischen PCIe-x16-Slot hervor.

Warum schlägt der Mac Studio M5 beide Konkurrenten bei Dense-Modellen?

Im August 2026 hat Apple den Mac Studio auf M5 Max (460 bzw. 614 GB/s) und M5 Ultra (1,2 TB/s, bis 512 GB Unified Memory) inklusive Neural Accelerators direkt in den GPU-Kernen aktualisiert. Da Single-User-Decode durch die Speicherbandbreite begrenzt ist, streamt der 614-GB/s- bis 1,2-TB/s-Bus dichte Gewichte 2,2- bis 4,4-mal schneller.

Was hat es mit dem ROCm-Kontext-Einbruch auf Strix Halo auf sich?

Benchmarks aus der r/LocalLLaMA-Community zeigen, dass llama.cpp unter ROCm bei 96 GB BIOS-VGM und sehr langen Kontexten (64k–128k Tokens) den KV-Cache in Host-UMA-Seiten auslagern kann, wodurch die Token-Rate stark einbricht. Das Vulkan-Backend oder etwas mehr OS-Speicherreserve umgeht dieses Problem.

Wurde für diesen Vergleich physische Hardware getestet?

Nein. Dies ist eine unabhängige technische Analyse auf Basis offizieller Herstellerangaben (AMD, Framework, Minisforum, NVIDIA, Apple), veröffentlichter unabhängiger Benchmarks (llama.cpp, MLX, vLLM) und transparenter Roofline-Berechnungen mit Stand 18. November 2026.

Aus der Community

Diskussion auf Mastodon & Bluesky

Antworten auf diesen Artikel aus dem offenen Netz, live geladen. Keine Werbung, keine Tracking-Skripte.

Antworten werden geladen …
Auf Mastodon antwortenAuf Bluesky antworten

Antworte dort — es erscheint hier automatisch.

ENDE