Ryzen max+ 395/495 (z.B. AMD Halo Developer Platform ) vs NVIDIA DGX Spark vs RTX-PRO-Workstations

IRC-Mania Die Seite rund um Sicherheit und Programmierung

Internet, Sicherheit , Internet Relay Chat

Gesponsert

*Anforderung: TOP DEsktop PC für große LLMs(70b+), Multiagentensysteme und Desktop für ca 3000-5000 Euro.

Wer billig kauft, kauft zweimal ist ein altes Sprichwort und in der Preisklasse, möchte ich dieses nicht verwirklichen.

Daher habe ich mir genau angeschaut, was es bedeutet, wenn ich die Ersparnisse für einen Mini-PC ausgebe, der soviel wie ein guter Gebrauchtwagen kostet, anstatt einen KI-Server / AI -Server zu investieren, der den Preis eines neuen Dacia Dusters hätte.

** In diesem Artikel lasse ich alle “Billig-Mini-PCs aus”**, die ggf. ihre AI-Daseinsberechtigungen haben und konzentriere mich nur auf die obere Top-Schicht. Ich erkläre Dir hier, was bei einem KI-Server und Rechner zu beachten ist und warum die TOPS und FLOPS manchmal keine Bedeutung haben, sondern nur Marketing!

Ich plane gerade den Kauf eines stabilen KI/AI-Homeserver, welchen ich hochskalieren, der große KI-Modelle mühelos ausführen kann und dennoch (für mich) bezahlbar ist.

Aktuell landet man schnell bei dem Ryzen AI Max+ 395 / Ryzen AI Max+ 495 für den Desktop-Einsatz oder der NVIDIA DGX Spark Modellen.

Wenn ihr wie ich Coding-Agenten, RAG-Pipelines oder einfach ein privates 70B+- LLM Modell lokal laufen lassen wollt, ohne jeden Monat eine Cloud-Rechnung zu bekommen, lohnt sich der Blick auf diese neue Geräteklasse. Zeitnah wird das Modell **Ryzen AI Max+ 495 kommen, aber nur mit wenigen Änderungen( siehe unten).

Der Markt für lokale KI-Hardware ist 2026 in Bewegung geraten: Ryzen-AI-Max-Mini-PCs, NVIDIA DGX Spark, klassische Desktop-PCs mit dedizierter GPU und sogar erste Server-Varianten ( Hetzner GEX44) konkurrieren um dieselbe Zielgruppe, nämlich Entwickler/Unternehmen, die 70B-Parameter-Modelle und mehrere KI-Agenten gleichzeitig zu Hause oder im Büro betreiben wollen. Die Preise variieren stark, und Marketing-Zahlen wie TOPS-Angaben sind oft irreführend. Deshalb gehe ich das systematisch durch, mit konkreten Kaufkriterien, Geräten und meiner persönlichen Empfehlung am Ende.

Warum lokale KI-Hardware 2026 überhaupt Sinn ergibt

Aktuell arbeite ich als Anwendungsentwickler für Kanzleien und programmiere derzeit zahlreiche KI-Anwendungen und APIs zu diversen DSGVO konformen Anbietern. Leider stoße ich permanent auf unschöne API-Designs. Zum Beispiel geringe Token-Limits, keine Conversation-History,
APIs hinter Cloudflare-Systemen,die weitere Limits für sich beanspruchen.

Wenn 50 Mitarbeiter gleichzeitig die KI verwenden, dann ist man ersteinmal mit Logging, Analyse und Debugging beschäftigt. Nicht weil es wirkliche Fehler gibt, sondern weil man das API-Design beachten muss.
Wer unseren API Lernpfad: REST, GraphQL, gRPC, Sicherheit und Dokumentation — IRC-Coding kennt, der weiß wie er API-Anfragen an das Limit anpasst: Siehe auch - API Rate Limiting Implementierung

• Rate Limiting und Throttling für APIs

Der Wunsch einer eigenen KI, ohne Tokenlimits, ohne API-Abfragelimits ist extrem hoch und die Kosten können sich innerhalb weniger Monate auch amortisieren

Bevor es um Hardware geht, kurz die Motivation, falls ihr noch unentschlossen seid. Wer regelmäßig Coding-Agenten oder Multi-Agenten-Systeme nutzt, zahlt bei Cloud-Anbietern schnell dreistellige Beträge im Monat. Ein lokaler KI Mini PC mit ausreichend Unified Memory amortisiert sich bei intensiver Nutzung oft innerhalb eines Jahres. Dazu kommen Datenschutz und Datenhoheit, gerade wenn ihr beruflich mit sensiblen Quellcode- oder Kundendaten arbeitet. Dann ist lokale Inferenz oft die einzig praktikable Option, ganz unabhängig von Kostenfragen.

Die Kaufkriterien: Worauf es bei einem Mini-PC für lokale LLMs wirklich ankommt

Ich habe die Bewertung in mehrere Kategorien aufgeteilt. Die Reihenfolge spiegelt ungefähr die Relevanz für den Einsatzzweck Multi-Agenten-Nutzung und 24/7-Betrieb wider.

Wem die Bewertungserklärungen egal sind, kann sofort zur Vergleichstabelle springen

Ich habe bewusst Hardware mit aufgenommen, die geringfügig außerhalb der finanziellen Grenzen waren, damit man einen ordentlichen Vergleich und die “richtige Entscheidung” treffen kann.

1. Speicherbandbreite schlägt TOPS

Der wichtigste und am meisten missverstandene Punkt zuerst. Bei der Token-Generierung eines LLM wird bei jedem einzelnen Token praktisch das gesamte Modell einmal aus dem Speicher gelesen. Die Geschwindigkeit in Tokens pro Sekunde hängt deshalb primär von der Speicherbandbreite ab, ! nicht ! von der theoretischen Rechenleistung. Die oft beworbenen NPU-TOPS-Werte, zum Beispiel “126 TOPS”, sind für LLM-Inferenz nahezu irrelevant, da Ollama, llama.cpp und LM Studio die Modelle über die GPU laufen lassen, nicht über die NPU. Mein erster Rat: Kauft ein KI-Mini-PC also niemals nur wegen der TOPS-Zahl auf der Verpackung.

Der Ryzen AI Max+ 395, Codename Strix Halo, kommt auf rund 256 GB/s Speicherbandbreite über Quad-Channel-LPDDR5X. Das ist der zentrale Flaschenhals, den ihr bei jedem Vergleich im Kopf behalten solltet.

2. RAM-Größe, Sizing für 70B-Modelle und Multi-Agenten-Setups

Der komplette RAM ist bei Strix-Halo-Geräten fest verlötet und lässt sich nicht nachrüsten, die Kapazität muss beim Kauf final entschieden werden. Für ein Setup mit einem 70B-Modell plus mehreren parallelen Coding-Agenten führt an 128 GB kein Weg vorbei, daher schaue ich mir auch keine Modelle unter 128GB an . Die Anforderungen:

• Ein starkes MoE-Modell (Mixture of Experts) wie Qwen3-Coder-Next als Haupt-Agent benötigt in Q4-Quantisierung rund 45 GB
• Ein Reasoning-Modell für Debugging, zum Beispiel DeepSeek-R1 32B, kommt auf etwa 18 GB
• Mehrere kleine Modelle für parallele Einzelaufgaben, etwa Qwen3 8B, mit je ca. 5 GB
• Puffer für den KV-Cache bei mehreren gleichzeitigen Konversationen

64 GB RAM reicht für ein einzelnes 30B-Modell komfortabel, wird aber bei echten Multi-Agenten-Setups mit mehreren parallel geladenen Modellen schnell knapp.

Bei den Daten wir einem auch schnell klar, dass es mit nur einer 7000 Euro Grafikkarte nicht möglich ist, solche Modelle alleine zu tragen: Die meisten NVIDIA Grafikkarten haben vielleicht 32GB VRAM. Das reicht nicht und das Budget ist bereits aufgebraucht. Ein Mini-PC kann dies stemmen. Der Gedanke: Bei kleinen Modellen ist die NVIDIA Grafikkarte im Vorteil, weil sie MEHR TOKENS / Minute schafft, aber bei großen Modellen 0 Tokens, weil sie es nicht direkt/komplett laden kann.

Erklärung:

• Ein MoE‑Modell (Mixture of Experts) ist ein neuronales Netz, das viele spezialisierte Subnetzwerke (Experts) enthält, aber für jede Eingabe nur eine kleine Auswahl dieser Experts aktiviert. So bleiben das Gesamtmodell sehr groß (viel Kapazität), während Rechenaufwand und Speicherbedarf pro Vorhersage niedrig bleiben, weil nur wenige Experts pro Token ausgeführt werden.

3. Kühlung und Dauerlast, 24/7-Tauglichkeit

Wichtig, wenn das Gerät wie bei mir dauerhaft laufen soll: Achtet nicht auf die Peak-Wattzahl im Datenblatt, sondern auf die Sustained-Power-Angabe. Consumer-orientierte Geräte drosseln unter Dauerlast teils hörbar und thermisch, während Workstation-Klasse-Geräte mehr Kühlkörpermasse und stabilere Lüftersteuerung mitbringen. Ein integriertes, ausreichend dimensioniertes Netzteil, zum Beispiel 320 W statt eines knapp bemessenen externen Netzteils, ist ebenfalls ein gutes Signal für durchdachtes Thermal-Design.

4. Netzwerk und Cluster-Fähigkeit

Für Multi-Agenten-Setups im lokalen Netz oder für spätere Cluster-Erweiterung sind zwei Dinge relevant:

• 10GbE statt 2.5GbE, wenn mehrere Dienste oder Container im Netzwerk bedient werden sollen
• USB4 v2 mit 80 Gbps für die direkte Kopplung zweier Geräte zu einem Cluster

Einige Hersteller wie Minisforum bewerben die Cluster-Fähigkeit ihrer MS-S1-Max-Serie explizit und mit belastbaren Zahlen, dazu gleich mehr. Bei den meisten Consumer-Mini-PCs ist “Cluster” dagegen reines Marketing ohne echte Validierung.

5. Software-Ökosystem, ROCm gegen CUDA

Ein Punkt, der in Kaufberatungen oft untergeht: AMDs ROCm-Support für die Strix-Halo-GPU-Architektur, intern gfx1151 genannt, ist noch vergleichsweise jung. Die Treiber-Situation hat sich 2026 deutlich verbessert, aber NVIDIAs CUDA-Ökosystem ist nach wie vor reifer und breiter unterstützt. Wer viel mit PyTorch, Fine-Tuning oder speziellen CUDA-Kernels arbeitet, sollte das einplanen.

6. Erweiterbarkeit, Marke und Support

Ein PCIe-x16-Slot, nicht bei allen Geräten vorhanden, erlaubt spätere Nachrüstung, etwa einer zusätzlichen Netzwerkkarte. Bei No-Name-Marken ohne Track Record bei Firmware-Pflege würde ich bei einem 24/7-Produktivgerät vorsichtig sein, das Ausfallrisiko im Dauerbetrieb übersteigt schnell die Ersparnis gegenüber einer etablierten Marke.

Ein oft übersehener Erweiterbarkeits-Punkt: Ein vorhandener OCuLink-Port, oder ein per M.2-Adapter nachgerüsteter, erlaubt später eine externe NVIDIA-Grafikkarte als Ergänzung. Dazu gleich mehr im eigenen Abschnitt zum Hybrid-Ansatz.

MoE schlägt Dense: Die wichtigste Erkenntnis für Modellauswahl auf Strix Halo

Weil die Speicherbandbreite der Flaschenhals ist, laufen Mixture-of-Experts-Modelle mit wenigen aktiven Parametern pro Token auf Strix-Halo-Hardware überproportional schneller als dichte Modelle vergleichbarer Gesamtgröße. Für die Praxis auf einem 128-GB-Gerät heißt das:

Praktischer Tipp: Statt fünf bis sieben unterschiedliche Modelle parallel zu laden, ist es speichereffizienter, ein Modell über einen Server mit paralleler Request-Verarbeitung zu nutzen, etwa llama.cpp-Server, vLLM oder Ollama mit mehreren Slots, für mehrere gleichzeitige Agenten-Sessions. Ein zweites Modell lohnt sich nur, wenn wirklich eine andere Modellqualität gebraucht wird, etwa für Reasoning-lastige Aufgaben.

Aber auch bei KI Agenten-Teams lohnt es sich auf maximal viel vRam bzw. geteiliten Speicher zu achten.
Unter Umständen will man parallel ein Entwicklerteam laufen lassen : Zum Beispiel:

• Coding Modell
• allgemeines Sprachmodell
• Embedding Modell
• Reranker
• Vision Modell Hier will man für einen wichtigen Fall auch kein extrem kleines Modell nutzen, nur weil dafür kein Speicher mehr übrig ist.

Ryzen AI Max+ 395 Mini PCs im Vergleich (128-GB-Klasse)

Hier die konkrete Auswahl, bewertet nach den obigen Kriterien. Fast alle Geräte nutzen denselben Chip, Ryzen AI Max+ 395 mit Radeon 8060S, die Unterschiede liegen in Kühlung, Netzwerk, Cluster-Fähigkeit und Markensupport. Vergleichshalber befindet sich auch NVIDIA DGX Spark, AMD Halo Developer Platform und ein Apple Mac mini M4 Pro in der Liste.

Alle empfohlenen KI-Mini-PCs und Server sind auch in unserem Amazon-Shop aufgelistet (Affiliate-Link)

Die technische Alternative zum Ryzen AI Max+ 395 / 495: NVIDIA DGX Spark (GB10 Grace Blackwell)

Der NVIDIA DGX Spark ist die naheliegende Alternative zu Strix-Halo-Mini-PCs( AMD Halo Developer Platform), weil er ebenfalls 128 GB Unified Memory in einem Desktop-Formfaktor bietet, nur eben mit dem GB10-Superchip, einer Grace-CPU mit 20 ARM-Kernen plus Blackwell-GPU, statt x86.

NVIDIA DGX Spark Technische Eckdaten: 128 GB LPDDR5X Unified Memory, rund 273 GB/s Speicherbandbreite, also in derselben Größenordnung wie Strix Halo und nicht dramatisch schneller, bis zu 1 PetaFLOP FP4-Rechenleistung mit Sparsity, ConnectX-7-Networking zur Kopplung zweier Geräte auf 256 GB kombinierten Speicher für Modelle bis 405 Milliarden Parameter, *DGX OS auf Ubuntu-Basis.

** Preislich liegt der DGX Spark bei etwa 4.700 aufwärts Euro.

Vorteile gegenüber Strix Halo: Das CUDA-Ökosystem ist deutlich reifer als ROCm, es gibt native NVFP4-Unterstützung für 4-Bit-Inferenz, eine offizielle Cluster-Kopplung über Hochgeschwindigkeitsnetzwerk statt USB4-Krücke und professionelle Softwarepflege durch NVIDIA.

Nachteile: Die Speicherbandbreite ist trotz der beeindruckenden PetaFLOP-Zahl kaum höher als bei Strix Halo, ein dichtes 70B-Modell ist auf dem DGX Spark deshalb ebenfalls kein Geschwindigkeitswunder, denn Decode-Geschwindigkeit ist bandbreitengebunden, nicht rechenleistungsgebunden. Die ARM-Architektur bedeutet zudem Einschränkungen bei klassischer Desktop-Software, für reine Desktop-Nutzung neben der KI-Arbeit ist ein x86-Mini-PC praktischer. Preislich liegt der DGX Spark zudem deutlich über den meisten Strix-Halo-Alternativen bei vergleichbarer RAM-Ausstattung.

NVIDIA DGX Spark:

Wer explizit im NVIDIA-Ökosystem bleiben will oder mit NVIDIA NIM und Blueprints arbeitet, bekommt hier ein reifes Softwarepaket. Für “Desktop-Nutzung plus lokale KI-Agenten” wie in unserem Ausgangsszenario ist ein x86-Strix-Halo-Mini-PC in der Praxis oft die pragmatischere Wahl.

Die dritte Option: Desktop-PC mit dedizierter NVIDIA-Grafikkarte

Die klassische Alternative bleibt ein Desktop-PC mit RTX-Grafikkarte. Hier ist die VRAM-Kapazität der GPU der entscheidende Faktor, denn anders als bei Unified-Memory-Systemen ist der VRAM eine harte Grenze:

• RTX 5090, 32 GB GDDR7, rund 1.792 GB/s Bandbreite: Deutlich schneller als Strix Halo bei allem, was in 32 GB passt. Ein 70B-Modell in Q4 benötigt aber bereits rund 35 bis 40 GB und überschreitet damit die Kapazität. Für Modelle bis etwa 30B ist die RTX 5090 die schnellere Wahl, für 70B braucht es entweder aggressive Quantisierung mit Qualitätsverlust oder eine andere Lösung.
• RTX PRO 6000 Blackwell, 96 GB GDDR7 mit ECC, gleiche Bandbreite wie die 5090: Hier passt ein 70B-Modell in Q4 mit über 50 GB Puffer für Kontext und mehrere gleichzeitige Nutzer. ECC-Speicher schützt zudem vor stillen Speicherfehlern bei Dauerbetrieb über viele Stunden. Preislich liegt eine komplette Workstation mit dieser Karte aber typischerweise im Bereich von 20.000 bis über 30.000 US-Dollar für Zwei-Karten-Setups, eine andere Liga als die Mini-PCs.

Der entscheidende Kompromiss: Ein Desktop mit dedizierter GPU ist bei Modellen, die vollständig in den VRAM passen, spürbar schneller als jedes Unified-Memory-System, weil GDDR7 eine deutlich höhere Bandbreite bietet als LPDDR5X. Der Preis dafür ist entweder eine harte Obergrenze bei der Modellgröße bei der RTX 5090 oder ein massiv höheres Budget bei der RTX PRO 6000. Für Coding-Agenten mit moderatem Modellbedarf bis ca. 30B, wo Rohgeschwindigkeit zählt, ist ein Desktop mit RTX 5090 eine ernstzunehmende Alternative zum Mini-PC. Für 70B-Modelle im Budget-Rahmen der Strix-Halo-Geräte bleibt Unified Memory aber der pragmatischere Weg.

Tipp: Auch die Strix-Halo-Geräte können eine Grafikkarte erhalten und von von beiden Seiten profitieren.

Die Server-Variante: Rack-Systeme mit Ryzen AI Max+ 395

Wenn ihr wirklich für mehrere Nutzer oder ein größeres Team plant, kommt irgendwann die Frage nach einer richtigen Rack-Lösung auf. Hier lohnt sich eine kurze Einordnung, weil der Markt hier noch dünn ist.

Der Ryzen AI Max+ 395 ist aktuell etwas ungewöhnlich, weil er eigentlich eine Workstation-APU ist, kein klassischer Server-Chip. AMD positioniert ihn als kompakte KI-Workstation mit bis zu 128 GB Unified Memory (beim PRO 495 perspektivisch bis 192 GB).

Kurz angeschaut habe ich mir das ASROCK Rack, da ich innerhalb meiner Recherchen drauf gestoßen bin. Was viele bei ASRock Rack vermutlich gesehen haben, ist die ASRock Industrial AI BOX-A395. Das ist allerdings kein klassischer 19-Zoll-Rack-Server, sondern eine kompakte Small-Form-Factor-Workstation im Alu-Gehäuse mit 200 x 100 x 232 mm, gedacht für Enterprise- und Edge-Einsatz. Ausstattung: derselbe Ryzen AI Max+ 395, bis zu 128 GB LPDDR5X, 10GbE plus 2.5GbE, zwei USB4-Ports, TPM 2.0 und redundantes BIOS für höhere Betriebssicherheit. Für ein Serverrack im klassischen Sinn ist das Gerät nicht gebaut, es lässt sich eher als besonders robuste, enterprise-taugliche Desktop-Variante verstehen.

Ein echter Grund dafür: Der Ryzen AI Max+ 395 ist ein verlötetes System-on-Chip, kein Sockel-Prozessor. ASRock Racks klassische Server-Mainboards für AM5 (mit AMD EPYC 4004/4005 oder Ryzen 7000/8000/9000) sind für Sockel-CPUs gebaut. Strix Halo passt dort schlicht nicht rein, weil es keine passende Sockel-Version des Chips gibt. Deshalb wird es vermutlich noch eine Weile dauern, bis ein etablierter Server-Hersteller wie ASRock Rack ein echtes 1U- oder 2U-Board speziell für diesen Chip anbietet.

Die einzige mir bekannte Option, die tatsächlich für den 19-Zoll-Rack-Einbau gedacht ist, bleibt der bereits erwähnte Minisforum MS-S1 Max. Der Hersteller bewirbt das Gerät explizit mit vier umschaltbaren Betriebsmodi, darunter ein eigener “Rack”-Modus, einem herausziehbaren Gehäuse-Tray für Wartung und einem Header für das gemeinsame Ein- und Ausschalten mehrerer Einheiten im Cluster-Verbund. Für alle, die tatsächlich mehrere Ryzen-AI-Max-Einheiten im Rack betreiben wollen, ist das aktuell die praxistauglichste Lösung, ohne dass ihr auf klassische EPYC- oder Xeon-Server mit deutlich höherem Stromverbrauch und Preis ausweichen müsst.

ABER keine wirkliche Server-Alternative : Für eine echte Server-Alternative würde ich eher in diese Richtungen schauen:

AMD Threadripper Pro

+

<AdSlot position="article-middle" />

256 GB oder 512 GB RAM

+
NVIDIA GPU

Workstation

Threadripper Pro
|
+-- RTX 6000 Ada
|
+-- RTX 6000 Ada
|
+-- NVMe Speicher

Unified Memory

Wie wir sehen, ein Server ist im Preissegment keine wirkliche Alternative.

Eine detaillierte Kosten-Nutzen-Betrachtung findest Du in KI-Server mieten: lohnt sich ein dedizierter AI-Server?.

Du willst eine RTX-Grafikkarte in einen MiniPC mit ryzen ai max einbauen und fragst Dich, ob Du nun alle Vorteiler beider Welten vereinigt hast?
Ja, aber schauen wir uns an, was OcuLink wirklich bedeutet…

Der OCuLink-Hybrid-Ansatz im Detail: Was die 4x-Anbindung wirklich bedeutet

Die TOP - KI MiniPCs können, wie oben betont, auch eine NVIDIA Grafikkarte verbauen, um so auch über die Grafikkarte genug VRAM und GPU Power zu liefern.

Weil das immer wieder für Verwirrung sorgt, hier eine genauere Erklärung, was hinter dem OCuLink-Anschluss steckt und wo die tatsächliche Einschränkung liegt.

OCuLink ist im Kern nichts anderes als ein Kabel, das eine PCIe-Verbindung nach außen führt. Bei den meisten Strix-Halo-Mini-PCs, egal ob nativ verbaut oder über ein M.2-zu-OCuLink-Adapterkabel nachgerüstet, stehen dafür vier PCIe-4.0-Lanes zur Verfügung, kurz “x4”. Eine normale Desktop-Grafikkarte im PC nutzt dagegen üblicherweise 16 Lanes, also “x16”. Das bedeutet, dass am OCuLink-Port nur ein Viertel der eigentlich möglichen PCIe-Bandbreite ankommt, umgerechnet ungefähr 8 GB/s in beide Richtungen bei PCIe 4.0 x4, gegenüber rund 32 GB/s bei einer vollen x16-Anbindung.

Ob das ein echter Flaschenhals ist, hängt vom Workload ab, und genau das wird oft durcheinandergebracht: Bist Du ein Zocker, oder KI-Entwickler?

Beim Training oder Fine-Tuning ist es tatsächlich ein spürbares Problem. Dort müssen laufend Gradienten und Aktivierungen zwischen CPU-Speicher und GPU hin und her geschickt werden, und die schmale x4-Anbindung bremst diesen Datenaustausch deutlich.

Bei reiner Inferenz, also dem klassischen Chatten mit einem lokalen Modell oder dem Betrieb eines Coding-Agenten, sieht die Sache anders aus. Sobald das Modell einmal komplett in den VRAM der externen Grafikkarte geladen ist, muss während der eigentlichen Token-Generierung kaum noch etwas über den PCIe-Link laufen. Nur die vergleichsweise kleinen Zwischenergebnisse zwischen den einzelnen Schichten und die Ein- und Ausgabetoken wandern über die Verbindung. Community-Benchmarks bestätigen das: Bei reiner Inferenz liegt eine OCuLink-Anbindung praktisch innerhalb der Messungenauigkeit einer intern verbauten Grafikkarte.

Etwas anders sieht es aus, wenn ein Modell nicht komplett in den VRAM der externen Karte passt und deshalb teilweise auf CPU-Speicher ausgelagert werden muss, sogenanntes Layer-Offloading. Dann werden bei jedem Token tatsächlich Daten zwischen CPU-Speicher und GPU verschoben, und die x4-Anbindung bremst spürbar. Für euren Anwendungsfall heißt das ganz praktisch: Wenn ein Modell vollständig auf die angeschlossene NVIDIA-Karte passt, verliert ihr durch OCuLink kaum Leistung. Sobald ihr ein Modell fahren wollt, das größer als der VRAM der Karte ist und deshalb geteilt werden muss, ist die APU mit ihrem eigenen Unified Memory meist die bessere Wahl als ein Offloading-Setup über OCuLink.

Ein zweiter Punkt, der oft übersehen wird, ist eine BIOS-Einschränkung auf vielen Strix-Halo-Boards: Extern angeschlossene AMD-Grafikkarten werden dort unabhängig vom Kartenmodell fest auf 120 Watt gedeckelt. NVIDIA-Karten sind nach bisherigen Community-Berichten davon nicht betroffen, was den Hybrid-Ansatz mit einer externen GPU faktisch zu einer NVIDIA-spezifischen Lösung macht. Ein dokumentierter Praxistest mit einer per OCuLink angeschlossenen RTX 5090 an einem Strix-Halo-Gerät zeigte gegenüber der reinen APU rund ein Drittel schnellere Token-Generierung und fast die Hälfte schnellere Prompt-Verarbeitung, also einen echten, spürbaren Gewinn trotz der schmalen x4-Anbindung.

Dies bedeutet also: Die 4x-Beschränkung klingt schlimmer, als sie in der Praxis für reine Inferenz ist. Sie wird erst dann relevant, wenn ihr trainiert, fine-tuned oder Modelle fahrt, die größer als der VRAM der externen Karte sind. Für den Alltag als Coding-Agent-Maschine ist der Hybrid-Ansatz eine ernstzunehmende Option, keine Notlösung. Aber natürlich kauft man sich eine so teure Grafikkarte, um sie dann auch zu 100% nutzen zu wollen. Neben den technischen Gründen, kommt natürlich die Ego- oder Vertrauensfrage hinzu.

Direktvergleich: Mini-PC vs. NVIDIA DGX Spark vs. Desktop-GPU-PC

Meine aktuelle KI Mini-PC Kaufempfehlung

Für das Szenario “Desktop-Nutzung plus lokale Multi-Agenten-Workflows mit 70B-Modellen und Coding-Agenten” würde ich mich für einen einzelnen Ryzen AI Max+ 395 Mini-PC mit 128 GB RAM entscheiden. Die Cluster-Option lohnt sich erst, wenn ihr wirklich in die 235B+-Modellklasse wollt, was für die meisten Multi-Agenten-Setups nicht nötig ist. Aber der Gedanke ein System zu erweitern ist deutlich angenehmer, als es ersetzen zu, müssen.

Innerhalb der Strix-Halo-Geräte favorisiere ich den Minisforum MS-S1 Max wegen des durchdachten Kühlkonzepts, der 10GbE-Anbindung und der optionalen, herstellerseitig validierten Cluster- und Rack-Erweiterung, falls ihr später doch aufrüsten wollt.

GMKtec EVO-X2 ist die solide, breiter verfügbare Alternative, wenn der Minisforum in 128 GB gerade nicht lieferbar ist. Der brandneue GMKtec EVO-X3 ist einen Blick wert, falls euch der native OCuLink-Port für eine spätere eGPU-Erweiterung wichtiger ist als die Cluster-Fähigkeit, ich würde allerdings noch ein paar Wochen auf unabhängige Praxistests warten, bevor ich es für einen 24/7-Produktivbetrieb empfehle. Das Gerät wurde erst vor einigen Tagen vorgestellt.

Von No-Name-Marken ohne Testhistorie würde ich bei einem Gerät, das rund um die Uhr läuft, absehen. Ich habe Sie mit in den Amazon-Shop aufgenommen, allerdings ist der preisliche Unterschied gering, daher lohnt es sich zu den Top-Herstellern zu linsen.

DGX Spark und RTX-PRO-6000-Workstations sind für Sonderfälle wie CUDA-Pflicht, Enterprise-Anforderungen oder sehr große Modelle die richtige Wahl. Für den typischen Entwickler-Use-Case mit 70B-Modellen und Coding-Agenten ist das Preis-Leistungs-Verhältnis eines Strix-Halo-Mini-PCs aktuell kaum zu schlagen.

Wer sich, wie ich, zwischen Mini-PC und NVIDIA-Desktop nicht entscheiden will oder kann, für den ist der OCuLink-Hybrid-Ansatz meiner Einschätzung nach der spannendste Mittelweg für 2026. Alle Vorteile nutzen und sicher entscheiden: Klein anfangen mit reinem Unified Memory, und bei Bedarf später eine gebrauchte RTX 4090 oder eine neue RTX 5090 für die schnelleren, kleineren Modelle nachrüsten, während die großen 70B-Modelle weiter über den APU-Speicher laufen. Dies ist derzeit mein Aufbau.

Transparenzhinweis: Dieser Artikel enthält Amazon-Partnerlinks. Wenn du über diese Links bestellst, erhalte ich eventuell eine Provision von Amazon. Dir entstehen dadurch keine zusätzlichen Kosten!

AMD Ryzen AI Max+ 395, AMD Halo Developer Platform und der neue Ryzen AI Max+ PRO 495, was steckt dahinter?

NVIDIA hat den DGX Spark vorgestellt. AMD hat darauf nicht nur mit einem neuen Prozessor reagiert, sondern auch mit einer eigenen Entwicklerplattform, der AMD Halo Developer Platform, die auf dem Ryzen AI Max+ 395 aufbaut.

Dabei taucht immer wieder dieselbe Frage auf.

Gibt es einen Unterschied zwischen dem AMD Ryzen AI Max+ 395 und der AMD Halo Developer Platform?

Die kurze Antwort lautet: Ja.

Der Ryzen AI Max+ 395 ist der eigentliche Prozessor, genauer gesagt eine APU. Er kombiniert CPU, GPU und NPU auf einem Chip.

Die AMD Halo Developer Platform ist dagegen ein kompletter Mini PC, der genau diesen Prozessor bereits enthält.

Das ist vergleichbar mit einem Intel Core Prozessor. Der Prozessor selbst ist nur eine Komponente. Erst zusammen mit Mainboard, Speicher, SSD und Gehäuse entsteht daraus ein fertiges System. Da der AMD Halo Developer Platform-Mini PC in Europa kaum gekauft werden kann, weicht man auf den Minisforum MS-S1 Max 128GB aus.

Ryzen AI Max+ 395

AMD Halo Developer Platform

Die Developer Platform enthält bereits alles, was für eine KI Workstation benötigt wird.

Die eigentliche Rechenleistung stammt also vom Ryzen AI Max+ 395. Die Developer Platform ist lediglich das komplette Referenzsystem von AMD.

Der neue Ryzen AI Max+ PRO 495

Spannend wurde es mit der Vorstellung des neuen Ryzen AI Max+ PRO 495.

Auf den ersten Blick sieht es nach einer neuen Generation aus. Schaut man genauer in die technischen Daten, fällt auf, dass AMD eher ein Refresh veröffentlicht hat.

Wo liegen die Unterschiede?

CPU und GPU wurden leicht höher getaktet.

In der Praxis dürfte das je nach Anwendung etwa drei bis fünf Prozent Mehrleistung bedeuten.

Der eigentliche Unterschied liegt an einer ganz anderen Stelle.

Der Ryzen AI Max+ PRO 495 unterstützt bis zu 192 GB Unified Memory.

Genau dieser Punkt könnte für lokale KI Modelle wesentlich interessanter sein als die etwas höheren Taktraten.

Warum ist der Arbeitsspeicher so wichtig?

Viele denken zunächst an mehr CPU Leistung oder eine schnellere GPU.

Bei lokalen Sprachmodellen entscheidet jedoch häufig der verfügbare Speicher darüber, welche Modelle überhaupt vollständig geladen werden können.

Als grobe Orientierung:

Gerade für Ollama spielt dieser Punkt eine wesentlich größere Rolle als 100 MHz mehr CPU Takt.

Gibt es schon Preise für die 192 GB Variante?

Zurzeit noch nicht.

AMD hat den Prozessor vorgestellt. Konkrete Systeme mit 192 GB Unified Memory befinden sich jedoch erst in der Ankündigungsphase.

Die bisher bekannte AMD Developer Platform mit 128 GB liegt bei rund 4.000 US Dollar.

Realistisch dürfte ein System mit 192 GB irgendwo zwischen 4.800 und 5.500 Euro liegen, abhängig vom jeweiligen Hersteller.

Linux oder Windows?

Im Gespräch kam auch die Frage nach dem Betriebssystem auf.

Obwohl AMD die Developer Platform sowohl für Windows als auch Linux vorsieht, dürfte Linux für viele Entwickler die interessantere Plattform sein.

Gründe dafür sind unter anderem:

• bessere ROCm Unterstützung
• Docker läuft ohne zusätzliche Virtualisierung
• einfachere Container Nutzung
• native Entwicklungsumgebung
• weniger Overhead

Windows bleibt natürlich interessant, wenn zusätzlich Programme genutzt werden, die ausschließlich dort verfügbar sind oder wenn WSL2 bereits Bestandteil des eigenen Workflows ist.

Für wen ist so ein System interessant?

Ein möglicher Anwendungsfall könnte so aussehen:

• Ollama
• Windsurf
• OpenWebUI
• Docker
• MCP Server
• Qdrant oder Milvus
• mehrere lokale Agenten

Gerade Agenten profitieren davon, wenn mehrere Modelle gleichzeitig im Speicher liegen können.

Zum Beispiel:

• Coding Modell
• allgemeines Sprachmodell
• Embedding Modell
• Reranker
• Vision Modell

Mit 192 GB Unified Memory müsste nicht ständig zwischen den einzelnen Modellen gewechselt werden.

Können lokale Modelle Claude ersetzen?

Eine interessante Frage aus der Diskussion war, wie sich lokale Modelle gegenüber Claude Sonnet oder Claude Opus schlagen.

Die Antwort ist nicht ganz einfach.

Heute gehören Claude Sonnet und Opus weiterhin zu den stärksten verfügbaren Modellen.

Lokale 70B Modelle haben jedoch enorm aufgeholt.

*Persönliche Meinung

Der Abstand ist deutlich kleiner geworden als noch vor wenigen Jahren. Aber ganz ehrlich, ich erziele mit einfachen SWE1.7 Modellen schon sehr gute Ergebnisse.

Ein realistischer Workflow

Viele werden vermutlich gar nicht vollständig auf Cloud Modelle verzichten.

Ein hybrider Ansatz erscheint derzeit sinnvoll.

• Lokale Modelle übernehmen den Großteil der täglichen Arbeit.
• Claude oder andere Cloud Modelle kommen nur noch bei besonders komplexen Aufgaben zum Einsatz.

Dadurch lassen sich Datenschutz, Kosten und Qualität gut miteinander kombinieren.

Der Ryzen AI Max+ PRO 495 ist keine völlig neue Generation, sondern eher eine behutsame Weiterentwicklung des PRO 395.

Die etwas höheren Taktraten werden im Alltag kaum auffallen.

Der eigentliche Fortschritt liegt in der Unterstützung von bis zu 192 GB Unified Memory.

Gerade für lokale KI Anwendungen mit Ollama, Agenten, Windsurf und mehreren gleichzeitig geladenen Modellen könnte genau dieser Punkt den entscheidenden Unterschied machen.

Mich persönlich interessiert deshalb weniger, ob der Prozessor drei Prozent schneller geworden ist.

Spannender ist die Frage, welche neuen Möglichkeiten sich eröffnen, wenn erstmals 192 GB Unified Memory in einer kompakten Workstation zur Verfügung stehen.

Häufig gestellte Fragen

Weiterführend: Wer mit dem lokalen KI-PC direkt in Multi-Agenten-Systeme einsteigen will, findet in Multi-Agenten-Frameworks: LangGraph, CrewAI und OpenClaw im Vergleich einen praxisnahen Überblick.

Premium VPS Hosting

Schnelle und sichere VPS Server

Gesponsert