Direkte Antwort
Der NVIDIA DGX Spark ist ein Mini-Rechner mit 128 GB kohärentem Unified Memory, der ab rund 3.999 Euro zu haben ist — als ASUS Ascent GX10, der günstigsten OEM-Variante. Er ist die derzeit preiswerteste Maschine, auf der ein Modell mit über hundert Gigabyte Gewichten in brauchbarer Geschwindigkeit läuft.
Ob sich das lohnt, hängt an einer einzigen Frage: Passt dein Modell in 24 GB Grafikspeicher? Wenn ja, ist eine RTX-Karte schneller und billiger. Wenn nein, war die Alternative bisher ein Mac Studio mit teurem Speicherausbau oder eine Workstation mit mehreren Karten — und gegen beide steht der Spark gut da.
Diese Seite rechnet das durch, statt es zu behaupten: was das Gerät technisch ist, was tatsächlich darauf läuft, was es in Deutschland kostet, und wo es gegen Mac Studio und RTX-Workstation verliert. Was auf deiner vorhandenen Hardware möglich wäre, klärt vorher der Hardware-Rechner.
Was der DGX Spark technisch ist
Das Gerät ist kein Server und keine Grafikkarte, sondern eine dritte Kategorie: ein Rechner, dessen CPU und GPU sich denselben physikalischen Speicher teilen — dieselbe Idee wie bei Apple Silicon, nur mit CUDA darauf.
| Komponente | Ausstattung |
|---|---|
| Superchip | NVIDIA GB10 Grace Blackwell |
| CPU | 20 ARM-Kerne (10× Cortex-X925, 10× Cortex-A725) |
| GPU | Blackwell, 6.144 CUDA-Kerne, Tensor Cores 5. Generation |
| Speicher | 128 GB LPDDR5X, kohärent geteilt — nicht erweiterbar |
| Rechenleistung | bis 1 PetaFLOP bei FP4 (theoretisch, mit Sparsity) |
| Netzwerk | 10 GBase-T, Wi-Fi 7, 2× QSFP56 mit 200 Gbit/s |
| Leistungsaufnahme | 240 W über externes USB-C-Netzteil |
| Maße / Gewicht | 150 × 150 × 50,5 mm, 1,2 kg |
| Betriebssystem | NVIDIA DGX OS auf Ubuntu-Basis, aarch64 |
Drei Zeilen davon entscheiden über den praktischen Nutzen.
Die 128 GB sind kohärent geteilt. Es gibt kein Hin- und Herkopieren zwischen System-RAM und VRAM, weil es beides nicht getrennt gibt. Ein 100-GB-Modell liegt einfach im Speicher, und die GPU rechnet direkt darauf. Genau daran scheitern Workstations mit Grafikkarten: Sobald das Modell nicht mehr in die 24 oder 48 GB der Karte passt, bricht die Geschwindigkeit um eine Größenordnung ein.
Die 128 GB sind fest verlötet. Keine Aufrüstung, nie. Was du kaufst, ist die Obergrenze für die gesamte Lebensdauer des Geräts — bei einem Bauteil, das im Moment der eigentliche Engpass der ganzen Branche ist.
Die zwei QSFP56-Ports sind der Grund, warum in Foren so oft von zwei Geräten die Rede ist. Über 200 Gbit/s lassen sich zwei Sparks koppeln; NVIDIA nennt dafür Modelle bis rund 405 Milliarden Parameter. Ob man das braucht, steht weiter unten.
Der Punkt, an dem das Gerät Sinn ergibt
Die entscheidende Größe bei lokaler Inferenz ist nicht Rechenleistung, sondern Speicherbandbreite — für jedes einzelne Token müssen die aktiven Gewichte einmal durch den Speicherbus. Der Spark liegt bei rund 273 GB/s. Das ist nicht spektakulär: Eine RTX 4090 kommt auf über 1.000 GB/s, ein Mac Studio mit M2 Ultra auf 800.
Warum ist das Gerät dann interessant? Weil diese Zahlen nur gelten, solange das Modell hineinpasst.
Die Obergrenze lässt sich für jede Maschine ausrechnen, statt sie zu schätzen. Pro Token müssen die aktiven Gewichte einmal vollständig durch den Speicherbus:
Tokens/s (theoretisch) = Speicherbandbreite ÷ aktive Gewichte
In der Praxis werden davon rund 60 bis 70 Prozent erreicht — der Rest geht für Attention, KV-Cache-Zugriffe und Overhead drauf. Für den Spark mit 273 GB/s ergibt das:
| Situation | Aktive Gewichte | Theoretisch | Realistisch |
|---|---|---|---|
| 8B-Modell in Q4 | ~4,7 GB | 58 tok/s | 35–40 tok/s |
| 70B-Modell in Q4 | ~40 GB | 6,8 tok/s | 4–5 tok/s |
| MoE, 107 GB gesamt, 13B aktiv in 3 Bit | ~5 GB | 54 tok/s | 34–40 tok/s, gemessen |
Die dritte Zeile ist der interessante Fall, und sie erklärt, warum ausgerechnet Mixture-of-Experts-Modelle auf diesem Gerät so gut aussehen: 107 GB müssen im Speicher liegen, aber nur rund 5 GB müssen pro Token durch den Bus. Kapazität und Bandbreite werden hier entkoppelt — genau der Fall, für den ein Gerät mit viel Speicher und mittlerer Bandbreite gebaut ist. Dass die gemessenen 34 bis 40 tok/s so nah an der Rechnung liegen, ist ein gutes Zeichen für beide.
Dieselbe Rechnung für eine RTX 4090 mit über 1.000 GB/s ergibt beim 8B-Modell rund 150 tok/s — das Vierfache des Sparks. Nur gilt das eben nur bis 24 GB. Ein 70B-Modell in Q4 passt dort nicht mehr hinein, muss in den Arbeitsspeicher auslagern und fällt damit auf zwei bis vier Tokens pro Sekunde, also unter den Spark. Ein 107-GB-Modell kann sie gar nicht mehr sinnvoll spielen.
Das ist die ganze Kaufentscheidung in drei Zeilen: Der Spark ist kein schnelleres Gerät, er ist ein größeres. Wer 7B- und 14B-Modelle fährt, kauft mit ihm langsamere Hardware für mehr Geld. Wer an der Speicherobergrenze arbeitet, kauft die einzige Maschine dieser Preisklasse, die dort nicht abstürzt.
Was tatsächlich darauf läuft
NVIDIA bewirbt „Inferenz bis 200 Milliarden Parameter” und „Fine-Tuning bis 70 Milliarden”. Das ist nicht falsch, aber es sind Marketing-Obergrenzen. Praktisch relevant:
| Modell | Format | Speicher | Erwartung |
|---|---|---|---|
| Llama 3.1 8B | Q4 | ~5 GB | 35–40 tok/s, sehr großer Kontext |
| Qwen 2.5 32B | Q4 | ~19 GB | ~10 tok/s |
| Llama 3.3 70B | Q4 | ~40 GB | 4–5 tok/s, passt aber komplett hinein |
| Mistral Large | Q4 | ~70 GB | 2–3 tok/s, eher Stapelverarbeitung |
| DeepSeek V4 Flash | 18,5 % gepruntet, EXL3-3bit | ~107 GB | 34–40 tok/s, 262K Kontext |
| DeepSeek V4 Flash | unverändert, FP4-Experten | 167 GB | passt nicht auf ein Gerät |
Die Tabelle enthält eine Überraschung, die man leicht überliest: Das mit Abstand größte Modell ist auch das schnellste. Ein dichtes 70B-Modell belegt 40 GB und schafft vier bis fünf Tokens pro Sekunde. Ein MoE-Modell belegt 107 GB und schafft das Achtfache. Wer den Spark kauft, sollte deshalb nicht nach der größten Parameterzahl suchen, sondern nach Mixture-of-Experts — dort spielt das Gerät seine Stärke aus, bei dichten Modellen jenseits von 30B wird es zäh.
Die vorletzte Zeile ist der Grund, warum das Gerät seit August in den Foren steht. Ein öffentlich dokumentiertes Docker-Rezept fährt DeepSeek V4 Flash auf einem einzelnen Spark — mit einem Modell allerdings, dem 18,5 Prozent der Experten fehlen und das auf drei Bit gepresst wurde. Die Zahlen, das Rezept und die Einschränkungen, die dabei gern unterschlagen werden, stehen ausführlich unter DeepSeek V4 Flash lokal.
Die letzte Zeile ist ebenso wichtig: Das unveränderte Modell passt nicht. Wer den Spark kauft, um das Original zu fahren, kauft am Bedarf vorbei.
Was er in Deutschland kostet
Der Spark kommt in DACH überwiegend als OEM-Variante an — gleicher Chip, gleicher Speicher, andere Gehäuse und SSDs.
| Variante | Speicher / SSD | Preis (Stand August 2026) |
|---|---|---|
| ASUS Ascent GX10 | 128 GB / 1 TB | ab 3.999 € |
| ASUS Ascent GX10 | 128 GB / 2 TB | ab 4.999 € |
| ASUS Ascent GX10 | 128 GB / 4 TB | ab 5.479 € |
| NVIDIA DGX Spark Founders Edition | 128 GB / 4 TB | ~5.999 € |
| über Systemhaus (z. B. Nelpx) | 128 GB / 4 TB | ~5.180 € netto |
Die SSD ist der einzige echte Unterschied im Preis. Ein einzelnes großes Modell wiegt rund 100 GB — mit 1 TB hast du Platz für fünf bis acht davon plus Caches. Wer nicht ständig zwischen vielen Modellen wechselt, spart die 1.000 bis 2.000 Euro Aufpreis und legt sie besser in eine externe NVMe.
Ein Hinweis, der bei diesem Preis relevant ist: Mehrere Händler bieten das Gerät mit 0-%-Finanzierung über 24 Monate an, was bei rund 250 Euro im Monat liegt. Für ein Unternehmen, das damit API-Kosten ersetzt, ist das eine andere Rechnung als eine einmalige Ausgabe.
Der Vergleich, der die Entscheidung trägt
| DGX Spark | Mac Studio M4 Max (128 GB) | Workstation 2× RTX 5090 | |
|---|---|---|---|
| Preis | ab 3.999 € | ab ~5.000 € | ab ~6.000 € |
| Nutzbarer Modellspeicher | 128 GB | ~96 GB (Rest fürs System) | 64 GB VRAM |
| Speicherbandbreite | ~273 GB/s | ~546 GB/s | >1.700 GB/s |
| Software-Stack | CUDA, vollständig | Metal, MLX, llama.cpp | CUDA, vollständig |
| Fine-Tuning | bis ~70B | eingeschränkt | bis ~70B |
| Lautstärke / Verbrauch | leise, 240 W | sehr leise, ~200 W | laut, 800 W+ |
| Alltagstauglich | nein, reines Arbeitsgerät | ja, vollwertiger Mac | bedingt |
Mac Studio, wenn du Inferenz über Ollama oder LM Studio fährst, die Maschine auch für andere Arbeit nutzt und Ruhe im Büro willst. Die doppelte Bandbreite macht sich bei Modellen, die auf beiden Geräten passen, direkt bemerkbar.
RTX-Workstation, wenn deine Modelle unter 64 GB bleiben und Geschwindigkeit vor allem anderen steht. Nichts schlägt hier eine Karte, in die das Modell hineinpasst.
DGX Spark, wenn eines der folgenden zutrifft: Du brauchst mehr als 96 GB für ein einzelnes Modell. Du entwickelst gegen CUDA und willst dieselbe Software-Umgebung wie im Rechenzentrum auf dem Schreibtisch. Oder du willst fine-tunen, nicht nur inferieren — dort ist der Vorsprung gegenüber Apple am deutlichsten.
Und ehrlich dazu: Wenn keiner dieser drei Punkte zutrifft, ist der Spark die falsche Maschine. Er ist ein Spezialgerät. Die Begeisterung in den Foren stammt von Leuten, auf die mindestens einer der Punkte zutrifft.
Ein Gerät oder zwei?
Zwei Sparks über die QSFP56-Ports gekoppelt ergeben 256 GB und laut NVIDIA Modelle bis rund 405 Milliarden Parameter. Dokumentierte Messungen aus dem NVIDIA-Entwicklerforum für zwei Geräte mit DeepSeek V4 Flash:
| Konfiguration | Durchsatz |
|---|---|
| Single-Stream, Code | 60–67 tok/s |
| Single-Stream, gemischter Text | 40–45 tok/s |
| 6 parallele Streams bei 1M Kontext | ~182 tok/s aggregiert |
| 16 parallele Streams bei 200K Kontext | ~315 tok/s aggregiert |
Das ist beeindruckend, und für ein Team, das ein Modell gemeinsam nutzt, ist die Aggregat-Zeile das eigentliche Argument — nicht die Einzelgeschwindigkeit.
Für eine einzelne Person rechnet es sich selten. Der zweite Spark verdoppelt den Preis auf rund 8.000 Euro und bringt beim Arbeiten allein etwa das Anderthalbfache an Tempo, plus die Möglichkeit, das Modell unverändert statt gepruntet zu fahren. Wer nicht genau weiß, warum er das braucht, braucht es nicht.
Die sinnvolle Reihenfolge: ein Gerät kaufen, drei Monate real damit arbeiten, dann entscheiden. Die QSFP-Ports laufen nicht weg, und der zweite Spark lässt sich jederzeit nachkaufen.
Die Punkte, die vor dem Kauf zu klären sind
Vier Dinge, die in den Produktbeschreibungen nicht stehen:
ARM, nicht x86. Das Gerät läuft auf aarch64. Ollama, llama.cpp, vLLM und PyTorch sind dafür verfügbar, aber bei kleineren Werkzeugen und Python-Paketen mit kompilierten Anteilen fehlen fertige Builds gelegentlich. Dann heißt es selbst kompilieren. Wer das nicht will, sollte vorher prüfen, ob sein Werkzeugkasten ARM-Builds mitbringt.
Kein Arbeitsplatzrechner. Ein HDMI-Ausgang, DGX OS, ARM — das Gerät ist als Kopf einer Entwicklungsumgebung gedacht, die man über Netzwerk anspricht, nicht als Maschine, an der man sitzt. Wer einen Rechner sucht, der auch Büroarbeit erledigt, kauft den Mac.
Der Speicher ist die Obergrenze für immer. 128 GB verlötet, keine Aufrüstung. Bei einem Gerät, das man drei bis fünf Jahre behält, in einem Feld, in dem Modelle jedes Jahr wachsen, ist das die härteste Einschränkung überhaupt.
Gewährleistung und Bezugsweg. Bei einem Gerät dieser Preisklasse ist der Unterschied zwischen einem deutschen Händler mit zwei Jahren Gewährleistung und einem Grauimport erheblich. Der Preisunterschied ist es inzwischen nicht mehr: Der Spark ist im deutschen Handel zu Preisen verfügbar, gegen die sich ein Import kaum noch rechnet.
Einordnung
Der DGX Spark ist das erste Gerät, das eine bestimmte Lücke schließt: zwischen „passt in eine Grafikkarte” und „braucht einen Server”. Diese Lücke war bis Ende 2025 nur mit einem hoch konfigurierten Mac Studio oder einer Mehrkarten-Workstation zu überbrücken, beides teurer und in je eigener Weise unbequem.
Was er nicht ist: eine schnellere Maschine. Wer die Bandbreitenzeile in der Vergleichstabelle überliest und mit „KI-Supercomputer für den Schreibtisch” rechnet, wird enttäuscht sein — bei allen Modellen, die auch in eine Grafikkarte passen, verliert er deutlich.
Die ehrliche Kaufregel ist deshalb einfach: Bestimme zuerst dein größtes Modell, dann die Maschine. Genau in dieser Reihenfolge, und nicht umgekehrt. Der Hardware-Rechner auf dieser Site zeigt für dein Wunschmodell und deine Kontextlänge, wie viel Speicher nötig ist. Liegt das Ergebnis unter 24 GB, kauf eine Grafikkarte. Liegt es zwischen 24 und 96 GB, vergleiche ernsthaft mit dem Mac Studio. Liegt es darüber, ist der Spark derzeit die günstigste sinnvolle Antwort.
Wer die Entscheidung nicht allein treffen will — bei vier- bis fünfstelligen Beträgen eine vernünftige Haltung —, findet unter Beratung die Formate dafür. Für den Einsatz im Unternehmen ordnet Local Studio ein, was ein solches Gerät für eine ganze Abteilung bedeutet, und Sicherheit und DSGVO klärt die datenschutzrechtliche Seite.
Häufige Fragen
Was kostet ein NVIDIA DGX Spark in Deutschland?
Die günstigste Variante ist der ASUS Ascent GX10 mit 128 GB und 1 TB SSD ab rund 3.999 Euro. Mit 2 TB liegt er bei etwa 4.999 Euro, mit 4 TB bei rund 5.479 Euro. Die NVIDIA Founders Edition mit 4 TB kostet im deutschen Handel rund 5.999 Euro. Alle Varianten nutzen denselben GB10-Superchip und dieselben 128 GB Unified Memory.
Welche Modelle laufen auf einem DGX Spark?
NVIDIA nennt Inferenz bis 200 Milliarden Parameter und Fine-Tuning bis 70 Milliarden. Speicherseitig passt alles bis 128 GB hinein, die Geschwindigkeit unterscheidet sich aber stark nach Architektur: Ein dichtes 70B-Modell in Q4 kommt auf vier bis fünf Tokens pro Sekunde, ein Mixture-of-Experts-Modell mit 107 GB dagegen auf 34 bis 40. Auf diesem Gerät sind MoE-Modelle die eigentliche Stärke, nicht die größten dichten Modelle.
Ist der DGX Spark schneller als eine RTX 4090?
Nein, bei Modellen, die in 24 GB VRAM passen, ist die RTX 4090 deutlich schneller. Der Spark gewinnt erst dort, wo das Modell nicht mehr in den Grafikspeicher passt — dann arbeitet er mit voller Geschwindigkeit weiter, während die Grafikkarte auf den Arbeitsspeicher auslagern muss und einbricht. Der Vorteil ist Kapazität, nicht Rohleistung.
DGX Spark oder Mac Studio für lokale LLMs?
Der Mac Studio ist die bessere Alltagsmaschine und hat mehr Speicherbandbreite. Der Spark hat den ausgereifteren Software-Stack: Alles, was für CUDA geschrieben wurde, läuft dort ohne Umweg, inklusive vLLM, TensorRT und Fine-Tuning-Werkzeugen. Wer nur Inferenz über Ollama oder LM Studio fährt, ist mit dem Mac besser bedient. Wer entwickelt, mit dem Spark.
Brauche ich zwei DGX Spark?
Für die meisten Anwendungsfälle nein. Zwei Geräte lassen sich über die 200-Gbit-QSFP-Ports koppeln und ermöglichen Modelle bis rund 405 Milliarden Parameter sowie sehr lange Kontexte. Seit es Rezepte gibt, die große Modelle auf ein einzelnes Gerät falten, ist der Zweitkauf aber selten die erste Wahl — er verdoppelt den Preis für einen Zugewinn, den viele nicht brauchen.
Wie laut und wie stromhungrig ist der DGX Spark?
Er zieht 240 Watt über ein externes USB-C-Netzteil und wiegt 1,2 Kilogramm bei 15 x 15 x 5 Zentimetern. Damit liegt er beim Verbrauch unter einer einzelnen RTX 4090 unter Last und arbeitet deutlich leiser als eine Workstation mit dedizierter Grafikkarte.
Läuft Ollama auf dem DGX Spark?
Ja. Das Gerät läuft unter DGX OS auf Ubuntu-Basis mit ARM-Architektur, und Ollama, llama.cpp und vLLM sind für Linux aarch64 verfügbar. Vereinzelt fehlen bei kleineren Werkzeugen fertige ARM-Builds, dann ist Selbstkompilieren nötig.
Lohnt sich der DGX Spark für ein kleines Unternehmen?
Wenn vertrauliche Dokumente im Haus bleiben müssen und mehrere Personen dasselbe Modell nutzen sollen, ist es die derzeit günstigste Maschine, die ein großes Modell mit brauchbarem Tempo hält. Gegen die laufenden Kosten einer API gerechnet, amortisiert sich das bei intensiver Nutzung im ersten Jahr. Bei gelegentlicher Nutzung nie.