Wie viel VRAM hat die Radeon RX 7900 XTX?

24 GB GDDR6 bei 960 GB/s Speicherbandbreite. Der Speicher ist fest auf der Karte und lässt sich nicht erweitern.

Welches ist das größte Modell, das auf eine einzelne Radeon RX 7900 XTX passt?

Hermes 4.3 36B mit 36,2 Milliarden Parametern passt in der kleinsten sinnvollen Quantisierung noch auf eine Karte. Größere Modelle brauchen mehrere Karten oder Auslagerung in den Arbeitsspeicher.

Wie werden die Tokens pro Sekunde hier berechnet?

Aus der Speicherbandbreite geteilt durch die Datenmenge, die pro Token gelesen werden muss. Diese Datenmenge sind die aktiven Parameter mal den Bytes je Gewicht. Angesetzt werden 75 Prozent der theoretischen Spitzenbandbreite. Das Ergebnis ist eine Obergrenze, kein Messwert.

Zählen bei mehreren Karten die Speicher zusammen?

Für die Frage, ob ein Modell hineinpasst, ja: Die Gewichte lassen sich über mehrere Karten verteilen. Für die Geschwindigkeit gilt das nur eingeschränkt, weil die Kommunikation zwischen den Karten Zeit kostet. Die Werte in der Tabelle sind deshalb bei Mehrkarten-Aufbauten optimistischer als die Praxis.

Radeon RX 7900 XTX

AMD · RDNA 3 · 24 GB · 960 GB/s

Auf dem Papier eine 4090 zum halben Preis: gleiche 24 GB, vergleichbare Bandbreite. In der Praxis entscheidet die Software. ROCm ist deutlich besser geworden und llama.cpp läuft solide, aber bei neuen Modellen und exotischen Quantisierungen kommt die CUDA-Welt zuerst. Für Geduldige eine gute Rechnung, für Ungeduldige nicht.

Technische Daten

Grafikspeicher	24 GB GDDR6
Speicherbandbreite	960 GB/s
Leistungsaufnahme	355 W
Architektur	RDNA 3
Marktstart	2022 Q4

Welche Modelle laufen auf der Radeon RX 7900 XTX?

Geschätzter Speicherbedarf offener Sprachmodelle in 16 Bit (BF16), 8 Bit (FP8) und 4 Bit (INT4), gemessen an 24 GB je Karte. Gezeigt werden die 12 größten Modelle, die noch passen — und was sie dabei an Geschwindigkeit liefern.

Modell	Parameter	16-Bit	8-Bit	4-Bit
DeepSeek V4 Flash DeepSeek	304,2 Mrd. 13,0 Mrd. aktiv	nicht veröffentlicht	nicht veröffentlicht	152 GB 8× · 40 GB frei ~111 tok/s
Qwen3 235B-A22B Alibaba	235,1 Mrd. 22,0 Mrd. aktiv	zu groß	zu groß	118 GB 6× · 26 GB frei ~65,5 tok/s
MiniMax M2.7 MiniMax	228,7 Mrd. 10,0 Mrd. aktiv	nicht veröffentlicht	zu groß	114 GB 6× · 30 GB frei ~144 tok/s
Mistral Large 2411 Mistral AI	122,6 Mrd.	zu groß	123 GB 6× · 21 GB frei ~5,9 tok/s	61 GB 3× · 11 GB frei ~11,7 tok/s
gpt-oss-120b OpenAI	116,8 Mrd. 5,1 Mrd. aktiv	zu groß	117 GB 6× · 27 GB frei ~141 tok/s	58 GB 3× · 14 GB frei >282 tok/s
Qwen3-Next 80B-A3B Alibaba	81,3 Mrd. 3,0 Mrd. aktiv	163 GB 8× · 29 GB frei ~120 tok/s	81 GB 4× · 15 GB frei >240 tok/s	41 GB 2× · 7 GB frei >480 tok/s
Llama 3.1 70B Meta	70,6 Mrd.	141 GB 7× · 27 GB frei ~5,1 tok/s	71 GB 4× · 25 GB frei ~10,2 tok/s	35 GB 2× · 13 GB frei ~20,4 tok/s
Hermes 4.3 36B Nous Research	36,2 Mrd.	72 GB 4× · 24 GB frei ~9,9 tok/s	36 GB 2× · 12 GB frei ~19,9 tok/s	18 GB 1× · 6 GB frei ~39,8 tok/s
Qwen3 32B Alibaba	32,8 Mrd.	66 GB 4× · 30 GB frei ~11,0 tok/s	33 GB 2× · 15 GB frei ~22,0 tok/s	16 GB 1× · 8 GB frei ~43,9 tok/s
Gemma 4 31B Google	31,3 Mrd.	63 GB 3× · 9 GB frei ~11,5 tok/s	31 GB 2× · 17 GB frei ~23,0 tok/s	16 GB 1× · 8 GB frei ~46,0 tok/s
Gemma 3 27B Google	27,4 Mrd.	55 GB 3× · 17 GB frei ~13,1 tok/s	27 GB 2× · 21 GB frei ~26,3 tok/s	14 GB 1× · 10 GB frei ~52,6 tok/s
gpt-oss-20b OpenAI	21,5 Mrd. 3,6 Mrd. aktiv	43 GB 2× · 5 GB frei ~100 tok/s	22 GB 1× · 3 GB frei >200 tok/s	11 GB 1× · 13 GB frei >400 tok/s

Näherung, keine Messung. Parameterzahlen stammen aus den Safetensors-Metadaten der jeweiligen HuggingFace-Repositories, nicht aus gerundeten Angaben der Modellkarten. „nicht veröffentlicht" heißt, dass es diese Präzision als offizielles Release nicht gibt — DeepSeek V4 etwa liefert die Experten ab Werk in vier Bit aus, eine BF16-Fassung existiert nicht.

Für die Kartenzahl werden 90 % des Speichers als nutzbar angesetzt; der Rest deckt KV-Cache, Aktivierungen und Treiberkontext ab. Real gemessene GGUF-Dateien liegen wegen der Blockskalen etwas über den hier gerechneten Größen.

Die Tokenrate ist eine Obergrenze aus Bandbreite ÷ (aktive Parameter × Bytes je Gewicht) bei 75 % Bandbreiteneffizienz. Ab etwa 200 Tokens pro Sekunde ist die Bandbreite im Einzelbetrieb nicht mehr der bindende Engpass — solche Werte sind als Durchsatzreserve für parallele Anfragen zu lesen, nicht als Antworttempo für einen einzelnen Nutzer. Deshalb stehen sie mit „>“ statt „~“. Die vollständige Herleitung steht unter große Modelle lokal betreiben.

Häufige Fragen

Wie viel VRAM hat die Radeon RX 7900 XTX?: 24 GB GDDR6 bei 960 GB/s Speicherbandbreite. Der Speicher ist fest auf der Karte und lässt sich nicht erweitern.
Welches ist das größte Modell, das auf eine einzelne Radeon RX 7900 XTX passt?: Hermes 4.3 36B mit 36,2 Milliarden Parametern passt in der kleinsten sinnvollen Quantisierung noch auf eine Karte. Größere Modelle brauchen mehrere Karten oder Auslagerung in den Arbeitsspeicher.
Wie werden die Tokens pro Sekunde hier berechnet?: Aus der Speicherbandbreite geteilt durch die Datenmenge, die pro Token gelesen werden muss. Diese Datenmenge sind die aktiven Parameter mal den Bytes je Gewicht. Angesetzt werden 75 Prozent der theoretischen Spitzenbandbreite. Das Ergebnis ist eine Obergrenze, kein Messwert.
Zählen bei mehreren Karten die Speicher zusammen?: Für die Frage, ob ein Modell hineinpasst, ja: Die Gewichte lassen sich über mehrere Karten verteilen. Für die Geschwindigkeit gilt das nur eingeschränkt, weil die Kommunikation zwischen den Karten Zeit kostet. Die Werte in der Tabelle sind deshalb bei Mehrkarten-Aufbauten optimistischer als die Praxis.

Ob ein Modell in deinen Arbeitsspeicher passt, rechnet der Hardware-Rechner aus. Wie schnell es dort wäre, der Geschwindigkeits-Rechner unter große Modelle lokal betreiben. Und welcher Weg für dein Budget der richtige ist, steht im Hardware-Guide. Zurück zur Übersicht aller Karten.

Radeon RX 7900 XTX

Technische Daten

Welche Modelle laufen auf der Radeon RX 7900 XTX?

Ähnliche Karten

Häufige Fragen