Wie viel VRAM hat die Instinct MI300X?

192 GB HBM3 bei 5.300 GB/s Speicherbandbreite. Der Speicher ist fest auf der Karte und lässt sich nicht erweitern.

Welches ist das größte Modell, das auf eine einzelne Instinct MI300X passt?

DeepSeek V4 Flash mit 304,2 Milliarden Parametern passt in der kleinsten sinnvollen Quantisierung noch auf eine Karte. Größere Modelle brauchen mehrere Karten oder Auslagerung in den Arbeitsspeicher.

Wie werden die Tokens pro Sekunde hier berechnet?

Aus der Speicherbandbreite geteilt durch die Datenmenge, die pro Token gelesen werden muss. Diese Datenmenge sind die aktiven Parameter mal den Bytes je Gewicht. Angesetzt werden 75 Prozent der theoretischen Spitzenbandbreite. Das Ergebnis ist eine Obergrenze, kein Messwert.

Zählen bei mehreren Karten die Speicher zusammen?

Für die Frage, ob ein Modell hineinpasst, ja: Die Gewichte lassen sich über mehrere Karten verteilen. Für die Geschwindigkeit gilt das nur eingeschränkt, weil die Kommunikation zwischen den Karten Zeit kostet. Die Werte in der Tabelle sind deshalb bei Mehrkarten-Aufbauten optimistischer als die Praxis.

Instinct MI300X

AMD · CDNA 3 · 192 GB · 5.300 GB/s

AMDs Antwort auf die H100, und zwar über den Speicher: 192 GB statt 80 GB auf einer Karte. Genau darin liegt der Vorteil bei großen Modellen — was auf einen Knoten passt, muss nicht über Knoten kommunizieren. Softwareseitig braucht es Bereitschaft, sich auf ROCm einzulassen.

Technische Daten

Grafikspeicher	192 GB HBM3
Speicherbandbreite	5.300 GB/s
Leistungsaufnahme	750 W
Architektur	CDNA 3
Marktstart	2023 Q4

Welche Modelle laufen auf der Instinct MI300X?

Geschätzter Speicherbedarf offener Sprachmodelle in 16 Bit (BF16), 8 Bit (FP8) und 4 Bit (INT4), gemessen an 192 GB je Karte. Gezeigt werden die 12 größten Modelle, die noch passen — und was sie dabei an Geschwindigkeit liefern.

Modell	Parameter	16-Bit	8-Bit	4-Bit
DeepSeek V4 Pro DeepSeek	1598,8 Mrd. 49,0 Mrd. aktiv	nicht veröffentlicht	nicht veröffentlicht	799 GB 5× · 161 GB frei ~162 tok/s
Kimi K2 Thinking Moonshot AI	1058,1 Mrd. 32,0 Mrd. aktiv	zu groß	1.058 GB 7× · 286 GB frei ~124 tok/s	529 GB 4× · 239 GB frei >248 tok/s
DeepSeek V3.2 DeepSeek	685,4 Mrd. 37,0 Mrd. aktiv	nicht veröffentlicht	685 GB 4× · 83 GB frei ~107 tok/s	343 GB 2× · 41 GB frei >215 tok/s
DeepSeek R1 DeepSeek	684,5 Mrd. 37,0 Mrd. aktiv	nicht veröffentlicht	685 GB 4× · 84 GB frei ~107 tok/s	342 GB 2× · 42 GB frei >215 tok/s
DeepSeek V4 Flash DeepSeek	304,2 Mrd. 13,0 Mrd. aktiv	nicht veröffentlicht	nicht veröffentlicht	152 GB 1× · 40 GB frei >612 tok/s
Qwen3 235B-A22B Alibaba	235,1 Mrd. 22,0 Mrd. aktiv	470 GB 3× · 106 GB frei ~90,3 tok/s	235 GB 2× · 149 GB frei ~181 tok/s	118 GB 1× · 74 GB frei >361 tok/s
MiniMax M2.7 MiniMax	228,7 Mrd. 10,0 Mrd. aktiv	nicht veröffentlicht	229 GB 2× · 155 GB frei >398 tok/s	114 GB 1× · 78 GB frei >795 tok/s
Mistral Large 2411 Mistral AI	122,6 Mrd.	245 GB 2× · 139 GB frei ~16,2 tok/s	123 GB 1× · 69 GB frei ~32,4 tok/s	61 GB 1× · 131 GB frei ~64,8 tok/s
gpt-oss-120b OpenAI	116,8 Mrd. 5,1 Mrd. aktiv	234 GB 2× · 150 GB frei >390 tok/s	117 GB 1× · 75 GB frei >779 tok/s	58 GB 1× · 134 GB frei >1.559 tok/s
Qwen3-Next 80B-A3B Alibaba	81,3 Mrd. 3,0 Mrd. aktiv	163 GB 1× · 29 GB frei >663 tok/s	81 GB 1× · 111 GB frei >1.325 tok/s	41 GB 1× · 151 GB frei >2.650 tok/s
Llama 3.1 70B Meta	70,6 Mrd.	141 GB 1× · 51 GB frei ~28,2 tok/s	71 GB 1× · 121 GB frei ~56,3 tok/s	35 GB 1× · 157 GB frei ~113 tok/s
Hermes 4.3 36B Nous Research	36,2 Mrd.	72 GB 1× · 120 GB frei ~54,9 tok/s	36 GB 1× · 156 GB frei ~110 tok/s	18 GB 1× · 174 GB frei >220 tok/s

Näherung, keine Messung. Parameterzahlen stammen aus den Safetensors-Metadaten der jeweiligen HuggingFace-Repositories, nicht aus gerundeten Angaben der Modellkarten. „nicht veröffentlicht" heißt, dass es diese Präzision als offizielles Release nicht gibt — DeepSeek V4 etwa liefert die Experten ab Werk in vier Bit aus, eine BF16-Fassung existiert nicht.

Für die Kartenzahl werden 90 % des Speichers als nutzbar angesetzt; der Rest deckt KV-Cache, Aktivierungen und Treiberkontext ab. Real gemessene GGUF-Dateien liegen wegen der Blockskalen etwas über den hier gerechneten Größen.

Die Tokenrate ist eine Obergrenze aus Bandbreite ÷ (aktive Parameter × Bytes je Gewicht) bei 75 % Bandbreiteneffizienz. Ab etwa 200 Tokens pro Sekunde ist die Bandbreite im Einzelbetrieb nicht mehr der bindende Engpass — solche Werte sind als Durchsatzreserve für parallele Anfragen zu lesen, nicht als Antworttempo für einen einzelnen Nutzer. Deshalb stehen sie mit „>“ statt „~“. Die vollständige Herleitung steht unter große Modelle lokal betreiben.

Häufige Fragen

Wie viel VRAM hat die Instinct MI300X?: 192 GB HBM3 bei 5.300 GB/s Speicherbandbreite. Der Speicher ist fest auf der Karte und lässt sich nicht erweitern.
Welches ist das größte Modell, das auf eine einzelne Instinct MI300X passt?: DeepSeek V4 Flash mit 304,2 Milliarden Parametern passt in der kleinsten sinnvollen Quantisierung noch auf eine Karte. Größere Modelle brauchen mehrere Karten oder Auslagerung in den Arbeitsspeicher.
Wie werden die Tokens pro Sekunde hier berechnet?: Aus der Speicherbandbreite geteilt durch die Datenmenge, die pro Token gelesen werden muss. Diese Datenmenge sind die aktiven Parameter mal den Bytes je Gewicht. Angesetzt werden 75 Prozent der theoretischen Spitzenbandbreite. Das Ergebnis ist eine Obergrenze, kein Messwert.
Zählen bei mehreren Karten die Speicher zusammen?: Für die Frage, ob ein Modell hineinpasst, ja: Die Gewichte lassen sich über mehrere Karten verteilen. Für die Geschwindigkeit gilt das nur eingeschränkt, weil die Kommunikation zwischen den Karten Zeit kostet. Die Werte in der Tabelle sind deshalb bei Mehrkarten-Aufbauten optimistischer als die Praxis.

Ob ein Modell in deinen Arbeitsspeicher passt, rechnet der Hardware-Rechner aus. Wie schnell es dort wäre, der Geschwindigkeits-Rechner unter große Modelle lokal betreiben. Und welcher Weg für dein Budget der richtige ist, steht im Hardware-Guide. Zurück zur Übersicht aller Karten.

Instinct MI300X

Technische Daten

Welche Modelle laufen auf der Instinct MI300X?

Ähnliche Karten

Häufige Fragen