Apple M4 Pro (64 GB)
Apple · Apple Silicon · 64 GB · 273 GB/s
Der Einstieg in ernsthafte lokale Modelle ohne Grafikkarte. 64 GB Unified Memory nehmen ein 70B-Modell in 4 Bit auf, was auf keiner Consumer-Grafikkarte gelingt. Die 273 GB/s begrenzen das Tempo, aber für Einzelnutzung reicht es — und das Gerät bleibt leise und mobil.
Technische Daten
| Unified Memory | 64 GB LPDDR5X Unified |
|---|---|
| Speicherbandbreite | 273 GB/s |
| Leistungsaufnahme | 50 W |
| Architektur | Apple Silicon |
| Marktstart | 2024 Q4 |
Welche Modelle laufen auf der Apple M4 Pro (64 GB)?
Geschätzter Speicherbedarf offener Sprachmodelle in 16 Bit (BF16), 8 Bit (FP8) und 4 Bit (INT4), gemessen an 64 GB je Karte. Gezeigt werden die 12 größten Modelle, die noch passen — und was sie dabei an Geschwindigkeit liefern.
| Modell | Parameter | 16-Bit | 8-Bit | 4-Bit |
|---|---|---|---|---|
| DeepSeek V3.2 DeepSeek | 685,4 Mrd. 37,0 Mrd. aktiv | nicht veröffentlicht | zu groß | 343 GB 6× · 41 GB frei ~11,1 tok/s |
| DeepSeek R1 DeepSeek | 684,5 Mrd. 37,0 Mrd. aktiv | nicht veröffentlicht | zu groß | 342 GB 6× · 42 GB frei ~11,1 tok/s |
| DeepSeek V4 Flash DeepSeek | 304,2 Mrd. 13,0 Mrd. aktiv | nicht veröffentlicht | nicht veröffentlicht | 152 GB 3× · 40 GB frei ~31,5 tok/s |
| Qwen3 235B-A22B Alibaba | 235,1 Mrd. 22,0 Mrd. aktiv | zu groß | 235 GB 5× · 85 GB frei ~9,3 tok/s | 118 GB 3× · 74 GB frei ~18,6 tok/s |
| MiniMax M2.7 MiniMax | 228,7 Mrd. 10,0 Mrd. aktiv | nicht veröffentlicht | 229 GB 4× · 27 GB frei ~20,5 tok/s | 114 GB 2× · 14 GB frei ~41,0 tok/s |
| Mistral Large 2411 Mistral AI | 122,6 Mrd. | 245 GB 5× · 75 GB frei ~0,8 tok/s | 123 GB 3× · 69 GB frei ~1,7 tok/s | 61 GB 2× · 67 GB frei ~3,3 tok/s |
| gpt-oss-120b OpenAI | 116,8 Mrd. 5,1 Mrd. aktiv | 234 GB 5× · 86 GB frei ~20,1 tok/s | 117 GB 3× · 75 GB frei ~40,1 tok/s | 58 GB 2× · 70 GB frei ~80,3 tok/s |
| Qwen3-Next 80B-A3B Alibaba | 81,3 Mrd. 3,0 Mrd. aktiv | 163 GB 3× · 29 GB frei ~34,1 tok/s | 81 GB 2× · 47 GB frei ~68,3 tok/s | 41 GB 1× · 23 GB frei ~137 tok/s |
| Llama 3.1 70B Meta | 70,6 Mrd. | 141 GB 3× · 51 GB frei ~1,5 tok/s | 71 GB 2× · 57 GB frei ~2,9 tok/s | 35 GB 1× · 29 GB frei ~5,8 tok/s |
| Hermes 4.3 36B Nous Research | 36,2 Mrd. | 72 GB 2× · 56 GB frei ~2,8 tok/s | 36 GB 1× · 28 GB frei ~5,7 tok/s | 18 GB 1× · 46 GB frei ~11,3 tok/s |
| Qwen3 32B Alibaba | 32,8 Mrd. | 66 GB 2× · 62 GB frei ~3,1 tok/s | 33 GB 1× · 31 GB frei ~6,2 tok/s | 16 GB 1× · 48 GB frei ~12,5 tok/s |
| Gemma 4 31B Google | 31,3 Mrd. | 63 GB 2× · 65 GB frei ~3,3 tok/s | 31 GB 1× · 33 GB frei ~6,5 tok/s | 16 GB 1× · 48 GB frei ~13,1 tok/s |
Näherung, keine Messung. Parameterzahlen stammen aus den Safetensors-Metadaten der jeweiligen
HuggingFace-Repositories, nicht aus gerundeten Angaben der Modellkarten. „nicht veröffentlicht"
heißt, dass es diese Präzision als offizielles Release nicht gibt — DeepSeek V4 etwa liefert die
Experten ab Werk in vier Bit aus, eine BF16-Fassung existiert nicht.
Für die Kartenzahl werden 90 % des Speichers als nutzbar
angesetzt; der Rest deckt KV-Cache, Aktivierungen und Treiberkontext ab. Real gemessene
GGUF-Dateien liegen wegen der Blockskalen etwas über den hier gerechneten Größen.
Die Tokenrate ist eine Obergrenze aus Bandbreite ÷ (aktive Parameter × Bytes je Gewicht) bei
75 % Bandbreiteneffizienz. Ab etwa 200 Tokens
pro Sekunde ist die Bandbreite im Einzelbetrieb nicht mehr der bindende Engpass — solche Werte
sind als Durchsatzreserve für parallele Anfragen zu lesen, nicht als Antworttempo für einen
einzelnen Nutzer. Deshalb stehen sie mit „>“ statt „~“.
Die vollständige Herleitung steht unter große Modelle lokal betreiben.
Ähnliche Karten
- RTX 6000 Ada Generation 48 GB · 960 GB/s
- L40S 48 GB · 864 GB/s
- A100 80 GB SXM 80 GB · 2.039 GB/s
Häufige Fragen
- Wie viel VRAM hat die Apple M4 Pro (64 GB)?
- 64 GB LPDDR5X Unified bei 273 GB/s Speicherbandbreite. Es handelt sich um gemeinsamen Speicher für Prozessor und Grafikeinheit, eine getrennte VRAM-Angabe gibt es deshalb nicht.
- Welches ist das größte Modell, das auf eine einzelne Apple M4 Pro (64 GB) passt?
- Qwen3-Next 80B-A3B mit 81,3 Milliarden Parametern passt in der kleinsten sinnvollen Quantisierung noch auf eine Karte. Größere Modelle brauchen mehrere Karten oder Auslagerung in den Arbeitsspeicher.
- Wie werden die Tokens pro Sekunde hier berechnet?
- Aus der Speicherbandbreite geteilt durch die Datenmenge, die pro Token gelesen werden muss. Diese Datenmenge sind die aktiven Parameter mal den Bytes je Gewicht. Angesetzt werden 75 Prozent der theoretischen Spitzenbandbreite. Das Ergebnis ist eine Obergrenze, kein Messwert.
- Zählen bei mehreren Karten die Speicher zusammen?
- Für die Frage, ob ein Modell hineinpasst, ja: Die Gewichte lassen sich über mehrere Karten verteilen. Für die Geschwindigkeit gilt das nur eingeschränkt, weil die Kommunikation zwischen den Karten Zeit kostet. Die Werte in der Tabelle sind deshalb bei Mehrkarten-Aufbauten optimistischer als die Praxis.
Ob ein Modell in deinen Arbeitsspeicher passt, rechnet der Hardware-Rechner aus. Wie schnell es dort wäre, der Geschwindigkeits-Rechner unter große Modelle lokal betreiben. Und welcher Weg für dein Budget der richtige ist, steht im Hardware-Guide. Zurück zur Übersicht aller Karten.