Welche KI läuft auf dem Mac mit M2 Ultra (128 GB)?

Macs mit Apple M2 Ultra und 128 GB gemeinsamem Arbeitsspeicher (MacBook, Mac mini, iMac oder Mac Studio) stellen ca. 96,0 GB für KI-Modelle bereit. Damit laufen 19 von 22 aktuellen Modellen flüssig.

Kurzfazit

Ein Mac mit M2 Ultra (128 GB) ist sehr gut für lokale KI geeignet – auch große Modelle laufen flüssig.

Im Rechner mit eigenen Einstellungen prüfen

Alle Modelle auf dem M2 Ultra mit 128 GB

Annahmen: 8.000 Tokens Kontext, Standard-Quantisierung Q4 (wie bei Ollama), Speicherfreigabe von macOS ohne manuelle Anpassung.

ModellErgebnisSpeicherTempoDetails
gpt-oss 120B
Chat · Logik · Programmieren
Läuft flüssig60,8 GBca. 177 Tokens/sMXFP4 (Original)
Llama 4 Scout
Chat · Bilder
Läuft flüssig65,5 GBca. 47 Tokens/sQ4 (Standard)
Qwen3 32B
Chat · Logik · Programmieren
Läuft flüssig21,7 GBca. 24 Tokens/sQ4 (Standard)
Qwen2.5-Coder 32B
Programmieren
Läuft flüssig21,7 GBca. 24 Tokens/sQ4 (Standard)
DeepSeek-R1 32B (Distill)
Logik
Läuft flüssig21,7 GBca. 24 Tokens/sQ4 (Standard)
Qwen3 30B-A3B
Chat · Logik
Läuft flüssig19,1 GBca. 240 Tokens/sQ4 (Standard)
Qwen3-Coder 30B-A3B
Programmieren
Läuft flüssig19,1 GBca. 240 Tokens/sQ4 (Standard)
Gemma 3 27B
Chat · Bilder
Läuft flüssig20,4 GBca. 29 Tokens/sQ4 (Standard)
Mistral Small 3.1 24B
Chat · Bilder
Läuft flüssig15,8 GBca. 33 Tokens/sQ4 (Standard)
gpt-oss 20B
Chat · Logik · Programmieren
Läuft flüssig11,7 GBca. 251 Tokens/sMXFP4 (Original)
Qwen3 14B
Chat · Logik · Programmieren
Läuft flüssig10,5 GBca. 53 Tokens/sQ4 (Standard)
Phi-4 14B
Chat · Logik
Läuft flüssig10,7 GBca. 54 Tokens/sQ4 (Standard)
Gemma 3 12B
Chat · Bilder
Läuft flüssig10,7 GBca. 65 Tokens/sQ4 (Standard)
Mistral Nemo 12B
Chat
Läuft flüssig8,9 GBca. 65 Tokens/sQ4 (Standard)
Qwen3 8B
Chat · Logik · Programmieren
Läuft flüssig6,5 GBca. 97 Tokens/sQ4 (Standard)
Llama 3.1 8B
Chat
Läuft flüssig6,3 GBca. 99 Tokens/sQ4 (Standard)
Gemma 3 4B
Chat · Bilder
Läuft flüssig4,2 GBca. 184 Tokens/sQ4 (Standard)
Qwen3 4B
Chat · Logik
Läuft flüssig4,1 GBca. 198 Tokens/sQ4 (Standard)
Llama 3.2 3B
Chat
Läuft flüssig3,3 GBca. 247 Tokens/sQ4 (Standard)
Llama 3.3 70B
Chat
Läuft, etwas langsamer44,2 GBca. 11 Tokens/sQ4 (Standard)
Qwen3 235B-A22B
Chat · Logik · Programmieren
Passt nicht––braucht ca. 112,0 GB
DeepSeek-R1 671B
Logik
Passt nicht––braucht ca. 314,9 GB

Mehr KI mit mehr Speicher

Diese Hardware gehört schon zur Spitzenklasse – sinnvolle Upgrades gibt es kaum.

Häufige Fragen

Reicht ein Mac mit M2 Ultra (128 GB) für lokale KI?

Ein Mac mit M2 Ultra (128 GB) ist sehr gut für lokale KI geeignet – auch große Modelle laufen flüssig. Von 128 GB Arbeitsspeicher kann macOS standardmäßig ca. 96,0 GB für die KI bereitstellen. Damit laufen 19 von 22 Modellen flüssig.

Welches KI-Modell ist das beste für den M2 Ultra mit 128 GB?

Unsere Empfehlung ist gpt-oss 120B: Sehr stark und trotz Größe flott. Starten lässt es sich mit „ollama run gpt-oss:120b“.

Läuft Qwen3 32B auf dem M2 Ultra mit 128 GB?

Ja. Qwen3 32B passt in der Variante Q4 (Standard) komplett in den Speicher (ca. 21,7 GB) und erreicht ca. 24 Tokens/s – das fühlt sich flüssig an.

Läuft Llama 3.3 70B auf dem M2 Ultra mit 128 GB?

Ja. Llama 3.3 70B passt in der Variante Q4 (Standard) komplett in den Speicher (ca. 44,2 GB) und erreicht ca. 11 Tokens/s – nutzbar, aber spürbar langsamer als ein Chat mit ChatGPT.

Läuft gpt-oss 120B auf dem M2 Ultra mit 128 GB?

Ja. gpt-oss 120B passt in der Variante MXFP4 (Original) komplett in den Speicher (ca. 60,8 GB) und erreicht ca. 177 Tokens/s – das fühlt sich flüssig an.

Läuft Qwen3 30B-A3B auf dem M2 Ultra mit 128 GB?

Ja. Qwen3 30B-A3B passt in der Variante Q4 (Standard) komplett in den Speicher (ca. 19,1 GB) und erreicht ca. 240 Tokens/s – das fühlt sich flüssig an.

Andere Mac-Konfigurationen

Alle Mac-Konfigurationen vergleichen →