Welche KI läuft auf der RTX 5090 (32 GB)?

Die NVIDIA RTX 5090 hat 32 GB Grafikspeicher und 1792 GB/s Speicherbandbreite. Damit laufen 17 von 22 aktuellen KI-Modellen flüssig.

Kurzfazit

Die RTX 5090 ist sehr gut für lokale KI geeignet – auch große Modelle laufen flüssig.

Im Rechner mit eigenen Einstellungen prüfen RTX 5090 bei Amazon ansehen*

Alle Modelle auf der RTX 5090 im Überblick

Annahmen: 8.000 Tokens Kontext, 32 GB DDR5-Arbeitsspeicher für die Auslagerung, Standard-Quantisierung Q4 (wie bei Ollama). Tempo = geschätzte Tokens pro Sekunde beim Antworten.

ModellErgebnisSpeicherTempoDetails
Qwen3 32B
Chat · Logik · Programmieren
Läuft flüssig21,7 GBca. 54 Tokens/sQ4 (Standard)
Qwen2.5-Coder 32B
Programmieren
Läuft flüssig21,7 GBca. 54 Tokens/sQ4 (Standard)
DeepSeek-R1 32B (Distill)
Logik
Läuft flüssig21,7 GBca. 54 Tokens/sQ4 (Standard)
Qwen3 30B-A3B
Chat · Logik
Läuft flüssig19,1 GBca. 537 Tokens/sQ4 (Standard)
Qwen3-Coder 30B-A3B
Programmieren
Läuft flüssig19,1 GBca. 537 Tokens/sQ4 (Standard)
Gemma 3 27B
Chat · Bilder
Läuft flüssig20,4 GBca. 65 Tokens/sQ4 (Standard)
Mistral Small 3.1 24B
Chat · Bilder
Läuft flüssig15,8 GBca. 74 Tokens/sQ4 (Standard)
gpt-oss 20B
Chat · Logik · Programmieren
Läuft flüssig11,7 GBca. 562 Tokens/sMXFP4 (Original)
Qwen3 14B
Chat · Logik · Programmieren
Läuft flüssig10,5 GBca. 120 Tokens/sQ4 (Standard)
Phi-4 14B
Chat · Logik
Läuft flüssig10,7 GBca. 121 Tokens/sQ4 (Standard)
Gemma 3 12B
Chat · Bilder
Läuft flüssig10,7 GBca. 145 Tokens/sQ4 (Standard)
Mistral Nemo 12B
Chat
Läuft flüssig8,9 GBca. 145 Tokens/sQ4 (Standard)
Qwen3 8B
Chat · Logik · Programmieren
Läuft flüssig6,5 GBca. 216 Tokens/sQ4 (Standard)
Llama 3.1 8B
Chat
Läuft flüssig6,3 GBca. 222 Tokens/sQ4 (Standard)
Gemma 3 4B
Chat · Bilder
Läuft flüssig4,2 GBca. 412 Tokens/sQ4 (Standard)
Qwen3 4B
Chat · Logik
Läuft flüssig4,1 GBca. 443 Tokens/sQ4 (Standard)
Llama 3.2 3B
Chat
Läuft flüssig3,3 GBca. 554 Tokens/sQ4 (Standard)
Llama 3.3 70B
Chat
Nur sehr langsam44,2 GBca. 1 Tokens/sQ4 (Standard), teilweise ausgelagert
Llama 4 Scout
Chat · Bilder
Passt nicht––braucht ca. 53,1 GB
gpt-oss 120B
Chat · Logik · Programmieren
Passt nicht––braucht ca. 60,8 GB
Qwen3 235B-A22B
Chat · Logik · Programmieren
Passt nicht––braucht ca. 112,0 GB
DeepSeek-R1 671B
Logik
Passt nicht––braucht ca. 314,9 GB

Mehr KI mit einem Upgrade

Mini-PC mit Ryzen AI Max+ 395 (128 GB)

Riesige Modelle zum Mini-PC-Preis.

+1 Modelle flüssig, z. B. gpt-oss 120B

Preise bei Amazon ansehen*

* Werbelink: Wenn du über diesen Link kaufst, erhalten wir eine kleine Provision. Für dich ändert sich am Preis nichts.

Häufige Fragen

Reicht die RTX 5090 (32 GB) für lokale KI?

Die RTX 5090 ist sehr gut für lokale KI geeignet – auch große Modelle laufen flüssig. Mit 32 GB Grafikspeicher laufen 17 von 22 Modellen flüssig, das stärkste davon ist Qwen3 32B.

Welches KI-Modell ist das beste für die RTX 5090?

Unsere Empfehlung ist Qwen3 32B: Das stärkste dichte Qwen3-Modell. Starten lässt es sich mit dem Befehl „ollama run qwen3:32b“.

Läuft Qwen3 32B auf der RTX 5090?

Ja. Qwen3 32B passt in der Variante Q4 (Standard) komplett in den Speicher (ca. 21,7 GB) und erreicht ca. 54 Tokens/s – das fühlt sich flüssig an.

Läuft Llama 3.3 70B auf der RTX 5090?

Nur mit Auslagerung in den Arbeitsspeicher: Mit 32 GB RAM läuft Llama 3.3 70B auf die RTX 5090, aber mit ca. 1 Tokens/s sehr langsam.

Läuft gpt-oss 20B auf der RTX 5090?

Ja. gpt-oss 20B passt in der Variante MXFP4 (Original) komplett in den Speicher (ca. 11,7 GB) und erreicht ca. 562 Tokens/s – das fühlt sich flüssig an.

Läuft Qwen3 14B auf der RTX 5090?

Ja. Qwen3 14B passt in der Variante Q4 (Standard) komplett in den Speicher (ca. 10,5 GB) und erreicht ca. 120 Tokens/s – das fühlt sich flüssig an.

Ähnliche Grafikkarten

Alle Grafikkarten vergleichen →