RTX 3090 24 GB (gebraucht)
Preis-Leistungs-Tipp für 24 GB.
+7 Modelle flüssig, z. B. Qwen3 32B
Preise bei Amazon ansehen*Welche KI läuft auf der RTX 4080 / 4080 Super (16 GB)?
Die NVIDIA RTX 4080 / 4080 Super hat 16 GB Grafikspeicher und 736 GB/s Speicherbandbreite. Damit laufen 10 von 22 aktuellen KI-Modellen flüssig.
Kurzfazit
Die RTX 4080 / 4080 Super ist gut für lokale KI geeignet – auch die deutlich klügeren 12B- bis 21B-Modelle laufen flüssig.
- Empfehlung: gpt-oss 20B – Offenes Modell von OpenAI, sehr schnell dank MoE.
ollama run gpt-oss:20b - Größtes Modell im Grafikspeicher: Mistral Small 3.1 24B (Q3 (spürbare Einbußen), ca. 13,1 GB)
- Tempo: Mit 736 GB/s gehört die Karte zu den mittelschnellen Modellen – die Bandbreite bestimmt, wie schnell die KI antwortet.
- Lange Texte: Bei 32.000 Tokens Kontext (z. B. für lange Dokumente) laufen noch 9 Modelle flüssig.
Im Rechner mit eigenen Einstellungen prüfen RTX 4080 / 4080 Super bei Amazon ansehen*
Alle Modelle auf der RTX 4080 / 4080 Super im Überblick
Annahmen: 8.000 Tokens Kontext, 32 GB DDR5-Arbeitsspeicher für die Auslagerung, Standard-Quantisierung Q4 (wie bei Ollama). Tempo = geschätzte Tokens pro Sekunde beim Antworten.
| Modell | Ergebnis | Speicher | Tempo | Details |
|---|---|---|---|---|
| gpt-oss 20B Chat · Logik · Programmieren | Läuft flüssig | 11,7 GB | ca. 231 Tokens/s | MXFP4 (Original) |
| Qwen3 14B Chat · Logik · Programmieren | Läuft flüssig | 10,5 GB | ca. 49 Tokens/s | Q4 (Standard) |
| Phi-4 14B Chat · Logik | Läuft flüssig | 10,7 GB | ca. 50 Tokens/s | Q4 (Standard) |
| Gemma 3 12B Chat · Bilder | Läuft flüssig | 10,7 GB | ca. 60 Tokens/s | Q4 (Standard) |
| Mistral Nemo 12B Chat | Läuft flüssig | 8,9 GB | ca. 60 Tokens/s | Q4 (Standard) |
| Qwen3 8B Chat · Logik · Programmieren | Läuft flüssig | 6,5 GB | ca. 89 Tokens/s | Q4 (Standard) |
| Llama 3.1 8B Chat | Läuft flüssig | 6,3 GB | ca. 91 Tokens/s | Q4 (Standard) |
| Gemma 3 4B Chat · Bilder | Läuft flüssig | 4,2 GB | ca. 169 Tokens/s | Q4 (Standard) |
| Qwen3 4B Chat · Logik | Läuft flüssig | 4,1 GB | ca. 182 Tokens/s | Q4 (Standard) |
| Llama 3.2 3B Chat | Läuft flüssig | 3,3 GB | ca. 228 Tokens/s | Q4 (Standard) |
| Qwen3 30B-A3B Chat · Logik | Läuft, etwas langsamer | 19,1 GB | ca. 37 Tokens/s | Q4 (Standard), teilweise ausgelagert |
| Qwen3-Coder 30B-A3B Programmieren | Läuft, etwas langsamer | 19,1 GB | ca. 37 Tokens/s | Q4 (Standard), teilweise ausgelagert |
| Mistral Small 3.1 24B Chat · Bilder | Läuft, etwas langsamer | 13,1 GB | ca. 38 Tokens/s | Q3 (spürbare Einbußen) |
| Qwen3 32B Chat · Logik · Programmieren | Nur sehr langsam | 21,7 GB | ca. 3 Tokens/s | Q4 (Standard), teilweise ausgelagert |
| Qwen2.5-Coder 32B Programmieren | Nur sehr langsam | 21,7 GB | ca. 3 Tokens/s | Q4 (Standard), teilweise ausgelagert |
| DeepSeek-R1 32B (Distill) Logik | Nur sehr langsam | 21,7 GB | ca. 3 Tokens/s | Q4 (Standard), teilweise ausgelagert |
| Gemma 3 27B Chat · Bilder | Nur sehr langsam | 20,4 GB | ca. 3 Tokens/s | Q4 (Standard), teilweise ausgelagert |
| Llama 3.3 70B Chat | Passt nicht | – | – | braucht ca. 36,1 GB |
| Llama 4 Scout Chat · Bilder | Passt nicht | – | – | braucht ca. 53,1 GB |
| gpt-oss 120B Chat · Logik · Programmieren | Passt nicht | – | – | braucht ca. 60,8 GB |
| Qwen3 235B-A22B Chat · Logik · Programmieren | Passt nicht | – | – | braucht ca. 112,0 GB |
| DeepSeek-R1 671B Logik | Passt nicht | – | – | braucht ca. 314,9 GB |
Mehr KI mit einem Upgrade
RTX 5090 32 GB
Das Schnellste für Zuhause.
+7 Modelle flüssig, z. B. Qwen3 32B
Preise bei Amazon ansehen*Mini-PC mit Ryzen AI Max+ 395 (128 GB)
Riesige Modelle zum Mini-PC-Preis.
+3 Modelle flüssig, z. B. gpt-oss 120B
Preise bei Amazon ansehen*Mac mini M4 Pro (64 GB)
Leise, sparsam, viel Speicher.
+2 Modelle flüssig, z. B. Qwen3 30B-A3B
Preise bei Amazon ansehen** Werbelink: Wenn du über diesen Link kaufst, erhalten wir eine kleine Provision. Für dich ändert sich am Preis nichts.
Häufige Fragen
Reicht die RTX 4080 / 4080 Super (16 GB) für lokale KI?
Die RTX 4080 / 4080 Super ist gut für lokale KI geeignet – auch die deutlich klügeren 12B- bis 21B-Modelle laufen flüssig. Mit 16 GB Grafikspeicher laufen 10 von 22 Modellen flüssig, das stärkste davon ist gpt-oss 20B.
Welches KI-Modell ist das beste für die RTX 4080 / 4080 Super?
Unsere Empfehlung ist gpt-oss 20B: Offenes Modell von OpenAI, sehr schnell dank MoE. Starten lässt es sich mit dem Befehl „ollama run gpt-oss:20b“.
Läuft Qwen3 32B auf der RTX 4080 / 4080 Super?
Nur mit Auslagerung in den Arbeitsspeicher: Mit 32 GB RAM läuft Qwen3 32B auf die RTX 4080 / 4080 Super, aber mit ca. 3 Tokens/s sehr langsam.
Läuft Llama 3.3 70B auf der RTX 4080 / 4080 Super?
Nein. Llama 3.3 70B braucht selbst stark komprimiert ca. 36,1 GB – mehr, als die RTX 4080 / 4080 Super bietet.
Läuft gpt-oss 20B auf der RTX 4080 / 4080 Super?
Ja. gpt-oss 20B passt in der Variante MXFP4 (Original) komplett in den Speicher (ca. 11,7 GB) und erreicht ca. 231 Tokens/s – das fühlt sich flüssig an.
Läuft Qwen3 14B auf der RTX 4080 / 4080 Super?
Ja. Qwen3 14B passt in der Variante Q4 (Standard) komplett in den Speicher (ca. 10,5 GB) und erreicht ca. 49 Tokens/s – das fühlt sich flüssig an.
Ähnliche Grafikkarten
- RX 7900 XT (20 GB)13 Modelle flüssig
- RTX 4060 Ti (16 GB)10 Modelle flüssig
- RTX 4070 Ti Super (16 GB)10 Modelle flüssig
- RTX 5060 Ti (16 GB)10 Modelle flüssig
- RTX 5070 Ti (16 GB)10 Modelle flüssig
- RTX 5080 (16 GB)10 Modelle flüssig