RTX 3090 24 GB (gebraucht)
Preis-Leistungs-Tipp für 24 GB.
+7 Modelle flüssig, z. B. Qwen3 32B
Preise bei Amazon ansehen*Welche KI läuft auf der RTX 4060 Ti (16 GB)?
Die NVIDIA RTX 4060 Ti hat 16 GB Grafikspeicher und 288 GB/s Speicherbandbreite. Damit laufen 10 von 22 aktuellen KI-Modellen flüssig.
Kurzfazit
Die RTX 4060 Ti ist gut für lokale KI geeignet – auch die deutlich klügeren 12B- bis 21B-Modelle laufen flüssig.
- Empfehlung: gpt-oss 20B – Offenes Modell von OpenAI, sehr schnell dank MoE.
ollama run gpt-oss:20b - Größtes Modell im Grafikspeicher: Mistral Small 3.1 24B (Q3 (spürbare Einbußen), ca. 13,1 GB)
- Tempo: Mit 288 GB/s gehört die Karte zu den eher langsamen Modellen – die Bandbreite bestimmt, wie schnell die KI antwortet.
- Lange Texte: Bei 32.000 Tokens Kontext (z. B. für lange Dokumente) laufen noch 9 Modelle flüssig.
Im Rechner mit eigenen Einstellungen prüfen RTX 4060 Ti bei Amazon ansehen*
Alle Modelle auf der RTX 4060 Ti im Überblick
Annahmen: 8.000 Tokens Kontext, 32 GB DDR5-Arbeitsspeicher für die Auslagerung, Standard-Quantisierung Q4 (wie bei Ollama). Tempo = geschätzte Tokens pro Sekunde beim Antworten.
| Modell | Ergebnis | Speicher | Tempo | Details |
|---|---|---|---|---|
| gpt-oss 20B Chat · Logik · Programmieren | Läuft flüssig | 11,7 GB | ca. 90 Tokens/s | MXFP4 (Original) |
| Qwen3 14B Chat · Logik · Programmieren | Läuft flüssig | 10,5 GB | ca. 19 Tokens/s | Q4 (Standard) |
| Phi-4 14B Chat · Logik | Läuft flüssig | 10,7 GB | ca. 19 Tokens/s | Q4 (Standard) |
| Gemma 3 12B Chat · Bilder | Läuft flüssig | 10,7 GB | ca. 23 Tokens/s | Q4 (Standard) |
| Mistral Nemo 12B Chat | Läuft flüssig | 8,9 GB | ca. 23 Tokens/s | Q4 (Standard) |
| Qwen3 8B Chat · Logik · Programmieren | Läuft flüssig | 6,5 GB | ca. 35 Tokens/s | Q4 (Standard) |
| Llama 3.1 8B Chat | Läuft flüssig | 6,3 GB | ca. 36 Tokens/s | Q4 (Standard) |
| Gemma 3 4B Chat · Bilder | Läuft flüssig | 4,2 GB | ca. 66 Tokens/s | Q4 (Standard) |
| Qwen3 4B Chat · Logik | Läuft flüssig | 4,1 GB | ca. 71 Tokens/s | Q4 (Standard) |
| Llama 3.2 3B Chat | Läuft flüssig | 3,3 GB | ca. 89 Tokens/s | Q4 (Standard) |
| Qwen3 30B-A3B Chat · Logik | Läuft, etwas langsamer | 19,1 GB | ca. 26 Tokens/s | Q4 (Standard), teilweise ausgelagert |
| Qwen3-Coder 30B-A3B Programmieren | Läuft, etwas langsamer | 19,1 GB | ca. 26 Tokens/s | Q4 (Standard), teilweise ausgelagert |
| Mistral Small 3.1 24B Chat · Bilder | Läuft, etwas langsamer | 13,1 GB | ca. 15 Tokens/s | Q3 (spürbare Einbußen) |
| Qwen3 32B Chat · Logik · Programmieren | Nur sehr langsam | 21,7 GB | ca. 2 Tokens/s | Q4 (Standard), teilweise ausgelagert |
| Qwen2.5-Coder 32B Programmieren | Nur sehr langsam | 21,7 GB | ca. 2 Tokens/s | Q4 (Standard), teilweise ausgelagert |
| DeepSeek-R1 32B (Distill) Logik | Nur sehr langsam | 21,7 GB | ca. 2 Tokens/s | Q4 (Standard), teilweise ausgelagert |
| Gemma 3 27B Chat · Bilder | Nur sehr langsam | 20,4 GB | ca. 3 Tokens/s | Q4 (Standard), teilweise ausgelagert |
| Llama 3.3 70B Chat | Passt nicht | – | – | braucht ca. 36,1 GB |
| Llama 4 Scout Chat · Bilder | Passt nicht | – | – | braucht ca. 53,1 GB |
| gpt-oss 120B Chat · Logik · Programmieren | Passt nicht | – | – | braucht ca. 60,8 GB |
| Qwen3 235B-A22B Chat · Logik · Programmieren | Passt nicht | – | – | braucht ca. 112,0 GB |
| DeepSeek-R1 671B Logik | Passt nicht | – | – | braucht ca. 314,9 GB |
Mehr KI mit einem Upgrade
RTX 5090 32 GB
Das Schnellste für Zuhause.
+7 Modelle flüssig, z. B. Qwen3 32B
Preise bei Amazon ansehen*Mini-PC mit Ryzen AI Max+ 395 (128 GB)
Riesige Modelle zum Mini-PC-Preis.
+3 Modelle flüssig, z. B. gpt-oss 120B
Preise bei Amazon ansehen*Mac mini M4 Pro (64 GB)
Leise, sparsam, viel Speicher.
+2 Modelle flüssig, z. B. Qwen3 30B-A3B
Preise bei Amazon ansehen** Werbelink: Wenn du über diesen Link kaufst, erhalten wir eine kleine Provision. Für dich ändert sich am Preis nichts.
Häufige Fragen
Reicht die RTX 4060 Ti (16 GB) für lokale KI?
Die RTX 4060 Ti ist gut für lokale KI geeignet – auch die deutlich klügeren 12B- bis 21B-Modelle laufen flüssig. Mit 16 GB Grafikspeicher laufen 10 von 22 Modellen flüssig, das stärkste davon ist gpt-oss 20B.
Welches KI-Modell ist das beste für die RTX 4060 Ti?
Unsere Empfehlung ist gpt-oss 20B: Offenes Modell von OpenAI, sehr schnell dank MoE. Starten lässt es sich mit dem Befehl „ollama run gpt-oss:20b“.
Läuft Qwen3 32B auf der RTX 4060 Ti?
Nur mit Auslagerung in den Arbeitsspeicher: Mit 32 GB RAM läuft Qwen3 32B auf die RTX 4060 Ti, aber mit ca. 2 Tokens/s sehr langsam.
Läuft Llama 3.3 70B auf der RTX 4060 Ti?
Nein. Llama 3.3 70B braucht selbst stark komprimiert ca. 36,1 GB – mehr, als die RTX 4060 Ti bietet.
Läuft gpt-oss 20B auf der RTX 4060 Ti?
Ja. gpt-oss 20B passt in der Variante MXFP4 (Original) komplett in den Speicher (ca. 11,7 GB) und erreicht ca. 90 Tokens/s – das fühlt sich flüssig an.
Läuft Qwen3 14B auf der RTX 4060 Ti?
Ja. Qwen3 14B passt in der Variante Q4 (Standard) komplett in den Speicher (ca. 10,5 GB) und erreicht ca. 19 Tokens/s – das fühlt sich flüssig an.
Ähnliche Grafikkarten
- RX 7900 XT (20 GB)13 Modelle flüssig
- RTX 4070 Ti Super (16 GB)10 Modelle flüssig
- RTX 4080 / 4080 Super (16 GB)10 Modelle flüssig
- RTX 5060 Ti (16 GB)10 Modelle flüssig
- RTX 5070 Ti (16 GB)10 Modelle flüssig
- RTX 5080 (16 GB)10 Modelle flüssig