RTX 5060 Ti 16 GB
Günstigster Einstieg in 16 GB VRAM.
+5 Modelle flüssig, z. B. gpt-oss 20B
Preise bei Amazon ansehen*Welche KI läuft auf der RTX 5060 (8 GB)?
Die NVIDIA RTX 5060 hat 8 GB Grafikspeicher und 448 GB/s Speicherbandbreite. Damit laufen 5 von 22 aktuellen KI-Modellen flüssig.
Kurzfazit
Die RTX 5060 ist ein solider Einstieg: Modelle bis etwa 8 Milliarden Parameter laufen flüssig, für die klügeren 14B-Modelle fehlt aber der Speicher oder das Tempo.
- Empfehlung: Qwen3 8B – Einer der besten Allrounder in dieser Klasse.
ollama run qwen3:8b - Größtes Modell im Grafikspeicher: Qwen3 8B (Q4 (Standard), ca. 6,5 GB)
- Tempo: Mit 448 GB/s gehört die Karte zu den eher langsamen Modellen – die Bandbreite bestimmt, wie schnell die KI antwortet.
- Lange Texte: Bei 32.000 Tokens Kontext (z. B. für lange Dokumente) laufen noch 3 Modelle flüssig.
Im Rechner mit eigenen Einstellungen prüfen RTX 5060 bei Amazon ansehen*
Alle Modelle auf der RTX 5060 im Überblick
Annahmen: 8.000 Tokens Kontext, 32 GB DDR5-Arbeitsspeicher für die Auslagerung, Standard-Quantisierung Q4 (wie bei Ollama). Tempo = geschätzte Tokens pro Sekunde beim Antworten.
| Modell | Ergebnis | Speicher | Tempo | Details |
|---|---|---|---|---|
| Qwen3 8B Chat · Logik · Programmieren | Läuft flüssig | 6,5 GB | ca. 54 Tokens/s | Q4 (Standard) |
| Llama 3.1 8B Chat | Läuft flüssig | 6,3 GB | ca. 55 Tokens/s | Q4 (Standard) |
| Gemma 3 4B Chat · Bilder | Läuft flüssig | 4,2 GB | ca. 103 Tokens/s | Q4 (Standard) |
| Qwen3 4B Chat · Logik | Läuft flüssig | 4,1 GB | ca. 111 Tokens/s | Q4 (Standard) |
| Llama 3.2 3B Chat | Läuft flüssig | 3,3 GB | ca. 139 Tokens/s | Q4 (Standard) |
| Qwen3 30B-A3B Chat · Logik | Läuft, etwas langsamer | 19,1 GB | ca. 14 Tokens/s | Q4 (Standard), teilweise ausgelagert |
| Qwen3-Coder 30B-A3B Programmieren | Läuft, etwas langsamer | 19,1 GB | ca. 14 Tokens/s | Q4 (Standard), teilweise ausgelagert |
| gpt-oss 20B Chat · Logik · Programmieren | Läuft, etwas langsamer | 11,7 GB | ca. 22 Tokens/s | MXFP4 (Original), teilweise ausgelagert |
| Qwen3 32B Chat · Logik · Programmieren | Nur sehr langsam | 21,7 GB | ca. 1 Tokens/s | Q4 (Standard), teilweise ausgelagert |
| Qwen2.5-Coder 32B Programmieren | Nur sehr langsam | 21,7 GB | ca. 1 Tokens/s | Q4 (Standard), teilweise ausgelagert |
| DeepSeek-R1 32B (Distill) Logik | Nur sehr langsam | 21,7 GB | ca. 1 Tokens/s | Q4 (Standard), teilweise ausgelagert |
| Gemma 3 27B Chat · Bilder | Nur sehr langsam | 20,4 GB | ca. 1 Tokens/s | Q4 (Standard), teilweise ausgelagert |
| Mistral Small 3.1 24B Chat · Bilder | Nur sehr langsam | 15,8 GB | ca. 2 Tokens/s | Q4 (Standard), teilweise ausgelagert |
| Qwen3 14B Chat · Logik · Programmieren | Nur sehr langsam | 10,5 GB | ca. 5 Tokens/s | Q4 (Standard), teilweise ausgelagert |
| Phi-4 14B Chat · Logik | Nur sehr langsam | 10,7 GB | ca. 5 Tokens/s | Q4 (Standard), teilweise ausgelagert |
| Gemma 3 12B Chat · Bilder | Nur sehr langsam | 10,7 GB | ca. 5 Tokens/s | Q4 (Standard), teilweise ausgelagert |
| Mistral Nemo 12B Chat | Nur sehr langsam | 8,9 GB | ca. 9 Tokens/s | Q4 (Standard), teilweise ausgelagert |
| Llama 3.3 70B Chat | Passt nicht | – | – | braucht ca. 36,1 GB |
| Llama 4 Scout Chat · Bilder | Passt nicht | – | – | braucht ca. 53,1 GB |
| gpt-oss 120B Chat · Logik · Programmieren | Passt nicht | – | – | braucht ca. 60,8 GB |
| Qwen3 235B-A22B Chat · Logik · Programmieren | Passt nicht | – | – | braucht ca. 112,0 GB |
| DeepSeek-R1 671B Logik | Passt nicht | – | – | braucht ca. 314,9 GB |
Mehr KI mit einem Upgrade
RTX 5070 Ti 16 GB
16 GB mit doppeltem Tempo.
+5 Modelle flüssig, z. B. gpt-oss 20B
Preise bei Amazon ansehen*RTX 3090 24 GB (gebraucht)
Preis-Leistungs-Tipp für 24 GB.
+12 Modelle flüssig, z. B. Qwen3 32B
Preise bei Amazon ansehen*RTX 5090 32 GB
Das Schnellste für Zuhause.
+12 Modelle flüssig, z. B. Qwen3 32B
Preise bei Amazon ansehen** Werbelink: Wenn du über diesen Link kaufst, erhalten wir eine kleine Provision. Für dich ändert sich am Preis nichts.
Häufige Fragen
Reicht die RTX 5060 (8 GB) für lokale KI?
Die RTX 5060 ist ein solider Einstieg: Modelle bis etwa 8 Milliarden Parameter laufen flüssig, für die klügeren 14B-Modelle fehlt aber der Speicher oder das Tempo. Mit 8 GB Grafikspeicher laufen 5 von 22 Modellen flüssig, das stärkste davon ist Qwen3 8B.
Welches KI-Modell ist das beste für die RTX 5060?
Unsere Empfehlung ist Qwen3 8B: Einer der besten Allrounder in dieser Klasse. Starten lässt es sich mit dem Befehl „ollama run qwen3:8b“.
Läuft Qwen3 32B auf der RTX 5060?
Nur mit Auslagerung in den Arbeitsspeicher: Mit 32 GB RAM läuft Qwen3 32B auf die RTX 5060, aber mit ca. 1 Tokens/s sehr langsam.
Läuft Llama 3.3 70B auf der RTX 5060?
Nein. Llama 3.3 70B braucht selbst stark komprimiert ca. 36,1 GB – mehr, als die RTX 5060 bietet.
Läuft gpt-oss 20B auf der RTX 5060?
Nur mit Auslagerung in den Arbeitsspeicher: Mit 32 GB RAM läuft gpt-oss 20B auf die RTX 5060, aber mit ca. 22 Tokens/s eher gemächlich.
Läuft Qwen3 14B auf der RTX 5060?
Nur mit Auslagerung in den Arbeitsspeicher: Mit 32 GB RAM läuft Qwen3 14B auf die RTX 5060, aber mit ca. 5 Tokens/s sehr langsam.
Ähnliche Grafikkarten
- RTX 3060 (12 GB)9 Modelle flüssig
- RTX 3080 (12 GB)9 Modelle flüssig
- RTX 4070 / 4070 Super (12 GB)9 Modelle flüssig
- RTX 4070 Ti (12 GB)9 Modelle flüssig
- RTX 5070 (12 GB)9 Modelle flüssig
- RX 7700 XT (12 GB)9 Modelle flüssig