Welche KI läuft auf der GTX 1660 (6 GB)?

Die NVIDIA GTX 1660 hat 6 GB Grafikspeicher und 192 GB/s Speicherbandbreite. Damit laufen 3 von 22 aktuellen KI-Modellen flüssig.

Kurzfazit

Die GTX 1660 reicht nur für kleine KI-Modelle bis etwa 4 Milliarden Parameter.

Im Rechner mit eigenen Einstellungen prüfen GTX 1660 bei Amazon ansehen*

Alle Modelle auf der GTX 1660 im Überblick

Annahmen: 8.000 Tokens Kontext, 32 GB DDR5-Arbeitsspeicher für die Auslagerung, Standard-Quantisierung Q4 (wie bei Ollama). Tempo = geschätzte Tokens pro Sekunde beim Antworten.

ModellErgebnisSpeicherTempoDetails
Gemma 3 4B
Chat · Bilder		Läuft flüssig4,2 GBca. 44 Tokens/sQ4 (Standard)
Qwen3 4B
Chat · Logik		Läuft flüssig4,1 GBca. 48 Tokens/sQ4 (Standard)
Llama 3.2 3B
Chat		Läuft flüssig3,3 GBca. 59 Tokens/sQ4 (Standard)
Qwen3 30B-A3B
Chat · Logik		Läuft, etwas langsamer19,1 GBca. 12 Tokens/sQ4 (Standard), teilweise ausgelagert
Qwen3-Coder 30B-A3B
Programmieren		Läuft, etwas langsamer19,1 GBca. 12 Tokens/sQ4 (Standard), teilweise ausgelagert
gpt-oss 20B
Chat · Logik · Programmieren		Läuft, etwas langsamer11,7 GBca. 15 Tokens/sMXFP4 (Original), teilweise ausgelagert
Llama 3.1 8B
Chat		Läuft, etwas langsamer5,3 GBca. 30 Tokens/sQ3 (spürbare Einbußen)
Qwen3 32B
Chat · Logik · Programmieren		Nur sehr langsam21,7 GBca. 1 Tokens/sQ4 (Standard), teilweise ausgelagert
Qwen2.5-Coder 32B
Programmieren		Nur sehr langsam21,7 GBca. 1 Tokens/sQ4 (Standard), teilweise ausgelagert
DeepSeek-R1 32B (Distill)
Logik		Nur sehr langsam21,7 GBca. 1 Tokens/sQ4 (Standard), teilweise ausgelagert
Gemma 3 27B
Chat · Bilder		Nur sehr langsam20,4 GBca. 1 Tokens/sQ4 (Standard), teilweise ausgelagert
Mistral Small 3.1 24B
Chat · Bilder		Nur sehr langsam15,8 GBca. 2 Tokens/sQ4 (Standard), teilweise ausgelagert
Qwen3 14B
Chat · Logik · Programmieren		Nur sehr langsam10,5 GBca. 3 Tokens/sQ4 (Standard), teilweise ausgelagert
Phi-4 14B
Chat · Logik		Nur sehr langsam10,7 GBca. 3 Tokens/sQ4 (Standard), teilweise ausgelagert
Gemma 3 12B
Chat · Bilder		Nur sehr langsam10,7 GBca. 3 Tokens/sQ4 (Standard), teilweise ausgelagert
Mistral Nemo 12B
Chat		Nur sehr langsam8,9 GBca. 4 Tokens/sQ4 (Standard), teilweise ausgelagert
Qwen3 8B
Chat · Logik · Programmieren		Nur sehr langsam6,5 GBca. 8 Tokens/sQ4 (Standard), teilweise ausgelagert
Llama 3.3 70B
Chat		Passt nicht––braucht ca. 36,1 GB
Llama 4 Scout
Chat · Bilder		Passt nicht––braucht ca. 53,1 GB
gpt-oss 120B
Chat · Logik · Programmieren		Passt nicht––braucht ca. 60,8 GB
Qwen3 235B-A22B
Chat · Logik · Programmieren		Passt nicht––braucht ca. 112,0 GB
DeepSeek-R1 671B
Logik		Passt nicht––braucht ca. 314,9 GB

Mehr KI mit einem Upgrade

* Werbelink: Wenn du über diesen Link kaufst, erhalten wir eine kleine Provision. Für dich ändert sich am Preis nichts.

Häufige Fragen

Reicht die GTX 1660 (6 GB) für lokale KI?

Die GTX 1660 reicht nur für kleine KI-Modelle bis etwa 4 Milliarden Parameter. Mit 6 GB Grafikspeicher laufen 3 von 22 Modellen flüssig, das stärkste davon ist Gemma 3 4B.

Welches KI-Modell ist das beste für die GTX 1660?

Unsere Empfehlung ist Gemma 3 4B: Versteht auch Bilder, gutes Deutsch. Starten lässt es sich mit dem Befehl „ollama run gemma3:4b“.

Läuft Qwen3 32B auf der GTX 1660?

Nur mit Auslagerung in den Arbeitsspeicher: Mit 32 GB RAM läuft Qwen3 32B auf die GTX 1660, aber mit ca. 1 Tokens/s sehr langsam.

Läuft Llama 3.3 70B auf der GTX 1660?

Nein. Llama 3.3 70B braucht selbst stark komprimiert ca. 36,1 GB – mehr, als die GTX 1660 bietet.

Läuft gpt-oss 20B auf der GTX 1660?

Nur mit Auslagerung in den Arbeitsspeicher: Mit 32 GB RAM läuft gpt-oss 20B auf die GTX 1660, aber mit ca. 15 Tokens/s eher gemächlich.

Läuft Qwen3 14B auf der GTX 1660?

Nur mit Auslagerung in den Arbeitsspeicher: Mit 32 GB RAM läuft Qwen3 14B auf die GTX 1660, aber mit ca. 3 Tokens/s sehr langsam.

Ähnliche Grafikkarten

Alle Grafikkarten vergleichen →