Welche KI läuft auf der RTX 3080 (10 GB)?

Die NVIDIA RTX 3080 hat 10 GB Grafikspeicher und 760 GB/s Speicherbandbreite. Damit laufen 6 von 22 aktuellen KI-Modellen flüssig.

Kurzfazit

Die RTX 3080 ist gut für lokale KI geeignet – auch die deutlich klügeren 12B- bis 21B-Modelle laufen flüssig.

Im Rechner mit eigenen Einstellungen prüfen RTX 3080 bei Amazon ansehen*

Alle Modelle auf der RTX 3080 im Überblick

Annahmen: 8.000 Tokens Kontext, 32 GB DDR5-Arbeitsspeicher für die Auslagerung, Standard-Quantisierung Q4 (wie bei Ollama). Tempo = geschätzte Tokens pro Sekunde beim Antworten.

ModellErgebnisSpeicherTempoDetails
Mistral Nemo 12B
Chat		Läuft flüssig8,9 GBca. 62 Tokens/sQ4 (Standard)
Qwen3 8B
Chat · Logik · Programmieren		Läuft flüssig6,5 GBca. 92 Tokens/sQ4 (Standard)
Llama 3.1 8B
Chat		Läuft flüssig6,3 GBca. 94 Tokens/sQ4 (Standard)
Gemma 3 4B
Chat · Bilder		Läuft flüssig4,2 GBca. 175 Tokens/sQ4 (Standard)
Qwen3 4B
Chat · Logik		Läuft flüssig4,1 GBca. 188 Tokens/sQ4 (Standard)
Llama 3.2 3B
Chat		Läuft flüssig3,3 GBca. 235 Tokens/sQ4 (Standard)
Qwen3 30B-A3B
Chat · Logik		Läuft, etwas langsamer19,1 GBca. 18 Tokens/sQ4 (Standard), teilweise ausgelagert
Qwen3-Coder 30B-A3B
Programmieren		Läuft, etwas langsamer19,1 GBca. 18 Tokens/sQ4 (Standard), teilweise ausgelagert
gpt-oss 20B
Chat · Logik · Programmieren		Läuft, etwas langsamer11,7 GBca. 39 Tokens/sMXFP4 (Original), teilweise ausgelagert
Qwen3 14B
Chat · Logik · Programmieren		Läuft, etwas langsamer8,8 GBca. 63 Tokens/sQ3 (spürbare Einbußen)
Phi-4 14B
Chat · Logik		Läuft, etwas langsamer9,0 GBca. 64 Tokens/sQ3 (spürbare Einbußen)
Gemma 3 12B
Chat · Bilder		Läuft, etwas langsamer9,3 GBca. 77 Tokens/sQ3 (spürbare Einbußen)
Qwen3 32B
Chat · Logik · Programmieren		Nur sehr langsam21,7 GBca. 2 Tokens/sQ4 (Standard), teilweise ausgelagert
Qwen2.5-Coder 32B
Programmieren		Nur sehr langsam21,7 GBca. 2 Tokens/sQ4 (Standard), teilweise ausgelagert
DeepSeek-R1 32B (Distill)
Logik		Nur sehr langsam21,7 GBca. 2 Tokens/sQ4 (Standard), teilweise ausgelagert
Gemma 3 27B
Chat · Bilder		Nur sehr langsam20,4 GBca. 2 Tokens/sQ4 (Standard), teilweise ausgelagert
Mistral Small 3.1 24B
Chat · Bilder		Nur sehr langsam15,8 GBca. 3 Tokens/sQ4 (Standard), teilweise ausgelagert
Llama 3.3 70B
Chat		Passt nicht––braucht ca. 36,1 GB
Llama 4 Scout
Chat · Bilder		Passt nicht––braucht ca. 53,1 GB
gpt-oss 120B
Chat · Logik · Programmieren		Passt nicht––braucht ca. 60,8 GB
Qwen3 235B-A22B
Chat · Logik · Programmieren		Passt nicht––braucht ca. 112,0 GB
DeepSeek-R1 671B
Logik		Passt nicht––braucht ca. 314,9 GB

Mehr KI mit einem Upgrade

* Werbelink: Wenn du über diesen Link kaufst, erhalten wir eine kleine Provision. Für dich ändert sich am Preis nichts.

Häufige Fragen

Reicht die RTX 3080 (10 GB) für lokale KI?

Die RTX 3080 ist gut für lokale KI geeignet – auch die deutlich klügeren 12B- bis 21B-Modelle laufen flüssig. Mit 10 GB Grafikspeicher laufen 6 von 22 Modellen flüssig, das stärkste davon ist Mistral Nemo 12B.

Welches KI-Modell ist das beste für die RTX 3080?

Unsere Empfehlung ist Mistral Nemo 12B: Europäisches Modell, gut für Texte. Starten lässt es sich mit dem Befehl „ollama run mistral-nemo:12b“.

Läuft Qwen3 32B auf der RTX 3080?

Nur mit Auslagerung in den Arbeitsspeicher: Mit 32 GB RAM läuft Qwen3 32B auf die RTX 3080, aber mit ca. 2 Tokens/s sehr langsam.

Läuft Llama 3.3 70B auf der RTX 3080?

Nein. Llama 3.3 70B braucht selbst stark komprimiert ca. 36,1 GB – mehr, als die RTX 3080 bietet.

Läuft gpt-oss 20B auf der RTX 3080?

Nur mit Auslagerung in den Arbeitsspeicher: Mit 32 GB RAM läuft gpt-oss 20B auf die RTX 3080, aber mit ca. 39 Tokens/s eher gemächlich.

Läuft Qwen3 14B auf der RTX 3080?

Ja. Qwen3 14B passt in der Variante Q3 (spürbare Einbußen) komplett in den Speicher (ca. 8,8 GB) und erreicht ca. 63 Tokens/s – nutzbar, aber spürbar langsamer als ein Chat mit ChatGPT.

Ähnliche Grafikkarten

Alle Grafikkarten vergleichen →