KI · Modellspezifische Setups
Flux.2 — Klein 4B
4 Steps, 36 Sekunden, bessere Ergebnisse als Flux.1 dev — und Apache 2.0.
Das Schweizer Taschenmesser unter den Diffusionsmodellen
Meine Tests haben mit Flux.2 dev begonnen — dem Flaggschiff der Reihe, 32 Milliarden Parameter, und nach allem was man liest der aktuelle Stand der Technik bei KI-Bildgenerierung. Auf dem MacBook Pro mit 64 GB Unified Memory läuft es. Aber mit Renderzeiten um die 45 Minuten pro Bild ist das kein Workflow — das ist Warten. Flux.2 dev ist für lokalen Betrieb auf normaler Hardware schlicht nicht gemacht.
Klein 9B war der nächste Schritt. Kleiner, schneller — aber der Encoder für 9B ist 8 GB groß, das Modell selbst nochmal knapp 10 GB. Modell und Encoder müssen gleichzeitig in den Speicher, dazu Stability Matrix und ein Browser. Auf 16 GB wird das eng bis unmöglich.
Klein 4B war die Überraschung.
Flux2 klein 4B
Was Klein 4B ist
Klein 4B ist ein distilliertes Modell — trainiert darauf, in 4 Steps zu einem Ergebnis zu kommen, das einem vollständigen Flux-Durchlauf in 20–25 Steps entspricht. Das Diffusionsmodell ist 4,3 GB groß. Der Encoder in der quantisierten Variante (Q6) kommt auf 3,66 GB. Beide zusammen passen auf 16 GB — zusammen mit Stability Matrix und offenen Browser-Tabs, ohne Aufräumen.
Der Encoder ist Qwen 3, ein 4-Milliarden-Parameter-Sprachmodell. Kein CLIP, kein T5-Split, kein Zwei-Felder-Interface. Ein Textfeld, durchgehende Prosa. Die Prompt-Logik aus 2.4.3 — Prompts für Flux ist direkt übertragbar.
Was es leistet
Die Messwerte — alle bei 1024×1024, warm (Modelle im Speicher):
| Modell | MacBook Pro 64 GB | MacBook Air 16 GB |
| SDXL | 143 s | ~300 s |
| Flux.1 dev | 360 s | — (OOM) |
| Klein 4B | 36 s | 90 s |
Faktor 10 gegen Flux.1 dev auf dem Pro. Faktor 3,3 gegen SDXL auf dem Air — auf einer Maschine, auf der Flux.1 dev gar nicht erst läuft.
Das allein wäre schon bemerkenswert. Was meine Tests zusätzlich gezeigt haben: Klein 4B liefert bessere Ergebnisse als Flux.1 dev — durchgängig, nicht als Einzelfall. Bei Deko-Elementen, bei Lichtrichtung, bei Materialübergängen. Ein Modell mit einem Drittel der Parameter, das in einem Zehntel der Zeit rechnet und dabei qualitativ überzeugt — das war das eigentliche Aha-Erlebnis dieser Tests.
Flux.1 dev ist mit 12 Milliarden Parametern dreimal so groß und rechnet zehnmal so lang. Dass Klein 4B dabei qualitativ nicht zurückfällt, sondern vorne liegt, spricht dafür dass Flux.2 architektonisch etwas anders macht — nicht nur kleiner skaliert.
Setup
Dateien und Zielordner
16 GB (MacBook Air) — 90 s warm:
| Datei | Größe | Zielordner |
| flux-2-klein-4b-Q8_0.gguf | 4,3 GB | diffusion_models/ |
| Qwen3-4B-UD-Q6_K_XL.gguf | 3,66 GB | text_encoders/ |
| flux2-vae.safetensors | ~335 MB | vae/ |
Gesamtbedarf ~8,3 GB. Stability Matrix und Browser-Tabs können offen bleiben — kein Aufräumen nötig.
64 GB (MacBook Pro) — 36 s warm:
Gleiche Konfiguration, wahlweise mit qwen_3_4b.safetensors (BF16, 8 GB) statt dem quantisierten Encoder. Das Diffusionsmodell bleibt in jedem Fall GGUF — der Custom Node und das Python-Package müssen also unabhängig von der Encoder-Wahl installiert werden.
Bezugsquellen
| Datei | Repository |
| flux-2-klein-4b-Q8_0.gguf | unsloth/FLUX.2-klein-4B-GGUF |
| Qwen3-4B-UD-Q6_K_XL.gguf | unsloth/Qwen3-4B-GGUF |
| qwen_3_4b.safetensors (BF16) | Comfy-Org/vae-text-encorder-for-flux-klein-4b → split_files/text_encoders/ |
| flux2-vae.safetensors | Comfy-Org/flux2-dev → split_files/vae/ |
Nodes in ComfyUI
Klein 4B braucht andere Nodes als Flux.1 dev:
| Aufgabe | Node |
| Diffusionsmodell laden | Unet Loader (GGUF) — nicht Load Diffusion Model |
| Encoder BF16 | CLIPLoader, type = flux2 |
| Encoder GGUF | CLIPLoader (GGUF), type = flux2 |
| Text eingeben | CLIP Text Encode — nicht CLIPTextEncodeFlux |
Kein Zwei-Felder-Interface, kein clip_l/t5xxl-Split. Ein Textfeld.
MPS-Regel
Alles mit fp8 oder fp4 im Dateinamen ist auf Apple Silicon nicht lauffähig — MPS kann diese Formate nicht rechnen. Die offizielle ComfyUI-Dokumentation verlinkt genau diese Dateien als Standard. Stattdessen: BF16 oder GGUF verwenden.
Pflichtschritt: GGUF-Support einrichten
Das Diffusionsmodell liegt im GGUF-Format — einem Quantisierungsformat das ursprünglich aus dem LLM-Bereich kommt. ComfyUI kann GGUF-Dateien nicht nativ laden; dafür braucht es einen Custom Node (ComfyUI-GGUF von city96) und ein Python-Package.
Schritt 1 — Python-Package installieren
Stability Matrix → ComfyUI-Package → Drei-Punkte-Menü → Python Packages → + → gguf suchen → installieren. Dieser Schritt muss zuerst erfolgen.
Schritt 2 — Custom Node installieren
ComfyUI → Manager → Install via Git URL → https://github.com/city96/ComfyUI-GGUF → installieren.
Danach ComfyUI stoppen und neu starten. Prüfen: Add Node → bootleg → Unet Loader (GGUF) — wenn der Node erscheint, ist alles korrekt installiert.
Der häufigste Fehler: der Custom Node installiert sich ohne Fehlermeldung, taucht aber nirgends auf. Ursache ist fast immer das fehlende Python-Package — deshalb Schritt 1 zuerst. Ob dieser Stolperstein unter Windows identisch auftritt, habe ich nicht getestet.
Parameter
CFG 1.0 bedeutet: kein funktionierender negativer Prompt. Unerwünschtes positiv umformulieren — genau wie bei Flux.1 dev, nur noch konsequenter.
Steps: 4 (Flux2Scheduler) CFG: 1.0 (CFG Guider) Sampler: euler Scheduler: simple
Lizenz
Klein 4B ist das einzige Modell der Flux-Familie unter Apache 2.0 — keine Nutzungseinschränkungen, keine offenen Rechtsfragen für kommerzielle Aufträge. Klein 9B und Flux.2 dev laufen unter der Non-Commercial-Lizenz von Black Forest Labs, mit denselben offenen Fragen wie Flux.1 dev. Mehr dazu in 2.1.4 — Lizenzmodelle verstehen.
Und RAY-L?
Klein 4B hat mich so überzeugt, dass die Integration in RAY-L beschlossen ist — sobald ControlNet Canny für Klein 4B verfügbar ist. Aktuell gibt es das nicht: weder für 4B noch für 9B existiert ein ComfyUI-taugliches ControlNet Canny. Für RAY-L v1.0 bleibt Flux.1 dev gesetzt.
Aber Klein 4B gehört ab jetzt beobachtet. Faktor 10 schneller, bessere Ergebnisse, Apache 2.0, lauffähig auf 16 GB — wenn ControlNet Canny kommt, kommt die Integration.