VRAM

VRAM ist der Arbeitsspeicher einer Grafikkarte. Er liegt direkt auf der Karte und ist sehr schnell an den Grafikprozessor angebunden. Wenn du KI-Videomodelle auf deinem eigenen Rechner ausführst, ist die Menge an VRAM meist der wichtigste Wert, denn das Modell und alle Zwischenergebnisse müssen hineinpassen.

Warum brauchen Videomodelle so viel VRAM?

In den Grafikspeicher müssen mehrere Dinge gleichzeitig passen. Erstens die Modellgewichte, also das gelernte Wissen des Modells, oft mehrere Milliarden Zahlenwerte. Zweitens das Textmodell, das deinen Prompt liest, und der VAE, der Bilder in den Latent Space und zurück übersetzt. Drittens die Daten des Clips selbst, die während der Berechnung entstehen. Dieser letzte Teil wächst mit Auflösung, Zahl der Einzelbilder und Länge. Ein Modell, das 720p in wenigen Sekunden schafft, kann bei 1080p oder längeren Clips an die Grenze stoßen.

Wie lässt sich VRAM sparen?

Es gibt einige verbreitete Verfahren. Bei der Quantisierung werden die Gewichte mit weniger Genauigkeit gespeichert, etwa in 8 statt 16 Bit. Das halbiert ungefähr den Platzbedarf, kann aber die Qualität leicht verringern. Beim Offloading werden Teile des Modells in den normalen Arbeitsspeicher ausgelagert und nur bei Bedarf geladen. Das kostet Zeit. Außerdem bieten Oberflächen wie ComfyUI an, das Zurückrechnen der Bilder in Kacheln zu erledigen. Kleinere Auflösung und kürzere Clips helfen ebenfalls, dazu kannst du das Ergebnis danach hochskalieren.

Worauf du achten solltest

Verlass dich bei VRAM-Angaben auf die offizielle Modellkarte des Herstellers, meist auf Hugging Face oder GitHub. Angaben in Foren gelten oft nur für bestimmte Einstellungen oder stark komprimierte Varianten. Achte darauf, ob eine Angabe für das volle Modell oder für eine quantisierte Version gilt. Wenn du keine passende Grafikkarte hast, sind Web-Tools die einfachere Wahl, denn dort rechnet der Anbieter. Modelle zum lokalen Ausführen findest du unter Open Source.