Inferenz

Inferenz bezeichnet die Anwendung eines fertig trainierten KI-Modells. Du gibst einen Prompt, ein Bild oder ein Video ein, und das Modell berechnet daraus ein Ergebnis. Jedes Mal, wenn du in einem KI-Videogenerator auf „Erstellen“ klickst, startet eine Inferenz.

Wie unterscheidet sich Inferenz vom Training?

Ein KI-Modell durchläuft zwei Phasen. Im Training lernt es aus großen Datenmengen und passt dabei seine Gewichte an. Das passiert einmal oder in größeren Abständen und kostet sehr viel Rechenleistung. Danach ist das Modell fertig und wird nur noch benutzt. Diese Nutzung ist die Inferenz. Das Modell lernt dabei nichts Neues aus deinem Prompt, es wendet sein vorhandenes Wissen an.

Bei Videomodellen ist auch die Inferenz aufwendig. Ein Diffusionsmodell rechnet für einen einzigen Clip viele Schritte nacheinander, und in jedem Schritt wird der gesamte Clip verarbeitet. Dazu kommt das Umrechnen der Ergebnisse in echte Bilder. Deshalb dauert eine Generierung oft Minuten, während ein Sprachmodell in Sekunden antwortet.

Wo läuft die Inferenz?

Bei Web-Tools und Apps läuft die Inferenz auf den Servern des Anbieters, meist auf leistungsstarken Grafikprozessoren in Rechenzentren. Du siehst davon nur die Warteschlange und die Zeit, bis der Clip fertig ist. Bei offenen Modellen kannst du die Inferenz auch auf deinem eigenen Rechner ausführen. Dann brauchst du eine passende Grafikkarte mit genügend Speicher, zahlst aber keine Credits und deine Daten bleiben bei dir. Welche Modelle das erlauben, steht unter Open Source.

Was bedeutet das für dich?

Die Kosten der Inferenz erklären die Preise von Videotools. Alles, was mehr Rechenarbeit verursacht, kostet mehr: längere Clips, höhere Auflösung, mehr Sampling-Schritte, größere Modelle. Viele Anbieter bieten deshalb schnelle Entwurfsmodi mit weniger Qualität an. Erzeuge Varianten erst im günstigen Modus und rechne nur die beste Version in voller Qualität. Wie du mit wenig Budget arbeitest, zeigt der Ratgeber KI-Videos kostenlos erstellen.