Modellgewichte (Weights)

Modellgewichte, englisch Weights, sind die Zahlenwerte, aus denen ein trainiertes KI-Modell besteht. In ihnen steckt alles, was das Modell im Training gelernt hat, etwa wie ein Gesicht aussieht oder wie sich Wasser bewegt. Die Anzahl dieser Werte wird oft als Parameterzahl angegeben und liegt bei Videomodellen meist im Milliardenbereich.

Wie entstehen Gewichte?

Zu Beginn des Trainings sind die Gewichte zufällig. Das Modell bekommt Beispiele, macht eine Vorhersage und vergleicht sie mit dem richtigen Ergebnis. Aus dem Fehler wird berechnet, in welche Richtung jedes Gewicht ein kleines Stück verändert werden muss. Nach Millionen solcher Durchläufe sind die Werte so eingestellt, dass das Modell gute Ergebnisse liefert. Beim späteren Erzeugen eines Videos bleiben die Gewichte unverändert.

Ein einzelnes Gewicht hat keine verständliche Bedeutung. Erst das Zusammenspiel aller Werte ergibt das Verhalten des Modells. Deshalb lässt sich aus den Gewichten auch nicht einfach ablesen, welche Bilder im Training verwendet wurden.

Warum sind Gewichte so wichtig?

Wer die Gewichte besitzt, besitzt das Modell. Die meisten kommerziellen Videogeneratoren halten sie geheim und bieten das Modell nur über ihre Website, App oder API an. Andere Hersteller veröffentlichen sie. Bei HunyuanVideo von Tencent etwa stehen die Gewichte der Version 1.5 mit 8,3 Milliarden Parametern zum Download bereit. Solche Modelle nennt man Open-Weight-Modelle.

Gewichte bestimmen auch den Speicherbedarf. Jeder Wert belegt je nach Genauigkeit zwei oder mehr Byte. Ein Modell mit mehreren Milliarden Parametern braucht deshalb viele Gigabyte Grafikspeicher, bevor überhaupt ein Bild berechnet wird.

Worauf du achten solltest

Veröffentlichte Gewichte bedeuten nicht automatisch, dass du sie frei nutzen darfst. Die Lizenz kann kommerzielle Nutzung, bestimmte Länder oder Firmen ab einer Umsatzgrenze ausschließen. Lies sie, bevor du ein Modell für Kundenprojekte einsetzt. Eine Übersicht offener Modelle findest du unter Open Source.