Open-Weights-Modell

Ein Open-Weights-Modell ist ein KI-Modell, dessen trainierte Gewichte (die Parameter des neuronalen Netzes) öffentlich zum Download bereitstehen, sodass jeder es auf eigener Hardware ausführen, prüfen und weiter anpassen kann. Der Begriff grenzt sich bewusst von „Open Source" ab: Offen sind die Gewichte, nicht zwingend Trainingsdaten, Trainingscode oder eine freie Lizenz.

Was Open Weights genau bedeutet

Ein großes Sprachmodell besteht technisch aus zwei Dingen: einer Architektur (dem Bauplan des Netzes, etwa ein Transformer mit einer bestimmten Anzahl an Schichten) und den Gewichten, also den Milliarden Zahlenwerten, die beim Training gelernt wurden. Die Architektur ist meist in wissenschaftlichen Papieren beschrieben und leicht nachzubauen. Der eigentliche Wert steckt in den Gewichten, denn ihr Training kostet je nach Modellgröße Millionen bis Hunderte Millionen US-Dollar an Rechenzeit.

Bei einem Open-Weights-Modell veröffentlicht der Hersteller genau diese Gewichte, in der Regel als Dateien im Safetensors- oder GGUF-Format auf Plattformen wie Hugging Face. Wer sie herunterlädt, kann das Modell mit Inferenz-Software wie vLLM, llama.cpp oder Ollama lokal starten, ohne eine API des Anbieters aufzurufen. Die Daten verlassen dann das eigene Rechenzentrum nicht, und der Betreiber zahlt keine Token-Preise, sondern nur seine Hardware.

Drei Stufen von Offenheit

In der Praxis haben sich drei Stufen etabliert, die oft in einen Topf geworfen werden:

Die Open Source AI Definition (OSAID) der Open Source Initiative, in Version 1.0 im Oktober 2024 veröffentlicht, zieht die Grenze klar: Ein Modell gilt nur dann als Open Source AI, wenn neben den Gewichten auch der Code und eine hinreichend genaue Beschreibung der Trainingsdaten offenliegen, sodass ein Fachmann das System nachbauen könnte. Die meisten populären „offenen" Modelle erfüllen diese Bedingung nicht. Sie sind Open Weights, nicht Open Source.

Lizenzen: der eigentliche Unterschied

Mit den Gewichten wird immer eine Lizenz veröffentlicht, und hier trennt sich die Spreu vom Weizen. Für den geschäftlichen Einsatz ist die Lizenz wichtiger als die Frage, ob die Trainingsdaten offenliegen.

• Freie Software-Lizenzen (Apache 2.0, MIT): Kommerzielle Nutzung, Veränderung und Weitergabe sind uneingeschränkt erlaubt. Mistral, Qwen (in den meisten Größen), DeepSeek und OpenAIs gpt-oss nutzen solche Lizenzen. Für ein Unternehmen ist das die unkomplizierteste Variante.
• Community-Lizenzen mit Auflagen: Metas Llama-Lizenz erlaubt kommerzielle Nutzung, verlangt aber ab einer Schwelle von 700 Millionen monatlich aktiven Nutzern eine gesonderte Vereinbarung und schreibt eine Namensnennung vor. Solche Lizenzen sind nicht Open Source im Sinne der OSI, für die allermeisten Unternehmen aber praktisch nutzbar.
• Umsatz- oder Nutzungsgestaffelte Lizenzen: Einige Anbieter koppeln die freie Nutzung an Umsatzgrenzen des Lizenznehmers; darüber wird eine kommerzielle Lizenz fällig. Hier muss die Rechtsabteilung genau lesen.
• Research-only-Lizenzen: Nutzung nur für Forschung, keine kommerzielle Verwendung. Für den Einsatz im Unternehmen ungeeignet.

Ein häufiger Fehler in Projekten: Ein Modell wird als „open source" eingeplant, und erst kurz vor dem Go-live fällt auf, dass die Lizenz eine Nutzungsbeschränkung enthält oder die Weitergabe abgeleiteter Modelle (etwa nach einem Fine-Tuning) an Bedingungen knüpft. Die Lizenzprüfung gehört deshalb an den Anfang jeder Modellauswahl, nicht ans Ende.

Warum Open-Weights-Modelle für den Mittelstand relevant sind

Für Unternehmen im deutschsprachigen Raum sind Open-Weights-Modelle aus vier Gründen interessant, die wenig mit Ideologie und viel mit Betriebswirtschaft und Recht zu tun haben.

Datenhoheit und DSGVO

Wer ein Modell auf eigener Infrastruktur oder bei einem europäischen Hoster betreibt, schickt keine Daten an einen US- oder asiatischen Anbieter. Das vereinfacht die Datenschutz-Folgenabschätzung erheblich, macht viele Auftragsverarbeitungsverträge überflüssig und entschärft die Drittlandproblematik. Für Branchen mit besonderen Vertraulichkeitspflichten (Gesundheitswesen, Rechtsberatung, Finanzdienstleister, öffentliche Verwaltung) ist das oft der ausschlaggebende Grund.

Kostenstruktur

Geschlossene Modelle werden pro Token abgerechnet. Bei hohem, gleichmäßigem Volumen (etwa Klassifikation von Support-Tickets, Produktdatenanreicherung, Dokumentenextraktion) kann ein selbst betriebenes Open-Weights-Modell deutlich günstiger sein, weil nur Hardware und Betrieb anfallen. Bei niedrigem oder stark schwankendem Volumen kehrt sich die Rechnung um: Dann ist die API günstiger, weil keine GPU im Leerlauf bezahlt werden muss.

Kontrolle über Versionen

API-Anbieter tauschen Modelle regelmäßig aus und stellen alte Versionen nach einer Übergangsfrist ab. Ein Prozess, der auf eine bestimmte Modellversion abgestimmt ist, kann sich dadurch unbemerkt verändern. Heruntergeladene Gewichte ändern sich nicht. Das Unternehmen entscheidet selbst, wann es migriert und testet vorher.

Anpassbarkeit

Nur mit Zugriff auf die Gewichte lässt sich ein Modell per Fine-Tuning auf eigene Daten, eigene Fachsprache oder ein eigenes Ausgabeformat spezialisieren, und zwar so, dass das Ergebnis dem Unternehmen gehört. Mit Verfahren wie LoRA ist das auch ohne Rechenzentrum in überschaubarer Zeit möglich.

Ein Realbeispiel: die Llama-Reihe und ihre Folgen

Das prägende Beispiel für Open Weights ist Metas Llama. Die erste Version wurde im Februar 2023 nur an Forscher herausgegeben, tauchte aber innerhalb einer Woche als Torrent im Netz auf. Meta reagierte nicht mit Abschottung, sondern mit Llama 2 im Juli 2023, das offiziell zum Download und zur kommerziellen Nutzung freigegeben wurde. Mit Llama 3 (April 2024) und den nachfolgenden Versionen wurde die Reihe zum meistgenutzten Fundament für Unternehmens-Deployments und für tausende abgeleitete Modelle auf Hugging Face.

Zwei Entwicklungen haben das Feld seitdem verändert. Erstens hat sich das Zentrum der Open-Weights-Entwicklung nach China verschoben: DeepSeek (dessen Modell R1 im Januar 2025 unter MIT-Lizenz erschien und die Börsenkurse westlicher KI-Zulieferer kurzzeitig einbrechen ließ), Alibabas Qwen-Familie, Moonshots Kimi und Zhipus GLM setzen heute die Maßstäbe bei offenen Modellen. Zweitens hat OpenAI im August 2025 mit gpt-oss erstmals seit GPT-2 wieder Gewichte unter Apache-2.0-Lizenz veröffentlicht, ein deutliches Zeichen, dass Open Weights als Vertriebskanal für Entwicklerbindung ernst genommen werden.

Für europäische Unternehmen hat das eine praktische Folge: Die leistungsfähigsten offenen Modelle stammen inzwischen überwiegend aus China. Das Modell selbst lässt sich problemlos in der EU betreiben, weil die Gewichte einfach Dateien sind und keine Daten zurückfließen. Die Frage der Herkunft betrifft eher die Trainingsdaten, mögliche eingebaute inhaltliche Filter und die Lizenzbedingungen, nicht den Datenschutz beim Betrieb.

Abgrenzung und typische Missverständnisse

„Open Weights heißt kostenlos." Die Gewichte kosten nichts, der Betrieb schon. Ein Modell mit 70 Milliarden Parametern braucht für flüssige Inferenz mehrere Grafikkarten der Rechenzentrumsklasse oder eine Quantisierung, die Qualität kostet. Die Total Cost of Ownership setzt sich aus Hardware, Strom, Personal für Betrieb und Updates sowie dem Aufwand für Sicherheit und Monitoring zusammen.

„Open Weights heißt transparent." Ohne Trainingsdaten weiß niemand genau, was das Modell gelernt hat. Man kann sein Verhalten testen, aber nicht seine Herkunft prüfen. Wer Nachvollziehbarkeit braucht, etwa für regulierte Anwendungen, muss auf Modelle mit dokumentierten Trainingsdaten achten oder eigene Evaluationen aufsetzen.

„Open Weights heißt sicher." Ein lokal betriebenes Modell schützt Daten vor dem Anbieter, nicht vor eigenen Fehlern. Prompt Injection, Datenabfluss über unsichere Tool-Anbindungen und fehlende Zugriffsrechte sind bei selbst gehosteten Modellen genauso ein Thema wie bei APIs, nur dass die Verantwortung dafür jetzt vollständig im eigenen Haus liegt.

„Open Weights sind schwächer." Der Abstand zu den besten geschlossenen Modellen ist real, aber er ist auf wenige Monate geschrumpft. Für die meisten Unternehmensaufgaben (Zusammenfassen, Klassifizieren, Extrahieren, Standard-Codegenerierung) reicht ein aktuelles offenes Modell aus. Der Vorsprung geschlossener Modelle zeigt sich vor allem bei langen agentischen Aufgaben und bei sehr anspruchsvollem Schlussfolgern.

Regulatorischer Rahmen: EU AI Act

Die europäische KI-Verordnung behandelt Modelle mit allgemeinem Verwendungszweck (General Purpose AI) in einem eigenen Kapitel. Für Modelle, die unter einer freien und offenen Lizenz veröffentlicht werden und deren Parameter, Architekturinformationen und Nutzungshinweise öffentlich zugänglich sind, sieht Artikel 53 Erleichterungen bei den Dokumentations- und Transparenzpflichten vor. Diese Ausnahme gilt jedoch nicht für Modelle mit systemischem Risiko, also für die größten Modelle oberhalb einer bestimmten Rechenleistungsschwelle beim Training. Für Unternehmen, die ein offenes Modell nur einsetzen, gelten unabhängig davon die Pflichten aus der jeweiligen Anwendung, etwa bei Hochrisiko-Systemen.

Ausblick

Drei Entwicklungen zeichnen sich ab. Erstens werden Open-Weights-Modelle immer größer und gleichzeitig durch Mixture-of-Experts-Architekturen effizienter, sodass Modelle mit über einer Billion Parametern nur einen Bruchteil davon pro Anfrage aktivieren. Zweitens spezialisiert sich das Angebot: Neben Allzweckmodellen entstehen offene Modelle für Code, für Sprachagenten, für Bild- und Videoverständnis und für einzelne Sprachen. Drittens wächst die europäische Infrastruktur für den Betrieb offener Modelle, von Hosting-Anbietern mit Inferenz-APIs über Managed-Kubernetes-Angebote bis zu Initiativen für souveräne KI-Cloud-Plattformen. Für den Mittelstand wird die Frage damit weniger „offen oder geschlossen", sondern „welche Aufgabe läuft wo", und ein gut gebautes System kann beide Welten kombinieren.

Häufige Fragen

Ist ein Open-Weights-Modell dasselbe wie ein Open-Source-Modell?
Nein. Open Weights bedeutet, dass die trainierten Parameter zum Download bereitstehen. Open Source AI nach der Definition der Open Source Initiative verlangt zusätzlich offenen Trainingscode und ausreichende Informationen über die Trainingsdaten unter freien Lizenzen. Die meisten bekannten offenen Modelle sind Open Weights, aber nicht Open Source.

Darf ich ein Open-Weights-Modell kommerziell nutzen?
Das hängt von der Lizenz ab. Modelle unter Apache 2.0 oder MIT ja, ohne Einschränkung. Community-Lizenzen wie die von Llama erlauben es mit Auflagen. Research-only-Lizenzen verbieten es. Die Lizenz steht in der Modellkarte auf Hugging Face und sollte vor dem ersten Test gelesen werden.

Welche Hardware brauche ich, um ein offenes Modell zu betreiben?
Kleine Modelle mit 7 bis 14 Milliarden Parametern laufen quantisiert auf einer einzelnen Consumer-Grafikkarte oder einem aktuellen Notebook. Modelle mit 70 Milliarden Parametern brauchen eine oder mehrere Rechenzentrums-GPUs mit 80 GB Speicher. Die ganz großen Modelle mit mehreren hundert Milliarden Parametern erfordern einen GPU-Cluster oder einen spezialisierten Inferenz-Hoster.

Sind chinesische Open-Weights-Modelle in der EU ein Datenschutzproblem?
Beim lokalen Betrieb nicht, denn die Gewichte sind Dateien ohne Rückkanal zum Hersteller. Anders sieht es aus, wenn das Modell über die API des Herstellers genutzt wird; dann findet eine Verarbeitung in einem Drittland statt und die üblichen DSGVO-Anforderungen greifen. Zu prüfen bleiben unabhängig davon Lizenz und Verhalten des Modells.

Wann lohnt sich ein offenes Modell gegenüber einer API?
Bei hohem, gleichmäßigem Volumen, bei strengen Vertraulichkeitsanforderungen, bei Bedarf an Fine-Tuning und wenn Versionsstabilität wichtig ist. Bei niedrigem Volumen, bei Aufgaben an der Leistungsgrenze und ohne eigenes Betriebs-Know-how ist die API meist die bessere Wahl.