KI-Verordnung

Die KI-Verordnung – offiziell Verordnung (EU) 2024/1689, international als EU AI Act bekannt – ist das europäische Regelwerk für Entwicklung, Inverkehrbringen und Einsatz von Systemen künstlicher Intelligenz. Sie ordnet KI-Anwendungen nach ihrem Risiko in vier Klassen ein und knüpft daran abgestufte Pflichten für Anbieter und Betreiber. In Kraft ist sie seit dem 1. August 2024, ihre Pflichten greifen gestaffelt bis 2028.

Für dich als mittelständisches Unternehmen laufen daraus zwei Fragen zusammen: In welche Risikoklasse fällt das System, das du einsetzt – und trittst du dabei als Anbieter oder als Betreiber auf? Aus dieser Kombination ergibt sich der komplette Pflichtenkatalog. Alles andere, was du an Checklisten und Warnungen zum Thema liest, ist eine Ableitung davon.

Was die KI-Verordnung regelt und wen sie adressiert

Die KI-Verordnung ist im Kern Produktsicherheitsrecht, kein Datenschutzrecht. Sie fragt nicht primär, welche personenbezogenen Daten ein System verarbeitet – dafür bleibt die DSGVO zuständig –, sondern welchen Schaden ein KI-System an Gesundheit, Sicherheit und Grundrechten anrichten kann. Aus dieser Perspektive stammt die gesamte Systematik: je höher das Schadenspotenzial, desto dichter die Anforderungen an Dokumentation, Datenqualität, menschliche Aufsicht und technische Robustheit.

Der räumliche Anwendungsbereich ist weit gefasst. Erfasst sind nicht nur Unternehmen mit Sitz in der EU, sondern auch Anbieter aus Drittstaaten, deren KI-Systeme in der EU in Verkehr gebracht werden oder deren Ausgaben in der EU verwendet werden. Praktisch bedeutet das: Ein Sprachmodell aus den USA, das du über eine API in deinen Kundenservice einbindest, fällt genauso in den Anwendungsbereich wie eine Eigenentwicklung aus deiner IT-Abteilung.

Anbieter oder Betreiber – die Rolle entscheidet über deine Pflichten

Die Verordnung unterscheidet mehrere Akteursrollen, in der Praxis sind zwei relevant. Anbieter ist, wer ein KI-System entwickelt oder entwickeln lässt und unter eigenem Namen oder eigener Marke in Verkehr bringt. Betreiber ist, wer ein KI-System unter eigener Verantwortung einsetzt – also der klassische Anwendungsfall im Mittelstand: Du kaufst Software ein, konfigurierst sie und nutzt sie im eigenen Betrieb.

Die Pflichtenlast liegt ganz überwiegend beim Anbieter. Betreiber haben deutlich weniger zu tun, aber eben nicht nichts: Sie müssen die Nutzungsanweisungen des Anbieters einhalten, bei Hochrisiko-Systemen menschliche Aufsicht organisieren, Eingabedaten im Rahmen ihrer Kontrolle relevant halten und Protokolle aufbewahren. Vorsicht ist geboten, wenn du ein eingekauftes System wesentlich veränderst, es unter deinem eigenen Namen weitergibst oder seinen Zweck veränderst: Dann kannst du selbst zum Anbieter werden – mit dem vollen Pflichtenkatalog. Wer ein Modell feintunt und die Ergebnisse als eigenes Produkt vermarktet, sollte diese Schwelle sehr genau prüfen.

Die vier Risikoklassen der KI-Verordnung

Die Einstufung ist der eigentliche Kern der Verordnung. Sie erfolgt nicht nach Technologie, sondern nach Einsatzzweck. Dasselbe Sprachmodell kann in einer Anwendung minimales und in einer anderen hohes Risiko bedeuten.

Unannehmbares Risiko: Diese Praktiken sind verboten und seit dem 2. Februar 2025 untersagt. Dazu zählen unter anderem Social Scoring durch öffentliche und private Akteure, manipulative Techniken, die das Verhalten unterschwellig beeinflussen und Schaden verursachen, das ungezielte Auslesen von Gesichtsbildern aus dem Internet zum Aufbau von Gesichtserkennungsdatenbanken sowie die Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen. Der letzte Punkt ist der, an dem Unternehmen am häufigsten unbewusst anstreifen – etwa bei Analyse-Tools für Bewerbungsgespräche oder Vertriebstelefonate.

Hohes Risiko: Hier steht der volle Anforderungskatalog – Risikomanagementsystem, Datenqualität, technische Dokumentation, Protokollierung, Transparenz gegenüber Betreibern, menschliche Aufsicht, Genauigkeit und Cybersicherheit, plus Konformitätsbewertung und CE-Kennzeichnung. Welche Systeme darunterfallen, ist in zwei Anhängen geregelt: Anhang III listet eigenständige Anwendungen in sensiblen Bereichen wie Personalauswahl, Kreditwürdigkeitsprüfung, Bildung oder kritischer Infrastruktur; Anhang I erfasst KI, die als Sicherheitsbauteil in bereits regulierte Produkte eingebettet ist, etwa in Maschinen oder Medizinprodukten. Was genau in diese Klasse fällt und welche Nachweise sie verlangt, ist im Detail unter Hochrisiko-KI-System beschrieben.

Begrenztes Risiko: Systeme, die mit Menschen interagieren oder Inhalte erzeugen, unterliegen Transparenzpflichten nach Artikel 50 – aber keinem Konformitätsverfahren. Chatbots, Assistenzsysteme und Werkzeuge der generativen KI landen typischerweise hier.

Minimales Risiko: Alles Übrige – Spamfilter, Bedarfsprognosen, Empfehlungslogiken im Shop, Predictive Maintenance auf Maschinendaten. Die Verordnung stellt dafür keine spezifischen Anforderungen. Sie regt freiwillige Verhaltenskodizes an, mehr nicht.

Begrenztes Risiko: die Klasse, in der der Mittelstand tatsächlich landet

In der Beratungspraxis fällt der weit überwiegende Teil der KI-Projekte im Mittelstand in die unteren beiden Klassen. Ein Chatbot auf der Website, eine KI-gestützte Produkttextgenerierung, ein Sprachagent in der Telefonzentrale: alles begrenztes Risiko. Die Pflichten sind überschaubar und lassen sich in Tagen statt Monaten umsetzen – man muss sie nur kennen.

Konkret gilt seit dem 2. August 2026: Wer ein KI-System betreibt, das direkt mit Menschen interagiert, muss offenlegen, dass es sich um KI handelt – es sei denn, das ist aus dem Kontext offensichtlich. Wer KI-generierte oder KI-manipulierte Bild-, Audio- oder Videoinhalte veröffentlicht, die einer realen Person, einem Ort oder Ereignis täuschend ähneln (Deepfakes), muss diese als solche kennzeichnen. Für KI-generierte Texte, die zur Information der Öffentlichkeit über Angelegenheiten von öffentlichem Interesse veröffentlicht werden, gilt eine entsprechende Offenlegungspflicht, sofern kein Mensch die Inhalte redaktionell verantwortet.

Wichtig für die Einordnung von Fachbeiträgen, die im Umlauf sind: Diese Betreiberpflichten gelten seit dem 2. August 2026 und sind nicht verschoben worden. Verschoben wurde ausschließlich die technische Markierungspflicht der Anbieter nach Artikel 50 Absatz 2 – also das maschinenlesbare Wasserzeichen in den generierten Inhalten –, und zwar nur für Systeme, die vor dem 2. August 2026 in Verkehr gebracht wurden. Diese Karenz läuft am 2. Dezember 2026 aus. Wer daraus ableitet, die Transparenzpflichten seien insgesamt bis Dezember ausgesetzt, liegt falsch.

Fristen der KI-Verordnung im Überblick

Der Zeitplan wurde im Sommer 2026 einmal grundlegend überarbeitet. Die folgende Tabelle bildet den Stand nach dieser Änderung ab.

Was der Digital Omnibus geändert hat – und was nicht

Am 24. Juli 2026 wurde die Verordnung (EU) 2026/1744 im Amtsblatt der EU veröffentlicht, der sogenannte Digital Omnibus zur KI. Sie ist seit dem 27. Juli 2026 in Kraft und damit geltendes Recht – kein Entwurf, kein Vorschlag. Wenn du auf ältere Beiträge stößt, die den Omnibus im Konjunktiv behandeln, sind sie schlicht veraltet.

Geändert hat sie im Wesentlichen drei Dinge. Erstens die Hochrisiko-Termine: Anhang III wanderte vom 2. August 2026 auf den 2. Dezember 2027, Anhang I vom 2. August 2027 auf den 2. August 2028. Hintergrund waren fehlende harmonisierte Normen und noch nicht benannte Konformitätsbewertungsstellen – ohne diese Infrastruktur hätten Unternehmen die Anforderungen praktisch nicht erfüllen können. Zweitens wurde Artikel 4 zur KI-Kompetenz im Wortlaut entschärft: Unternehmen müssen die Entwicklung von KI-Kompetenz bei ihrem Personal nun „fördern“ statt „sicherstellen“. Ein bestimmtes Kompetenzniveau einzelner Beschäftigter muss niemand mehr garantieren. Drittens kam mit dem 2. Dezember 2026 ein neues Verbot hinzu, das auf die Erzeugung nicht-einvernehmlicher intimer Darstellungen und von Missbrauchsdarstellungen Minderjähriger zielt.

Nicht geändert wurden die Verbote nach Artikel 5 im Übrigen, der Geltungsbeginn der Transparenzpflichten am 2. August 2026 und der Bußgeldrahmen. Wer sein Vorgehen auf einen Stand vor Juli 2026 gestützt hat, sollte vor allem die Hochrisiko-Planung neu takten – nicht aber die Transparenzumsetzung zurückstellen. Eine laufend aktualisierte Übersicht zum Rechtsrahmen führt die Europäische Kommission unter digital-strategy.ec.europa.eu.

Nationale Umsetzung: KI-MIG und Bundesnetzagentur

Eine EU-Verordnung gilt unmittelbar, braucht aber nationale Behördenstrukturen für Marktaufsicht und Sanktionen. Deutschland hat diese Struktur mit dem Gesetz zur Marktüberwachung und Innovationsförderung von künstlicher Intelligenz (KI-MIG) geschaffen. Es wurde am 28. Juli 2026 im Bundesgesetzblatt verkündet und ist seit dem 29. Juli 2026 in Kraft. Der Gesetzestext ist über gesetze-im-internet.de abrufbar.

Zentrale Instanz ist die Bundesnetzagentur. Sie ist Marktüberwachungsbehörde, Anlaufstelle und Beschwerdestelle für die KI-Verordnung, wie sie in ihrer Pressemitteilung vom 29. Juli 2026 mitgeteilt hat. Deutschland fährt dabei einen hybriden Ansatz: In bereits vollharmonisierten Produktbereichen bleiben die etablierten Fachaufsichtsbehörden zuständig – die BaFin für KI in regulierten Finanztätigkeiten, die Produkt-Marktüberwachungsbehörden für eingebettete KI, die Landesbehörden für Stellen der Länder. Die Bundesnetzagentur koordiniert das Ganze und ist selbst Marktüberwachungsbehörde für bislang nicht regulierte Produktbereiche auf Bundesebene.

Praktisch relevant ist der zweite Teil des Gesetzesnamens: die Innovationsförderung. Die Bundesnetzagentur betreibt einen KI-Service-Desk mit niedrigschwelligen Informationen und einem Online-Tool zur ersten Einschätzung der Risikoklasse, dazu ein KI-Reallabor, in dem insbesondere kleine und mittlere Unternehmen Systeme unter regulatorischer Begleitung entwickeln und testen können. Wer bei der Einstufung eines konkreten Systems unsicher ist, hat damit eine kostenlose erste Adresse, bevor externe Beratung nötig wird.

Bußgelder: Wie viel wirklich droht

Der Sanktionsrahmen ist dreistufig. Verstöße gegen die verbotenen Praktiken nach Artikel 5 kosten bis zu 35 Millionen Euro oder 7 Prozent des weltweiten Jahresumsatzes. Verstöße gegen sonstige Pflichten – darunter die Transparenzpflichten und die Hochrisiko-Anforderungen – liegen bei bis zu 15 Millionen Euro oder 3 Prozent. Für falsche, unvollständige oder irreführende Angaben gegenüber Behörden gilt eine Obergrenze von 7,5 Millionen Euro oder 1 Prozent.

Der für den Mittelstand entscheidende Punkt wird oft übersehen: Bei kleinen und mittleren Unternehmen einschließlich Start-ups gilt jeweils der niedrigere der beiden Beträge. Für ein Unternehmen mit 30 Millionen Euro Umsatz bedeutet das bei einem Transparenzverstoß eine theoretische Obergrenze von 900.000 Euro statt 15 Millionen. Das ist kein Freibrief, rückt die Zahlen aber in eine realistische Größenordnung – und entkräftet die Schlagzeilen, die pauschal mit 35 Millionen Euro operieren.

Realbeispiel: Ein Maschinenbauer mit 180 Mitarbeitenden

Ein Zulieferer aus dem Sauerland betreibt drei KI-Anwendungen. Erstens einen Chatbot auf der Website, der Anfragen vorqualifiziert und Ersatzteilnummern findet. Zweitens ein Sprachmodell im Marketing, das Produkttexte und Datenblatt-Zusammenfassungen erzeugt. Drittens ein Vorauswahl-Tool im Recruiting, das eingehende Bewerbungen nach Passung sortiert – eingekauft, als SaaS, seit zwei Jahren im Einsatz.

Die Einstufung fällt eindeutig aus. Chatbot und Textgenerierung sind begrenztes Risiko, das Unternehmen ist in beiden Fällen Betreiber. Zu tun war: ein Hinweis im Chat-Fenster, dass hier eine KI antwortet, und eine interne Regel, dass generierte Produkttexte vor Veröffentlichung redaktionell verantwortet werden. Aufwand: ein Nachmittag Entwicklung, eine halbe Seite Prozessdokumentation.

Das Recruiting-Tool ist der andere Fall. Bewerberauswahl fällt unter Anhang III und damit in die Hochrisiko-Klasse. Die Pflichten daraus greifen erst am 2. Dezember 2027 – und sie treffen primär den SaaS-Anbieter. Als Betreiber bleiben dem Unternehmen menschliche Aufsicht über die Auswahlentscheidungen, die Einhaltung der Nutzungsanweisung, die Aufbewahrung der Protokolle und die Information der betroffenen Bewerber. Die einzige wirklich strategische Frage, die sich stellte: Wird der Anbieter bis Dezember 2027 eine Konformitätsbewertung vorlegen? Diese Frage gehört in den Vertrag, nicht in eine Compliance-Checkliste – und zwar bei der nächsten Verlängerung, nicht erst 2027.

Was daraus als Vorgehen folgt

Der pragmatische Einstieg ist eine Inventarliste. Trage jedes System zusammen, das KI enthält – inklusive der Funktionen, die in bestehender Software mitgeliefert wurden und niemand als KI-Projekt gezählt hat. Vermerke je System den Einsatzzweck, deine Rolle, die Risikoklasse und den Anbieter. Diese Liste ist zugleich das Gerüst für die Dokumentation nach Artikel 4: Wer nachweisen kann, wer wann worin geschult wurde und welches System davon betroffen ist, erfüllt die KI-Kompetenzpflicht in der entschärften wie in der ursprünglichen Fassung. Wie sich daraus ein belastbarer Fahrplan bauen lässt, haben wir im Beitrag EU AI Act für den Mittelstand ausführlich beschrieben.

Drei verbreitete Irrtümer

• „Die Transparenzpflichten sind auf Dezember 2026 verschoben.“ Falsch. Sie gelten seit dem 2. August 2026. Verschoben ist allein das technische Wasserzeichen der Anbieter nach Art. 50(2) für Systeme, die vor diesem Datum auf dem Markt waren.
• „Wir nutzen nur eingekaufte Tools, also betrifft uns die Verordnung nicht.“ Falsch. Betreiberpflichten bestehen unabhängig davon, wer das System gebaut hat. Und wer ein System wesentlich verändert oder unter eigenem Namen weitergibt, wird selbst zum Anbieter.
• „KI-Kompetenz ist seit dem Omnibus erledigt.“ Falsch. Die Pflicht besteht fort, nur der Maßstab ist weicher. Eine dokumentierte, auf die eingesetzten Systeme bezogene Schulung bleibt der einfachste Nachweis.

Der nüchterne Befund nach zwei Jahren KI-Verordnung: Für die meisten mittelständischen Unternehmen ist der Aufwand geringer als die öffentliche Debatte vermuten lässt – vorausgesetzt, man kennt seine Systeme und seine Rolle. Teuer wird es nur dort, wo unbemerkt ein Hochrisiko-Anwendungsfall im Haus läuft oder eine verbotene Praktik als harmloses Analyse-Feature verkauft wurde. Beides findet man mit einer Inventarliste an einem Nachmittag.