Die KI-Verordnung der EU, meist EU AI Act genannt, ist seit August 2024 in Kraft und wird in Stufen wirksam. Viele Mittelständler gehen davon aus, dass sie als reine Nutzer von Werkzeugen wie ChatGPT, Copilot oder einem KI-Modul im ERP nicht betroffen sind. Das stimmt nur zum Teil. Die Verordnung unterscheidet zwischen Anbietern, die KI-Systeme entwickeln, und Betreibern, die sie einsetzen. Betreiber haben weniger Pflichten, aber nicht keine. Dieser Artikel ordnet ein, was für ein Unternehmen gilt, das KI nutzt statt entwickelt, welche Fristen zählen und was bei typischen Anwendungen im Mittelstand zu tun ist. Er ersetzt keine Rechtsberatung; wo ein Fachanwalt hinzugezogen werden sollte, steht es dabei.
Der AI Act regelt nach Risiko, nicht nach Technologie
Die Verordnung fragt nicht, welches Modell Sie einsetzen, sondern wofür. Daraus ergeben sich vier Stufen.
| Risikostufe | Was darunter fällt | Folge für Betreiber |
|---|---|---|
| Verboten | Manipulative Systeme, Social Scoring, Emotionserkennung am Arbeitsplatz, biometrische Kategorisierung nach sensiblen Merkmalen | Einsatz untersagt |
| Hochrisiko | Anwendungen aus Anhang III, etwa Bewerberauswahl, Leistungsbewertung, Kreditwürdigkeitsprüfung, kritische Infrastruktur, sowie KI als Sicherheitsbauteil regulierter Produkte | Umfangreiche Pflichten zu Aufsicht, Protokollierung, Information |
| Begrenztes Risiko | Systeme, die mit Menschen interagieren oder Inhalte erzeugen, etwa Chatbots und Bildgeneratoren | Transparenzpflichten |
| Minimales Risiko | Alles andere, etwa Rechtschreibhilfen, Übersetzung, interne Assistenten für Dokumente | Keine besonderen Pflichten außer KI-Kompetenz |
Die gute Nachricht für den Mittelstand: Die große Mehrheit der Anwendungen, die heute eingeführt werden, liegt in den unteren beiden Stufen. Ein Assistent, der Eingangsrechnungen ausliest, ein Werkzeug, das Angebotsanfragen vorsortiert, oder eine Suche über das Firmenwissen sind minimales Risiko. Die Pflichten, die dennoch gelten, sind überschaubar.
Die weniger gute Nachricht: Die Grenze zu Hochrisiko verläuft mitten durch Abteilungen, in denen KI besonders verlockend ist, allen voran Personal und Finanzen.
Welche Fristen gelten für Betreiber?
Die Verordnung wird gestaffelt wirksam. Für Unternehmen, die KI einsetzen, sind vier Termine relevant.
| Datum | Was wirksam wird | Was Sie betrifft |
|---|---|---|
| 2. Februar 2025 | Verbote nach Artikel 5 und Pflicht zur KI-Kompetenz nach Artikel 4 | Gilt bereits: Verbotene Anwendungen ausschließen, Mitarbeitende schulen |
| 2. August 2025 | Regeln für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck, Aufsichtsstrukturen, Bußgeldvorschriften | Betrifft Sie indirekt über Ihre Anbieter; Bußgelder sind ab jetzt verhängbar |
| 2. August 2026 | Die meisten übrigen Pflichten, darunter Hochrisiko-Systeme nach Anhang III und Transparenzpflichten nach Artikel 50 | Hochrisiko-Anwendungen müssen die Betreiberpflichten erfüllen, Chatbots müssen sich zu erkennen geben |
| 2. August 2027 | Hochrisiko-Systeme, die als Sicherheitsbauteil in regulierten Produkten stecken (Anhang I), etwa in Maschinen oder Medizinprodukten | Relevant für Hersteller, die KI in ihre Produkte einbauen |
Was die Pflicht zur KI-Kompetenz von Ihnen verlangt
Artikel 4 ist die Pflicht, die jeden Betreiber trifft, unabhängig von der Risikostufe. Unternehmen müssen nach besten Kräften sicherstellen, dass ihr Personal und andere Personen, die in ihrem Auftrag KI-Systeme bedienen, über ein ausreichendes Maß an KI-Kompetenz verfügen. Die Verordnung nennt dabei die technischen Kenntnisse, die Erfahrung und den Kontext, in dem die Systeme eingesetzt werden.
Was das heißt, ist bewusst offen formuliert. Ein Formular, eine Zertifizierung oder eine Mindeststundenzahl gibt es nicht. In der Praxis hat sich ein abgestuftes Vorgehen bewährt.
Für alle Mitarbeitenden, die KI-Werkzeuge nutzen, reicht eine Grundschulung: Wie funktioniert ein Sprachmodell in groben Zügen, warum erfindet es manchmal Fakten, was darf in einen Prompt und was nicht, welche internen Regeln gelten. Das ist in 90 Minuten vermittelbar und sollte dokumentiert werden, mit Datum, Inhalt und Teilnehmerliste.
Für Personen, die KI-Systeme in Entscheidungen einbinden, etwa im Einkauf, im Service oder im Personalbereich, kommt eine Vertiefung zur jeweiligen Anwendung hinzu: Welche Fehler macht das System typischerweise, woran erkennt man sie, wann ist ein Ergebnis zu verwerfen.
Für die Geschäftsführung geht es um die Einordnung: Welche Anwendungen laufen im Haus, in welcher Risikostufe, wer ist verantwortlich. Ein halbtägiger Workshop für den Führungskreis deckt das in der Regel ab und liefert gleichzeitig die Grundlage für eine Nutzungsrichtlinie.
Die Dokumentation ist nicht nur Formsache. Sollte es je zu einer Prüfung kommen, ist die Schulungsunterlage mit Teilnehmerliste der Nachweis, dass Sie Artikel 4 ernst genommen haben.
Ein Beispiel aus dem Alltag: Drei Anwendungen, drei Einordnungen
Ein Großhändler für Elektrotechnik mit 260 Mitarbeitenden hat im Laufe eines Jahres drei KI-Anwendungen eingeführt. Die Einordnung zeigt, wie unterschiedlich die Pflichten ausfallen.
Die erste Anwendung ist ein Assistent im Kundenservice. Er liest eingehende E-Mails, schlägt eine Antwort auf Basis der Produktdaten vor, und eine Mitarbeiterin prüft und sendet sie. Der Kunde bekommt eine von einem Menschen freigegebene E-Mail. Das ist minimales Risiko. Es gelten die KI-Kompetenz und die Datenschutzregeln, sonst nichts. Würde der Assistent direkt und ohne Prüfung mit Kunden chatten, käme ab August 2026 die Transparenzpflicht hinzu: Der Kunde muss erkennen können, dass er mit einem KI-System spricht.
Die zweite Anwendung ist eine Suche über Lieferantenverträge, Preislisten und interne Richtlinien für den Einkauf. Das System beantwortet Fragen wie „Welche Kündigungsfrist hat der Rahmenvertrag mit Lieferant X?“ und zeigt die Fundstelle. Minimales Risiko. Die eigentlichen Fragen liegen hier beim Datenschutz und bei den Zugriffsrechten, nicht beim AI Act.
Die dritte Anwendung war ein Werkzeug, das Bewerbungen für offene Stellen im Außendienst vorsortiert und eine Rangfolge vorschlägt. Das ist Hochrisiko nach Anhang III. Der Einsatz bleibt erlaubt, aber ab August 2026 gelten die Betreiberpflichten des Artikels 26, und schon heute ist der Betriebsrat einzubinden. Der Großhändler hat die Anwendung vorerst zurückgestellt und nutzt das Werkzeug nur noch, um Bewerbungsunterlagen in ein einheitliches Format zu bringen, ohne Bewertung. Das ist eine legitime Entscheidung: Nicht jede Hochrisiko-Anwendung ist den Aufwand wert.
Welche Pflichten haben Betreiber von Hochrisiko-Systemen?
Wenn Sie eine Anwendung aus Anhang III einsetzen, etwa in der Personalauswahl, bei der Bewertung von Mitarbeitenden oder bei der Kreditwürdigkeitsprüfung von Kunden, verlangt Artikel 26 im Wesentlichen Folgendes.
Sie müssen das System gemäß der Gebrauchsanweisung des Anbieters verwenden. Das klingt banal, bedeutet aber, dass Sie diese Anweisung kennen und ihre Grenzen einhalten müssen.
Sie müssen die menschliche Aufsicht Personen übertragen, die dafür kompetent und befugt sind. Eine Sachbearbeitung, die eine KI-Rangfolge nur durchwinkt, erfüllt diese Anforderung nicht.
Sie müssen sicherstellen, dass die Eingabedaten dem Zweck entsprechen, soweit Sie darüber Kontrolle haben, und den Betrieb überwachen. Fällt Ihnen ein Risiko auf, informieren Sie den Anbieter und die Aufsichtsbehörde.
Sie müssen die automatisch erzeugten Protokolle mindestens sechs Monate aufbewahren, sofern sie in Ihrer Kontrolle liegen.
Vor dem Einsatz am Arbeitsplatz müssen Sie die betroffenen Arbeitnehmer und ihre Vertretung informieren. In Deutschland greift hier zusätzlich das Betriebsverfassungsgesetz; die Einführung ist in vielen Fällen mitbestimmungspflichtig. Spätestens an dieser Stelle gehört ein Fachanwalt für Arbeitsrecht an den Tisch.
Personen, über die das System Entscheidungen trifft oder vorbereitet, müssen darüber informiert werden. Für Bewerber bedeutet das einen Hinweis im Bewerbungsprozess.
Wo die DSGVO eine Datenschutz-Folgenabschätzung verlangt, bleibt diese Pflicht bestehen; die Informationen aus der Gebrauchsanweisung fließen dort ein. Eine Grundrechte-Folgenabschätzung nach Artikel 27 ist für die meisten privaten Unternehmen nicht vorgeschrieben, wohl aber für Behörden und für bestimmte Anwendungen im Kredit- und Versicherungsbereich.
Diese Liste zeigt, warum Hochrisiko-Anwendungen als erstes KI-Projekt ungeeignet sind. Der Aufwand für Dokumentation und Aufsicht übersteigt bei kleinen Fallzahlen schnell den Nutzen. Wer am Anfang steht, findet im Artikel KI im Mittelstand: Wo anfangen? bessere Kandidaten.
Wann wird ein Betreiber zum Anbieter?
Eine Falle, die im Mittelstand selten bekannt ist, steckt in Artikel 25. Ein Betreiber wird zum Anbieter eines Hochrisiko-Systems, wenn er es unter eigenem Namen oder eigener Marke in Verkehr bringt, es wesentlich verändert oder seine Zweckbestimmung so ändert, dass es zum Hochrisiko-System wird. Dann gelten die vollen Anbieterpflichten, also Konformitätsbewertung, technische Dokumentation, Qualitätsmanagement und Registrierung.
Ein Beispiel: Ein Maschinenbauer kauft ein allgemeines Sprachmodell ein und baut darauf ein Werkzeug, das die Leistung seiner Servicetechniker anhand von Einsatzberichten bewertet und Schulungsempfehlungen ausspricht. Das Grundmodell war kein Hochrisiko-System. Durch die neue Zweckbestimmung wird es eines, und der Maschinenbauer ist nun Anbieter. Solche Vorhaben sind möglich, aber sie gehören vorher rechtlich geprüft. Eine Einordnung nach AI Act ist deshalb fester Bestandteil jeder KI-Beratung, bevor ein Anwendungsfall priorisiert wird.
Was bei typischen Mittelstandsanwendungen gilt
Die folgende Übersicht ordnet Anwendungen ein, die in Unternehmen zwischen 50 und 1.000 Mitarbeitenden derzeit am häufigsten eingeführt werden. Sie ist eine Orientierung, keine Rechtsauskunft; im Zweifel entscheidet der konkrete Zuschnitt.
| Anwendung | Einordnung | Was zu tun ist |
|---|---|---|
| Dokumente auslesen (Rechnungen, Aufträge, Lieferscheine) | Minimal | KI-Kompetenz, Datenschutz bei personenbezogenen Daten |
| Posteingang vorsortieren und Antworten vorschlagen | Minimal | KI-Kompetenz; bei direktem Kundenkontakt ohne Freigabe Transparenzpflicht |
| Suche und Fragen über Firmenwissen | Minimal | KI-Kompetenz, Zugriffsrechte, Datenschutz |
| Übersetzung, Textkorrektur, Zusammenfassung | Minimal | KI-Kompetenz, Nutzungsrichtlinie |
| Chatbot auf der Website ohne menschliche Freigabe | Begrenzt | Hinweis an Nutzer, dass sie mit KI interagieren (ab August 2026) |
| Erzeugte Bilder oder Videos für Marketing | Begrenzt | Kennzeichnungspflicht bei täuschend echten Inhalten |
| Bewerbungen filtern oder bewerten | Hochrisiko | Betreiberpflichten nach Artikel 26, Mitbestimmung, Fachanwalt |
| Leistungs- oder Verhaltensbewertung von Mitarbeitenden | Hochrisiko | Wie oben; prüfen, ob der Nutzen den Aufwand trägt |
| Kreditlimit für Kunden automatisch festlegen | Hochrisiko | Betreiberpflichten, rechtliche Prüfung |
| Emotionserkennung in Service-Telefonaten mit Mitarbeitenden | Verboten | Nicht einsetzen |
Auffällig ist, dass die meisten Anwendungen mit hohem Nutzen in der untersten Stufe liegen. Für sie gilt: Schulung dokumentieren, Datenschutz klären, Nutzungsregeln festlegen. Wie Sie das für Werkzeuge wie ChatGPT konkret umsetzen, beschreibt der Artikel ChatGPT im Unternehmen datenschutzkonform einführen.
Welche Schritte stehen jetzt an?
Für ein mittelständisches Unternehmen ohne Hochrisiko-Anwendungen lässt sich der AI Act in wenigen Wochen abarbeiten.
Erstellen Sie eine Liste aller KI-Anwendungen im Haus, einschließlich der Werkzeuge, die Mitarbeitende auf eigene Faust nutzen. Diese Liste ist oft länger als gedacht.
Ordnen Sie jede Anwendung einer Risikostufe zu. Für die meisten reicht die Tabelle oben; bei Personal, Finanzen und Kundenbewertung lohnt ein genauer Blick.
Führen Sie eine dokumentierte Schulung durch, abgestuft nach Rolle, und wiederholen Sie sie, wenn neue Anwendungen hinzukommen.
Legen Sie eine Nutzungsrichtlinie fest, die auch regelt, dass neue KI-Anwendungen vor dem Einsatz gemeldet und eingeordnet werden.
Wenn Hochrisiko-Anwendungen im Spiel sind oder Sie ein System unter eigenem Namen anbieten wollen, holen Sie rechtliche Beratung ein und planen Sie die Betreiberpflichten vor dem Go-live ein, nicht danach.
Wer diese fünf Schritte erledigt hat, ist für den weit überwiegenden Teil des AI Act gerüstet und kann sich wieder der Frage widmen, die eigentlich zählt: wo KI im eigenen Unternehmen Zeit spart. Der KI-Readiness-Check gibt dazu eine erste Einordnung.