Der EU AI Act verteilt Pflichten nach Rollen. Die beiden wichtigsten sind Anbieter und Betreiber, und von der Rolle hängt ab, was ein Unternehmen tun muss. Für die meisten Mittelständler ist die Antwort einfach: Sie sind Betreiber. Schwieriger wird es, sobald ein Unternehmen ein Sprachmodell zukauft und daraus ein eigenes Werkzeug baut. Dieser Artikel ordnet die typischen Fälle ein. Die Fristen und die Pflichten im Überblick stehen im Artikel EU AI Act für den Mittelstand.
Was die Verordnung unter Anbieter und Betreiber versteht
Anbieter ist, wer ein KI-System oder ein KI-Modell entwickelt oder entwickeln lässt und es unter eigenem Namen oder eigener Marke in Verkehr bringt oder in Betrieb nimmt. Wichtig ist der zweite Teil: Inbetriebnahme umfasst auch den eigenen Gebrauch. Wer ein KI-System für sich selbst baut und einsetzt, ist also Anbieter dieses Systems, auch wenn er es nie verkauft.
Betreiber ist, wer ein KI-System in eigener Verantwortung einsetzt, solange das nicht privat geschieht. Ein Unternehmen, das ChatGPT, Copilot oder eine KI-Funktion seines ERP nutzt, ist Betreiber.
Ein Unternehmen kann beides zugleich sein: Anbieter des eigenen Werkzeugs und Betreiber, weil es dieses Werkzeug selbst nutzt.
Drei typische Fälle im Mittelstand
Fall 1: fertige Werkzeuge. Die Mitarbeitenden nutzen ChatGPT im Geschäftstarif, Microsoft Copilot und die Texterkennung im Dokumentenmanagement. Das Unternehmen ist Betreiber. Es muss für die KI-Kompetenz der Mitarbeitenden sorgen, in bestimmten Fällen offenlegen, dass Inhalte mit KI erzeugt wurden, und die Werkzeuge so einsetzen, wie der Hersteller es vorsieht.
Fall 2: ein eigener Assistent auf einem zugekauften Modell. Ein Großhändler baut mit einem Sprachmodell, das er per Schnittstelle nutzt, einen Assistenten, der Bestellungen aus E-Mails liest und Auftragsvorschläge im ERP anlegt. Der Großhändler ist Anbieter dieses Assistenten, weil er ihn entwickeln lässt und selbst in Betrieb nimmt. Anbieter des Sprachmodells bleibt der Modellhersteller, mit dessen eigenen Pflichten. Weil die Auftragserfassung keine Hochrisiko-Anwendung ist, sind die Pflichten als Anbieter gering: KI-Kompetenz, Transparenz, wo sie vorgeschrieben ist, und eine saubere Dokumentation, die ohnehin zu einem guten Projekt gehört.
Fall 3: ein eigenes Werkzeug mit neuer Zweckbestimmung. Ein Maschinenbauer baut auf demselben Modell ein Werkzeug, das die Leistung seiner Servicetechniker anhand von Einsatzberichten bewertet. Bewertung von Beschäftigten ist eine Hochrisiko-Anwendung. Der Maschinenbauer ist damit Anbieter eines Hochrisiko-Systems, mit Konformitätsbewertung, technischer Dokumentation, Qualitätsmanagement und Registrierung. Das ist kein Grund, es zu lassen, aber ein Grund, es vorher rechtlich zu prüfen.
Welche Pflichten an welcher Rolle hängen
Die Pflichten unterscheiden sich weniger nach Rolle als nach Risiko. Ein Überblick für die Fälle, die im Mittelstand vorkommen:
| Pflicht | Betreiber | Anbieter eines eigenen Werkzeugs | Anbieter eines Hochrisiko-Systems |
|---|---|---|---|
| KI-Kompetenz der Beteiligten (Art. 4) | ja | ja | ja |
| Verbotene Praktiken ausschließen (Art. 5) | ja | ja | ja |
| Transparenz gegenüber Personen (Art. 50) | in bestimmten Fällen | in bestimmten Fällen | in bestimmten Fällen |
| Risikomanagement, technische Dokumentation | nein | nein | ja |
| Qualitätsmanagement, Konformitätsbewertung, Registrierung | nein | nein | ja |
| Menschliche Aufsicht, Protokolle aufbewahren | nur bei Hochrisiko | nur bei Hochrisiko | ja, im System vorgesehen |
Die Tabelle zeigt, warum die Rolle allein wenig aussagt. Ein Großhändler mit eigenem Bestell-Assistenten ist Anbieter und hat trotzdem kaum mehr zu tun als ein Betreiber. Der Maschinenbauer mit dem Bewertungswerkzeug hat als Anbieter eines Hochrisiko-Systems ein umfangreiches Programm vor sich.
Was die Transparenzpflichten im Alltag bedeuten
Artikel 50 betrifft beide Rollen, aber an unterschiedlichen Stellen. Als Anbieter müssen Sie ein System, das direkt mit Menschen spricht, so gestalten, dass die Menschen wissen, dass sie mit einer KI sprechen. Ein Chat auf Ihrer Website oder ein Assistent, der Kundenanfragen per Mail beantwortet, braucht also einen Hinweis, sofern das nicht ohnehin offensichtlich ist. Systeme, die Texte, Bilder oder Audio erzeugen, müssen ihre Ergebnisse maschinenlesbar kennzeichnen; das übernehmen in der Regel die Hersteller der Modelle.
Als Betreiber müssen Sie offenlegen, wenn Sie täuschend echte Bilder, Videos oder Tonaufnahmen von Personen erzeugen, und wenn Sie mit KI Texte erstellen, die die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse informieren sollen, ohne dass ein Mensch sie redaktionell verantwortet. Ein Angebotsentwurf, den ein Mitarbeiter prüft und abschickt, fällt nicht darunter.
Was beim Hersteller des Modells bleibt
Wer ein großes Sprachmodell anbietet, hat eigene Pflichten: technische Dokumentation des Modells, Informationen für alle, die das Modell in ihre Systeme einbauen, eine Strategie zum Urheberrecht und eine Zusammenfassung der Trainingsdaten. Diese Pflichten bleiben beim Hersteller, auch wenn Sie das Modell in Ihr Werkzeug einbauen. Für Sie zählt etwas anderes: Lesen Sie die Informationen, die der Hersteller für Integratoren bereitstellt, und halten Sie sich an die dort beschriebenen Grenzen. Wer ein Modell für einen Zweck einsetzt, den der Hersteller ausschließt, trägt das Risiko selbst.
Wann ein Betreiber zum Anbieter wird
Artikel 25 regelt einen Fall, der im Mittelstand wenig bekannt ist. Ein Betreiber wird zum Anbieter eines Hochrisiko-Systems, wenn er
- ein Hochrisiko-System unter eigenem Namen oder eigener Marke anbietet,
- ein Hochrisiko-System wesentlich verändert, oder
- die Zweckbestimmung eines Systems so ändert, dass es zum Hochrisiko-System wird.
Der dritte Punkt ist die eigentliche Falle. Ein allgemeines Werkzeug, das für Texte gedacht ist, wird nicht dadurch zum Problem, dass es KI nutzt, sondern dadurch, wofür es eingesetzt wird. Wer ChatGPT anweist, Bewerbungen zu sortieren, ändert die Zweckbestimmung.
Was das für eigene KI-Projekte heißt
Für die allermeisten Vorhaben im Mittelstand, also Dokumente auslesen, Posteingang vorsortieren, Wissen auffindbar machen, Berichte erstellen, ändert die Rolle als Anbieter wenig. Drei Dinge sollten trotzdem geklärt sein, bevor ein eigenes Werkzeug in Betrieb geht:
- Zweck schriftlich festhalten. Wofür ist das Werkzeug gedacht, und wofür ausdrücklich nicht? Das schützt davor, dass es später für eine Hochrisiko-Aufgabe genutzt wird, ohne dass es jemand merkt.
- Ins KI-Verzeichnis eintragen. Mit Zweck, Modell, Datenquellen, Verantwortlichem und Risikoeinordnung. Ein solches Verzeichnis schreibt die Verordnung für Betreiber nicht vor, aber es ist der einfachste Nachweis, dass die Einordnung stattgefunden hat.
- Menschen in der Entscheidung lassen. Das Werkzeug schlägt vor, ein Mensch gibt frei. Das ist bei Hochrisiko-Systemen Pflicht und bei allen anderen schlicht gute Praxis.
Bei Ammermann Consulting gehört diese Einordnung zu jedem Umsetzungsprojekt, bevor die erste Zeile Code entsteht. Wer seinen gesamten KI-Einsatz einmal sauber erfassen und regeln will, findet das passende Angebot unter EU-AI-Act-Beratung.
Und wenn ein Dienstleister das Werkzeug baut?
Dann ändert sich an Ihrer Rolle wenig. Anbieter ist nach der Verordnung auch, wer ein System entwickeln lässt und es unter eigenem Namen in Betrieb nimmt. Beauftragen Sie eine Agentur oder einen Berater mit dem Bau eines Assistenten, der in Ihrem Betrieb läuft, sind in der Regel Sie der Anbieter, nicht der Dienstleister. Anders ist es, wenn der Dienstleister ein fertiges Produkt unter eigenem Namen an viele Kunden verkauft; dann ist er Anbieter und Sie sind Betreiber.
Für die Praxis heißt das: Lassen Sie sich vom Dienstleister liefern, was Sie für Ihre Rolle brauchen. Dazu gehören eine Beschreibung von Zweck und Grenzen, die eingesetzten Modelle und Datenquellen, die Prüfschritte durch Menschen und eine Dokumentation, mit der Sie das Werkzeug ins KI-Verzeichnis eintragen können. Ein seriöser Dienstleister bringt das ohnehin mit.
Fazit
Wer KI-Werkzeuge nutzt, ist Betreiber. Wer eigene baut, ist für diese Werkzeuge Anbieter, und das ist meist unkritisch, solange der Zweck keine Hochrisiko-Anwendung ist. Die Verantwortung für das zugekaufte Modell bleibt beim Hersteller. Aufpassen müssen Sie bei Personal, Bewertung von Menschen und Entscheidungen über Kredite oder Zugang zu Leistungen. Dort lohnt eine rechtliche Prüfung vor dem Start, nicht danach.