Risikoklassen im EU AI Act einfach erklärt
Der EU AI Act ordnet jedes KI-System einer von vier Risikoklassen zu. Unannehmbares Risiko ist verboten, etwa Sozialbewertung oder Emotionserkennung am Arbeitsplatz. Hohes Risiko gilt für Systeme, die über Menschen entscheiden, etwa in Personalauswahl oder Kreditvergabe, mit umfangreichen Pflichten. Begrenztes Risiko betrifft Chatbots, die sich zu erkennen geben müssen. Minimales Risiko umfasst den Rest, also die meisten Anwendungen im Mittelstand.
Der EU AI Act reguliert KI nicht pauschal, sondern nach dem Risiko, das ein System für Menschen darstellt. Deshalb ist die erste Frage bei jedem Vorhaben: In welche Klasse fällt das System? Davon hängt ab, ob es gar nicht erlaubt ist, ob es umfangreiche Pflichten auslöst oder ob es einfach eingesetzt werden kann.
Die vier Klassen mit Beispielen
Unannehmbares Risiko, verboten. Systeme, die Menschen manipulieren, Sozialbewertungen vornehmen oder Emotionen am Arbeitsplatz erkennen. Für Unternehmen relevant: Eine Software, die aus der Stimme von Servicemitarbeitern deren Stimmung auswertet, ist nicht zulässig.
Hohes Risiko, strenge Pflichten. Systeme, die über den Zugang von Menschen zu Arbeit, Bildung, Krediten oder wesentlichen Diensten entscheiden oder diese Entscheidung maßgeblich vorbereiten. Im Mittelstand betrifft das vor allem das Personalwesen: Bewerber bewerten oder reihen, Leistung beurteilen, Beförderungen oder Kündigungen vorschlagen. Für Betreiber gelten Pflichten zu menschlicher Aufsicht, Protokollierung, Information der Betroffenen und Schulung.
Begrenztes Risiko, Transparenzpflichten. Systeme, die mit Menschen interagieren oder Inhalte erzeugen. Ein Chatbot auf der Website muss erkennbar sein, KI-generierte Bilder und Texte in bestimmten Fällen gekennzeichnet werden.
Minimales Risiko, keine besonderen Pflichten. Alles andere: Belege auslesen, E-Mails sortieren, Berichte erstellen, interne Wissensassistenten, Entwürfe für Angebote. Hier gilt nur die allgemeine Pflicht, Mitarbeiter im Umgang mit KI zu schulen.
Ein Beispiel aus dem Alltag
Ein Unternehmen führt einen Assistenten ein, der Mitarbeiterfragen zu Urlaub und Reisekosten beantwortet. Minimales Risiko. Dann kommt die Idee, denselben Assistenten die Urlaubsanträge nach Dringlichkeit und Teamauslastung zu priorisieren. Das ist noch vertretbar, solange ein Mensch entscheidet. Würde das System Anträge selbständig genehmigen oder ablehnen, wäre eine Entscheidung über Arbeitsbedingungen betroffen, und die Einordnung müsste neu geprüft werden. Solche Grenzen ziehen wir im Projekt vor dem ersten Code, zusammen mit der DSGVO-Prüfung.
Nächster Schritt
Welcher Prozess kostet Sie die meiste Zeit?
Erzählen Sie es in 30 Minuten. Sie bekommen eine ehrliche Einschätzung, ob KI dort hilft und was der erste Schritt wäre.