EU AI Act erklärt

TL;DR: Der EU AI Act ist das weltweit erste umfassende Gesetz zur Regulierung Künstlicher Intelligenz. Er definiert vier Risikoklassen, schreibt Hochrisiko-Systemen ein striktes Pflichtenpaket vor und ergänzt Regeln für allgemein einsetzbare KI-Modelle. Verstöße können bis zu 35 Millionen Euro oder sieben Prozent des weltweiten Jahresumsatzes kosten. Wer früh Governance aufbaut, vermeidet Engpässe und schafft sich Vorsprung.

Warum der AI Act für Unternehmen relevant ist

Künstliche Intelligenz wandert von Forschungsprojekten in produktive Geschäftsprozesse. Damit entstehen neue Fragen: Wie verlässlich entscheidet ein Modell? Welche Daten lagen seinem Training zugrunde? Wer haftet, wenn ein KI-System fehlerhaft urteilt? Der AI Act beantwortet diese Fragen mit einem einheitlichen Rahmen, der die gesamte Wertschöpfungskette adressiert – von Anbietern und Bereitstellern bis zu Importeuren und Händlern.

Die Verordnung ist horizontal: Sie gilt branchenübergreifend, knüpft aber an konkrete Anwendungsfälle und Risikoprofile an. Damit unterscheidet sie sich von sektoralen Regelwerken und ergänzt sie gleichzeitig. Wer KI in Personalprozessen, Kreditscoring, medizinischer Diagnostik, Bildung oder im Kontakt mit Behörden einsetzt, sollte den AI Act früh in Produkt- und Compliance-Pläne aufnehmen.

Mehr Kontext liefert der vertiefende Beitrag zur EU-Digitalregulierung im Überblick. Er ordnet den AI Act in das größere Bild aus DSGVO, NIS2, Data Act und Plattformregulierung ein.

Wer fällt in den Anwendungsbereich?

Der AI Act adressiert vier zentrale Rollen entlang der Lieferkette. Eine saubere Zuordnung dieser Rollen ist die Voraussetzung jeder Compliance-Arbeit, weil sich daraus konkrete Pflichten ableiten.

Der Anbieter entwickelt ein KI-System oder lässt es entwickeln und bringt es unter eigenem Namen oder Markenzeichen auf den Markt. Anbieter tragen die Hauptverantwortung: Sie müssen Risikomanagement, Daten-Governance, Dokumentation und Konformitätsbewertung sicherstellen.

Der Bereitsteller (Deployer) nutzt ein KI-System in eigener Verantwortung. Auch ihn treffen Pflichten, etwa zur Aufsicht, zu Eingabedaten und – in vielen Fällen – zur Information betroffener Personen.

Importeur und Händler spielen Rollen, wenn KI-Systeme aus Drittländern in die EU gelangen oder in der Lieferkette weitergegeben werden. Sie müssen prüfen, dass die Konformitätsbewertung durchgeführt wurde und die CE-Kennzeichnung vorliegt.

Wichtig: Eine Organisation kann mehrere Rollen gleichzeitig einnehmen. Wer ein zugekauftes Modell so anpasst, dass ein neuer Verwendungszweck oder eine wesentliche Änderung entsteht, wird zum Anbieter und übernimmt die zugehörigen Pflichten.

Die vier Risikoklassen

Das Herzstück des AI Acts ist die Klassifikation von KI-Systemen nach Risiko. Je höher das Risiko für Grundrechte, Sicherheit oder gesellschaftliche Werte, desto strenger die Anforderungen.

Verbotene Praktiken sind nicht handelbar. Dazu zählen unter anderem Systeme, die Schwachstellen einzelner Personen ausnutzen, ein Social Scoring betreiben oder Emotionen am Arbeitsplatz und in Bildungseinrichtungen erfassen. Auch ungezielte Massenauswertung biometrischer Daten zur Erstellung von Erkennungs-Datenbanken fällt unter das Verbot. Die Sanktionen sind hier am höchsten und können bis zu 35 Millionen Euro oder sieben Prozent des weltweiten Jahresumsatzes erreichen.

Hochrisiko-Systeme sind erlaubt, aber stark reguliert. Sie werden in Anhang III der Verordnung katalogisiert und betreffen unter anderem Beschäftigung, Bildung, kritische Infrastruktur, Strafverfolgung, Grenzkontrolle und Justizverwaltung. Anbieter müssen unter anderem ein Risikomanagement betreiben, Trainings-, Validierungs- und Testdaten qualitätsgesichert pflegen, technische Dokumentation erstellen, Aufzeichnungs- und Aufbewahrungspflichten erfüllen und menschliche Aufsicht ermöglichen.

Begrenztes Risiko verlangt Transparenz. Wer mit einer KI interagiert, soll dies erkennen können. Deepfakes müssen als künstlich erzeugt gekennzeichnet sein, Chatbots dürfen sich nicht als Mensch ausgeben. Diese Pflichten sind schlanker, aber für viele Anwendungen relevant.

Minimales Risiko umfasst die Mehrheit der Anwendungen. Die Verordnung empfiehlt freiwillige Verhaltenskodizes, schreibt aber keine spezifischen Pflichten vor.

Pflichten für Hochrisiko-Systeme im Detail

Die Anforderungen an Hochrisiko-Systeme bilden den Kern der Verordnung. Sie folgen einer klaren Architektur, die sich in jedem Compliance-Programm wiederfindet.

Ein Risikomanagement-System dokumentiert Risiken über den gesamten Lebenszyklus. Es identifiziert mögliche Schäden, bewertet ihre Wahrscheinlichkeit und ihren Schweregrad und definiert Gegenmaßnahmen. Das System wird regelmäßig aktualisiert, sobald sich Daten, Modelle oder Einsatzkontexte ändern.

Eine Daten- und Datengovernance sichert die Qualität von Trainings-, Validierungs- und Testdaten. Daten müssen relevant, ausreichend repräsentativ, fehlerfrei und für den vorgesehenen Zweck geeignet sein. Bias- und Repräsentationsprobleme sind aktiv zu adressieren – ein Anspruch, der in der Praxis erheblichen Aufwand bedeutet.

Die technische Dokumentation beschreibt das System so, dass Aufsichtsbehörden seine Konformität bewerten können. Dazu gehören Architektur, Trainingsmethoden, eingesetzte Daten, Leistungsmetriken und bekannte Grenzen. Diese Dokumentation muss aktuell gehalten werden.

Aufzeichnungs- und Protokollierungspflichten verlangen, dass Hochrisiko-Systeme nachvollziehbare Logs erzeugen – etwa zu Eingaben, Entscheidungen und Schwellenwerten. Logs sind die Grundlage für Aufsicht, Vorfallsuntersuchung und Beweissicherung.

Transparenz und Information richten sich an Bereitsteller. Sie müssen verstehen, was das System leistet, welche Grenzen es hat und wie es korrekt einzusetzen ist. Eine Gebrauchsanweisung ist verpflichtend.

Menschliche Aufsicht ist ein zentrales Prinzip. Hochrisiko-Systeme müssen so gestaltet sein, dass natürliche Personen die Funktionsweise verstehen, eingreifen und die Ausgabe ignorieren können. Dies betrifft sowohl die Systemarchitektur als auch organisatorische Prozesse.

Genauigkeit, Robustheit und Cybersicherheit sind technische Anforderungen, die über den gesamten Lebenszyklus eingehalten werden müssen. Fehlerresilienz, Schutz vor Manipulation und Schutz vor Modell-Diebstahl gehören dazu.

Ergänzend braucht jedes Hochrisiko-System ein Qualitätsmanagement-System beim Anbieter. Es deckt Prozesse von der Konformitätsbewertung über das Lieferantenmanagement bis zur Marktüberwachung ab.

Allgemein einsetzbare KI und Foundation Models

Eine eigene Kategorie bilden allgemein einsetzbare KI-Modelle (General-Purpose AI, GPAI), häufig auch als Foundation Models bezeichnet. Sie sind nicht für eine bestimmte Anwendung trainiert, sondern für vielfältige nachgelagerte Aufgaben.

Anbieter solcher Modelle müssen technische Dokumentation bereitstellen, eine Zusammenfassung der Trainingsdaten veröffentlichen, urheberrechtliche Vorgaben respektieren und Informationen zur weiteren Verwendung an nachgelagerte Anbieter weitergeben. Damit wird die Verantwortung in der Wertschöpfungskette klarer verteilt.

Modelle mit systemischem Risiko – grob definiert über die für das Training eingesetzte Rechenleistung – unterliegen zusätzlichen Pflichten. Sie müssen Modellbewertungen durchführen, ernsthafte Vorfälle melden, Sicherheitsmaßnahmen für die Cybersicherheit treffen und Risiken aus der Lieferkette berücksichtigen. Anbieter dieser Modelle stehen in einem engeren Dialog mit dem KI-Büro der EU.

Wichtig für Unternehmen, die Foundation Models einsetzen: Wer ein GPAI-Modell in eigene Hochrisiko-Anwendungen einbettet, kombiniert die GPAI-Pflichten mit den Hochrisiko-Anforderungen. Eine saubere Schnittstelle zwischen Modellanbieter und nachgelagertem Anbieter ist daher essenziell – sowohl vertraglich als auch technisch.

Konformitätsbewertung, CE-Kennzeichnung und Aufsicht

Hochrisiko-Systeme durchlaufen eine Konformitätsbewertung. In den meisten Fällen darf der Anbieter sie intern durchführen, dokumentieren und mit einer Konformitätserklärung sowie der CE-Kennzeichnung abschließen. Für besonders sensible Bereiche – etwa bei biometrischer Identifikation – ist eine Bewertung durch eine notifizierte Stelle erforderlich.

Registrierung in einer EU-Datenbank schafft Transparenz. Hochrisiko-Systeme werden dort eingetragen, einschließlich Anbieter, Zweck, Risikoprofil und – wo erforderlich – Konformitätsbewertungs-Daten. Diese Datenbank ist öffentlich, sodass auch Betroffene Einblick erhalten.

Die Aufsicht liegt bei nationalen Behörden und beim KI-Büro der EU. Anbieter müssen schwerwiegende Vorfälle melden, Marktüberwachung unterstützen und auf Anforderungen reagieren. Bei Verstößen drohen abgestufte Bußgelder:

Der jeweils höhere Betrag gilt. Damit setzt der AI Act eine Sanktionsschwere, die sich am Maßstab der DSGVO orientiert und deutlich darüber hinausgehen kann.

Schnittstellen zu DSGVO, NIS2 und anderen Verordnungen

Der AI Act steht nicht allein. Er muss mit anderen Regelwerken kombiniert werden, was sowohl Chancen als auch Stolpersteine birgt.

Die DSGVO bleibt der Maßstab, sobald personenbezogene Daten im Spiel sind – etwa im Training oder im Betrieb. Rechtsgrundlage, Zweckbindung, Betroffenenrechte und Transferregeln gelten unverändert. Hinzu kommt: Die Pflicht zu Datenqualität im AI Act überschneidet sich mit dem Grundsatz der Richtigkeit aus der DSGVO. Eine integrierte Daten-Governance ist daher effizienter als getrennte Programme.

NIS2 und der Cyber Resilience Act wirken auf die Sicherheit der Systeme. KI-Systeme in regulierten Sektoren oder als Produkte mit digitalen Elementen müssen die zugehörigen Sicherheitsanforderungen erfüllen – Risikomanagement, Schwachstellenmanagement, Meldepflichten.

Der Data Act beeinflusst, wie Daten zwischen Anbietern, Nutzern und Cloud-Diensten fließen. Wer Maschinendaten für KI-Training verwendet, muss die zugehörigen Zugriffs- und Portabilitätsrechte berücksichtigen.

Auch Produktsicherheitsrecht und sektorale Regelwerke – etwa für Medizinprodukte oder Maschinen – stehen im Wechselspiel mit dem AI Act. In vielen Branchen werden KI-Komponenten in bestehende Konformitätsbewertungs-Verfahren integriert.

Wer früh eine integrierte Governance baut – mit gemeinsamen Datenkatalogen, einheitlichen Risikomethoden und klarer Rollenverteilung – vermeidet doppelte Arbeit. Mehr Hintergrund liefert der Beitrag zur Datensouveränität, die als Querschnittsthema durch all diese Verordnungen läuft.

Branchenfokus: Wo Hochrisiko-KI besonders relevant ist

Die Hochrisiko-Klassifikation des AI Acts wirkt nicht abstrakt. Sie ordnet sich konkreten Anwendungsfeldern zu, in denen KI heute schon eingesetzt wird oder kurz vor dem produktiven Einsatz steht.

Im Personalwesen sind KI-Systeme zur Sichtung von Bewerbungen, zur Beförderungsentscheidung oder zur Leistungsbewertung Hochrisiko. Sie greifen unmittelbar in die berufliche Existenz Betroffener ein. Anbieter und Bereitsteller müssen Verzerrungen aktiv adressieren, Aufzeichnungen führen und transparente Information sicherstellen.

Im Finanzsektor zählen KI-Anwendungen zum Kreditscoring, zur Risikobewertung von Versicherungen sowie zur Betrugserkennung mit erheblicher Wirkung auf Einzelne zu den Hochrisiko-Anwendungen. Hier verbinden sich AI-Act-Pflichten mit DORA-Anforderungen und Aufsichtsregeln der Finanzaufsicht.

Im Gesundheitswesen stehen KI-gestützte Diagnostik, Triage und Therapieempfehlungen im Fokus. Sie fallen häufig zusätzlich unter Medizinprodukte-Recht; Konformitätsbewertungs-Verfahren sind integriert zu denken.

In der Bildung betrifft Hochrisiko-Klassifikation etwa Systeme zur Bewertung von Prüfungen, zur Zulassung zu Studiengängen oder zur Anomalieerkennung bei Tests. Auch Verfahren zur Erfassung von Emotionen in Lernumgebungen sind besonders sensibel und teilweise verboten.

In der kritischen Infrastruktur – Energie, Verkehr, Wasser – kommt KI zur Steuerung, Vorhersage und Anomalieerkennung zum Einsatz. Hier verbinden sich AI-Act-Pflichten mit NIS2 und sektoralen Sicherheitsanforderungen.

In der Strafverfolgung und Migrationskontrolle sind viele Anwendungen Hochrisiko, einige sogar verboten. Biometrische Fernidentifikation in öffentlich zugänglichen Räumen ist mit engen Ausnahmen reguliert.

Datenqualität als Kernpflicht

Wenig wird so unterschätzt wie die Datenqualität in Hochrisiko-Systemen. Der AI Act formuliert hier eine eigene Disziplin, die in der Praxis erhebliche Investitionen erfordert.

Daten müssen relevant sein – also zum vorgesehenen Zweck passen. Modelle, die auf nicht repräsentativen Daten basieren, liefern systematisch verzerrte Ergebnisse. Anbieter müssen prüfen, ob ihre Daten die Zielpopulation abbilden.

Daten müssen ausreichend repräsentativ sein. Insbesondere müssen Gruppen, die im Anwendungskontext relevant sind, hinreichend abgebildet werden. Andernfalls drohen Diskriminierungsrisiken und juristische Probleme.

Daten müssen fehlerfrei und vollständig sein, soweit dies möglich ist. Datenbereinigung, Validierungsregeln und automatisierte Prüfungen werden zur Routine.

Schließlich verlangt der AI Act, dass Anbieter aktiv mit Bias und Verzerrungen umgehen. Erkennen, bewerten, mindern – diese Schritte gehören zum Pflichtpaket. Dokumentation und Audit-Spuren sind essenziell.

Die Pflicht zur Datenqualität verbindet sich eng mit der DSGVO und der Datensouveränität. Wer Datenherkunft, Verarbeitungszweck und Datenklassifizierung sauber führt, schafft die Grundlage für AI-Act-Konformität. Ein vertiefender Blick darauf findet sich im Beitrag zur Datensouveränität.

KI-Kompetenz und Schulung

Eine oft übersehene Pflicht ist die KI-Kompetenz. Der AI Act verlangt, dass alle Personen, die KI-Systeme einsetzen oder verantworten, über ausreichende Kompetenz verfügen, um diese sicher und verantwortungsvoll zu nutzen.

Diese Pflicht ist breit angelegt. Sie betrifft nicht nur Datenwissenschaftler oder Compliance-Verantwortliche, sondern auch Anwender in Fachabteilungen. Ein Personalsachbearbeiter, der KI-gestützte Bewerbungssichtung nutzt, muss verstehen, wie das System funktioniert, wo seine Grenzen liegen und wie er Entscheidungen kritisch hinterfragen kann.

In der Praxis bedeutet das gestaffelte Schulungsprogramme. Eine Grundausbildung für alle Mitarbeitenden – KI verstehen, Risiken erkennen, Eingaben sorgsam wählen. Eine Vertiefung für Fachanwender – wie funktionieren die genutzten Systeme, welche Aufsichtspflichten gelten, wie meldet man Auffälligkeiten. Eine Spezialisierung für KI-Verantwortliche – Governance, Konformitätsbewertung, Modellbewertung, Vorfallsmanagement.

KI-Kompetenz ist nicht nur Pflicht, sondern auch Geschäftshebel. Unternehmen, die früh in Kompetenz investieren, setzen KI souveräner ein und vermeiden Fehlinvestitionen in Tools, die ihre Versprechen nicht halten.

Umsetzungs-Roadmap für Unternehmen

Praktische Compliance entsteht selten am Schreibtisch. Sie wächst entlang einer Roadmap, die sich an Reife und Risiko orientiert.

Ein Inventar der KI-Anwendungen ist der Ausgangspunkt. Welche Modelle, Tools und Funktionen kommen im Unternehmen zum Einsatz – inklusive Software, in der KI als Komponente steckt? Welche Anbieter, welche Datenflüsse, welche Anwendungsfälle? Häufig zeigt sich, dass das Spektrum breiter ist als angenommen – von HR-Tools über Marketing-Plattformen bis zu Cybersecurity-Lösungen.

Auf dieser Basis folgt die Risikoklassifizierung im Sinne des AI Acts. Welche Systeme fallen in welche Klasse? Welche enthalten Hochrisiko-Anwendungsfälle, etwa bei der Auswahl von Bewerbern oder der Vergabe von Krediten? Diese Einstufung sollte gut dokumentiert sein, weil sie die Grundlage für alle folgenden Pflichten bildet.

Der dritte Schritt ist die Governance. Wer trägt die Verantwortung für KI im Unternehmen? Wie laufen Freigaben, wie das Risikomanagement, wie die menschliche Aufsicht? Klare Rollen, Richtlinien und Schulungen sind unverzichtbar. Die Verordnung verlangt explizit eine KI-Kompetenz bei allen Mitarbeitenden, die KI-Systeme nutzen oder verantworten.

Im vierten Schritt geht es in die technischen Bausteine: Datenqualitäts-Prozesse, Logging-Infrastruktur, Aufsichtsmechanismen, Sicherheitsmaßnahmen. Diese Bausteine setzen die Governance um und entscheiden über die Belastbarkeit der Compliance.

Schließlich braucht es ein Lebenszyklusmodell. KI-Systeme verändern sich durch Updates, neue Daten oder geänderte Einsatzkontexte. Konformität muss laufend überprüft und gegebenenfalls erneuert werden.

Häufige Stolpersteine

In Compliance-Projekten zeigen sich wiederkehrende Schwierigkeiten, die früh adressiert werden sollten.

Ein erster Stolperstein ist das fehlende Inventar. Ohne saubere Erfassung der eingesetzten KI bleibt jede Risikoklassifizierung Stückwerk. Hilfreich sind enge Verbindungen zu IT-Asset-Management und Lieferantenverträgen.

Ein zweiter Punkt sind versteckte Hochrisiko-Anwendungen. Tools, die zunächst harmlos wirken, können in Hochrisiko-Bereichen eingesetzt werden – etwa, wenn eine Office-Funktion zur Auswahl von Bewerbern genutzt wird. Solche Anwendungen brauchen besondere Aufmerksamkeit.

Ein dritter Stolperstein ist unklare Datenherkunft. Bei zugekauften Modellen ist oft nicht transparent, mit welchen Daten trainiert wurde. Die GPAI-Pflichten verbessern die Lage, aber Unternehmen sollten Datenherkunfts-Klauseln aktiv in Verträge aufnehmen.

Ein vierter Punkt ist die menschliche Aufsicht. Pro forma ist sie schnell behauptet, in der Praxis aber schwer einzurichten. Wer eine Bewerberbewertung in wenigen Sekunden bestätigt, übt keine echte Aufsicht aus. Aufsichtsdesign muss Zeit, Kompetenz und Eingriffsmöglichkeiten ernst nehmen.

Schließlich gilt: Compliance ist Kulturarbeit. Schulungen, klare Richtlinien und ein gelebter Umgang mit Risiken sind genauso wichtig wie Dokumente und Tools.

Governance-Modelle für KI im Unternehmen

Ohne klare Governance läuft jede technische Maßnahme ins Leere. Drei Modelle haben sich in der Praxis bewährt – sie können einzeln oder kombiniert eingesetzt werden.

Das zentrale Modell etabliert ein KI-Kompetenzzentrum, das alle Anwendungen prüft, freigibt und überwacht. Vorteile sind einheitliche Standards, klare Verantwortlichkeiten und hohe Kompetenztiefe. Nachteile sind Engpässe und mögliche Reibungsverluste mit Fachabteilungen. Das Modell eignet sich vor allem für Unternehmen mit überschaubarem KI-Portfolio oder besonders hohen regulatorischen Anforderungen.

Das dezentrale Modell verteilt Verantwortung in die Geschäftsbereiche, ergänzt durch zentrale Leitplanken. Vorteile sind Geschwindigkeit und Geschäftsnähe; Nachteile sind unterschiedliche Reifegrade und das Risiko inkonsistenter Standards. Hier braucht es starke gemeinsame Frameworks und regelmäßiges Reporting an eine zentrale Stelle.

Das föderale Modell kombiniert ein leichtgewichtiges Kompetenzzentrum mit dedizierten KI-Verantwortlichen in den Bereichen. Standards, Werkzeuge und Schulungen kommen zentral; konkrete Anwendungsfälle werden dezentral verantwortet. Dieses Modell ist in vielen größeren Organisationen die pragmatische Wahl, weil es Skaleneffekte und Geschäftsnähe verbindet.

Unabhängig vom Modell sind drei Gremien typisch: ein KI-Steuerungskreis mit Vertretern aus Recht, Datenschutz, Sicherheit, IT und Business; ein technisches Komitee, das Standards und Architekturentscheidungen prüft; und Anwender-Foren, in denen praktische Erfahrungen geteilt und Risiken früh sichtbar gemacht werden.

Vom AI Act zum Geschäftswert

Auch wenn Compliance der unmittelbare Auslöser ist – die langfristige Wirkung des AI Acts reicht weiter. Wer KI-Governance früh aufbaut, schafft sich Wettbewerbsvorteile.

Erstens entstehen belastbare Prozesse. Risikobewertungen, Datenqualitäts-Reviews und Aufsichtsmechanismen sind Mechanismen, die Fehlentscheidungen reduzieren und die Qualität von KI-Anwendungen erhöhen. Diese Mechanismen zahlen unmittelbar auf Geschäftsergebnisse ein – über bessere Modellperformance, weniger Eskalationen und höhere Akzeptanz bei Kunden.

Zweitens entsteht Vertrauen. Kunden, Partner und Regulatoren beobachten KI-Einsatz zunehmend kritisch. Wer transparent kommuniziert, welche Systeme im Einsatz sind, wie sie geprüft werden und wo Grenzen liegen, baut Vertrauen auf, das in regulierten Branchen unmittelbar Aufträge sichert.

Drittens entstehen Plattformeffekte. Unternehmen, die früh strukturierte Daten- und KI-Lebenszyklen aufbauen, können neue Anwendungen schneller produktiv setzen. Was zunächst nach Compliance-Aufwand aussieht, wird im Lauf der Zeit zur Innovations-Beschleunigung.

Schließlich gilt: Wer Souveränität ernst nimmt, behält Handlungsfähigkeit auch dann, wenn sich Modelle, Anbieter oder Regelwerke ändern. Diese Resilienz ist in einem dynamischen Markt der vielleicht wichtigste Vorteil. Ein vertiefender Blick auf den größeren regulatorischen Rahmen findet sich im Beitrag zur EU-Digitalregulierung im Überblick.

Typische Anwendungsfälle und ihre Einordnung

Die abstrakte Logik des AI Acts wird greifbar, sobald man typische Anwendungsfälle einordnet. Die folgenden Szenarien zeigen, wie aus Anwendungskontexten Risikoklassen werden.

Ein Chatbot im Kundenservice, der allgemeine Fragen beantwortet, fällt in der Regel unter begrenztes Risiko. Es gilt eine Transparenzpflicht: Nutzer müssen erkennen können, dass sie mit einer KI interagieren. Soweit der Chatbot Entscheidungen über Zugang zu Leistungen trifft – etwa Kredite oder Versicherungen – kann sich die Einordnung in Richtung Hochrisiko verschieben.

Ein KI-gestütztes Bewerbungs-Screening ist klassisches Hochrisiko-Terrain. Anbieter und Bereitsteller müssen das gesamte Pflichtpaket erfüllen: Risikomanagement, Daten-Governance, technische Dokumentation, menschliche Aufsicht, Information der Betroffenen. Eine reine Vorsortierung mit menschlicher Endentscheidung ändert die Einordnung nicht automatisch – auch Vorsortierung kann benachteiligen.

Ein Spam-Filter fällt typischerweise unter minimales Risiko. Der AI Act schreibt keine speziellen Pflichten vor, freiwillige Verhaltenskodizes werden empfohlen. Im Unternehmen sollte trotzdem grundlegende Governance gelten – etwa zur Datenqualität und zum Schutz personenbezogener Daten.

Ein KI-System zur Anomalieerkennung in einer Stromnetzleitwarte kann Hochrisiko sein, sobald es zur Steuerung kritischer Infrastruktur beiträgt. Hier verbinden sich AI-Act-Pflichten mit NIS2-Vorgaben und sektoralen Sicherheitsanforderungen.

Eine Empfehlung im E-Commerce-Shop ist meist minimales Risiko. Sobald jedoch Profilierungselemente hinzukommen, die in sensible Bereiche eingreifen – etwa Bonität –, kann sich die Einordnung verschieben.

Die Einordnung ist also kein einmaliger Akt. Sie hängt vom Kontext und der konkreten Nutzung ab. Ein und dasselbe Werkzeug kann je nach Einsatzgebiet in unterschiedliche Klassen fallen. Eine sorgfältige Dokumentation des Einsatzzwecks gehört daher zu jeder Risikoeinstufung.

KI-Vorfallsmanagement und Aufsichtspraxis

Der AI Act verlangt nicht nur präventive Maßnahmen, sondern auch ein funktionierendes Vorfallsmanagement. Anbieter und Bereitsteller müssen schwerwiegende Vorfälle den zuständigen Aufsichtsbehörden melden – mit Fristen, die sich an Schweregrad und Auswirkung orientieren.

Der Begriff des schwerwiegenden Vorfalls umfasst Ereignisse, die zu schweren Verletzungen, zum Tod, zu erheblichen Sachschäden oder zu Beeinträchtigungen kritischer Infrastruktur führen. Auch Verletzungen von Grundrechten und schwerwiegende Verletzungen von Pflichten aus EU-Recht zählen dazu.

In der Praxis ähneln die Strukturen denen aus DSGVO und NIS2: eine zentrale Vorfalls-Stelle, dokumentierte Prozesse, geübte Eskalationen. Wer diese Strukturen bereits aufgebaut hat, kann sie auf KI-Vorfälle erweitern. Wichtig ist, dass technische und fachliche Spezialisten – also Datenwissenschaftler und Domänenexperten – früh eingebunden werden, weil KI-Vorfälle oft komplexer sind als klassische Sicherheitsvorfälle.

Aufsichtsbehörden – auf nationaler Ebene und ergänzt durch das KI-Büro der EU – werden in den nächsten Jahren eine Aufsichtspraxis entwickeln. Erste Leitlinien, Standards und Beispiele werden orientierend wirken. Wer mit den Behörden konstruktiv kommuniziert, frühzeitig Feedback einholt und an Konsultationen teilnimmt, kann seine Position aktiv mitgestalten.

Das könnte dich auch interessieren:

Zu verwandten Themen führen folgende vertiefende Beiträge weiter: die EU-Digitalregulierung im Überblick, die DSGVO einfach erklärt, die NIS2-Richtlinie erklärt sowie der Themen-Überblick zur digitalen Souveränität.

FAQ – Häufige Fragen

Quellen

• EU AI Act: 7 Pflichten und Risikoklassen einfach erklärt – Kompass CS
• Klassifikation von KI: Die vier Risikostufen des EU AI Act – TÜV Rheinland Consulting
• EU AI Act Risikoklassen im Detail – Ventum Consulting
• Die Risikoklassen des EU AI Act – mindsquare
• EU AI Act verständlich erklärt – VITAS

URL: /ratgeber/digitale-souveraenitaet/eu-regulierung/eu-ai-act-erklaert/