Zum Inhalt springen
Plus abonnierenMein TechNavigator

Digipedia · Künstliche Intelligenz

EU AI Act

KI-Verordnung der EU. Auch bekannt als KI-Verordnung, AI Act, Artificial Intelligence Act oder Verordnung (EU) 2024/1689.

Verordnung (EU) 2024/1689, die KI-Systeme in der EU nach ihrem Risiko einstuft und Anbietern wie Betreibern abgestufte Pflichten auferlegt.

Der EU AI Act, amtlich Verordnung (EU) 2024/1689 zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz, ordnet KI-Systeme nicht nach der Technik, sondern nach dem Einsatzzweck. Entscheidend ist, wofür ein System verwendet wird und welche Folgen ein Fehler für Gesundheit, Sicherheit oder Grundrechte hätte. Daraus ergeben sich vier Stufen: verbotene Praktiken, Hochrisiko-KI-Systeme, Systeme mit Transparenzpflichten und alle übrigen Anwendungen mit minimalem Risiko, für die keine besonderen Pflichten gelten. Daneben regelt der Artificial Intelligence Act eigene Pflichten für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck (General-Purpose AI Models), also großen Sprach- und Bildmodellen. Ziel des AI Act ist nach Art. 1 eine menschenzentrierte und vertrauenswürdige KI (Trustworthy AI), die ein hohes Schutzniveau für Gesundheit, Sicherheit und Grundrechte sichert.

Der AI Act unterscheidet zudem nach Rollen. Anbieter entwickeln ein KI-System oder bringen es unter eigenem Namen in Verkehr; Betreiber setzen es in eigener Verantwortung ein. Die meisten Unternehmen sind Betreiber, viele werden aber zum Anbieter, sobald sie ein eigenes System für Kunden oder Beschäftigte bauen. Die Verordnung ist am 1. August 2024 in Kraft getreten und gilt unmittelbar in allen Mitgliedstaaten, also auch in Deutschland, ohne nationales Umsetzungsgesetz.

Was laut EU AI Act verboten ist und welche Stufen es gibt

Stufe Beispiele Folge
Verbotene Praktiken (Prohibited AI Practices, Art. 5) Social Scoring, manipulative Techniken, ungezieltes Auslesen von Gesichtsbildern, Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen Einsatz untersagt
Hochrisiko-KI-Systeme (High-Risk AI Systems, Art. 6) KI in Personalauswahl, Bildung, kritischer Infrastruktur, Kreditwürdigkeitsprüfung oder als Sicherheitsbauteil von Produkten Risikomanagement, Datenqualität, Dokumentation, menschliche Aufsicht, Konformitätsbewertung
Transparenzpflichten (Art. 50) Chatbots, Deepfakes, KI-erzeugte Texte zu Angelegenheiten von öffentlichem Interesse Kennzeichnung und Offenlegung
Minimales Risiko Spamfilter, Übersetzungshilfen, Empfehlungsfunktionen Keine besonderen Pflichten

Warum der EU AI Act die Geschäftsleitung betrifft

Der AI Act macht den Einsatz von KI zu einer Frage der Unternehmensführung. Wer KI-Systeme ohne Überblick über Zweck, Rolle und Risikostufe einsetzt, kann nicht beurteilen, welche Pflichten gelten. Die Bußgelder sind nach Art. 99 gestaffelt: Für verbotene Praktiken bis zu 35 Millionen Euro oder sieben Prozent des weltweiten Jahresumsatzes, für Verstöße gegen die meisten übrigen Pflichten bis zu 15 Millionen Euro oder drei Prozent, für falsche Angaben gegenüber Behörden bis zu 7,5 Millionen Euro oder ein Prozent. Maßgeblich ist jeweils der höhere Betrag, für kleine und mittlere Unternehmen der niedrigere.

In Deutschland ist die Bundesnetzagentur zentrale Marktüberwachungsbehörde. Grundlage ist das KI-Marktüberwachungs- und Innovationsförderungsgesetz (KI-MIG), das nach Angaben der Bundesnetzagentur seit dem 29. Juli 2026 gilt. Für KI-Systeme, die auf einem allgemeinen KI-Modell desselben Anbieters beruhen, ist das AI Office, das KI-Büro der EU-Kommission, zuständig; für Finanzinstitute und weitere Bereiche bleiben nationale Behörden verantwortlich. Anbieter von General-Purpose AI Models können die Einhaltung des AI Act zudem über einen freiwilligen Verhaltenskodex (Code of Practice) belegen.

Welche Fristen für den AI Act nach dem Digital Omnibus gelten

Die Verordnung wird in Stufen anwendbar. Seit dem 2. Februar 2025 gelten die Verbote und die Pflicht zur KI-Kompetenz, seit dem 2. August 2025 die Pflichten für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck. Seit dem 2. August 2026 ist der AI Act allgemein anwendbar, einschließlich der Transparenzpflichten aus Art. 50.

Mit dem Digital Omnibus zur KI (Digital Omnibus on AI), der Verordnung (EU) 2026/1744, hat die EU den Zeitplan für Hochrisiko-Systeme geändert. Nach Angaben des Rates gelten die Regeln für eigenständige Hochrisiko-Systeme, etwa in Beschäftigung, Bildung oder kritischer Infrastruktur, ab dem 2. Dezember 2027, für Hochrisiko-KI in Produkten wie Aufzügen oder Spielzeug ab dem 2. August 2028. Anbieter generativer Systeme, die schon vor dem 2. August 2026 auf dem Markt waren, haben für die maschinenlesbare Kennzeichnung bis zum 2. Dezember 2026 Zeit. Neu hinzu kommt ein Verbot von KI-Praktiken, die ohne Einwilligung sexuelle oder intime Darstellungen realer Personen erzeugen; es soll laut Rat ab Dezember 2026 gelten. Die Pflicht zur KI-Kompetenz wurde abgeschwächt: Anbieter und Betreiber müssen Maßnahmen zu ihrer Förderung ergreifen.

Ein denkbares Szenario: Ein Unternehmen nutzt eine KI-Software, die Bewerbungen vorsortiert. Damit ist es Betreiber eines Hochrisiko-Systems nach Anhang III. Die Verschiebung auf Dezember 2027 verschafft Zeit, ändert aber nichts an der Einstufung. Wer jetzt Verträge abschließt, sollte vom Anbieter bereits die künftig nötige Dokumentation, Protokollierung und Anleitung für die menschliche Aufsicht zusichern lassen, statt 2027 nachzuverhandeln.

Woran Unternehmen erkennen, was der AI Act von ihnen verlangt

  • KI-Inventar anlegen: Welche KI-Systeme sind im Einsatz, auch eingebettet in Standardsoftware, und für welchen Zweck?
  • Rolle klären: Ist das Unternehmen bei jedem System Betreiber oder durch eigene Entwicklung oder Umbenennung selbst Anbieter?
  • Risikostufe bestimmen: Fällt ein Einsatz unter die Verbote, unter Anhang III oder unter die Transparenzpflichten? Diese Einordnung entscheidet über alle weiteren Schritte.
  • Verträge und Beschaffung anpassen: Zusicherungen zu Dokumentation, Datenherkunft, Protokollen und Unterstützung bei Prüfungen gehören in die Einkaufsbedingungen.
  • Reallabore prüfen: Die Mitgliedstaaten richten nach Art. 57 KI-Reallabore (AI Regulatory Sandboxes) ein, in denen neue KI-Systeme unter Aufsicht erprobt werden können, bevor sie in Verkehr kommen.
  • Verantwortung festlegen: Eine benannte Stelle hält das Inventar aktuell, schult die Beschäftigten und berichtet an die Geschäftsleitung.

Verwandte Begriffe

  • Art. 50 KI-VerordnungVorschrift der EU-KI-Verordnung, nach der Menschen erkennen können müssen, wann sie mit KI interagieren oder KI-erzeugte Inhalte vor sich haben.
  • KI-KompetenzFähigkeiten, Kenntnisse und Verständnis, die nötig sind, um KI-Systeme sachkundig einzusetzen und ihre Chancen, Risiken und möglichen Schäden zu erkennen.
  • Schatten-IT und Shadow AINutzung von Cloud-Diensten, Anwendungen und KI-Werkzeugen durch Beschäftigte oder Fachbereiche ohne Prüfung und Freigabe durch die zuständige IT.
  • KI-AgentenKI-Systeme, die ein Ziel in Teilschritte zerlegen, selbstständig Werkzeuge und Schnittstellen nutzen und Aufgaben über mehrere Schritte ohne Einzelfreigabe erledigen.
  • Datenschutz-Grundverordnung (DSGVO)EU-Verordnung, die seit 2018 regelt, wie Unternehmen und Behörden personenbezogene Daten verarbeiten dürfen und welche Rechte betroffene Personen haben.
Quellen (4)
  1. EUR-Lex: Verordnung (EU) 2024/1689 zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz (KI-Verordnung)
  2. Rat der EU: Artificial Intelligence – Council gives final green light to simplify and streamline rules, Juni 2026
  3. Europäische Kommission: EU agrees to simplify AI rules to boost innovation and ban nudification apps, Mai 2026
  4. Bundesnetzagentur: Bundesnetzagentur übernimmt zentrale Rolle bei der Umsetzung der KI-Verordnung, Juli 2026

Einordnung, keine Beratung. Für die Bewertung im Einzelfall fachlichen Rat hinzuziehen.