Zum Inhalt springen
Plus abonnierenMein TechNavigator

Digipedia · Künstliche Intelligenz

KI-Agenten

Autonom handelnde KI-Systeme. Auch bekannt als KI-Agent, AI Agents, Agentische KI oder Agentic AI.

KI-Systeme, die ein Ziel in Teilschritte zerlegen, selbstständig Werkzeuge und Schnittstellen nutzen und Aufgaben über mehrere Schritte ohne Einzelfreigabe erledigen.

KI-Agenten verbinden ein Sprachmodell mit Werkzeugen, Gedächtnis und einem Auftrag. Das Modell zerlegt das Ziel in Teilschritte, wählt die passenden Werkzeuge, etwa Suche, Datenbankabfrage, E-Mail oder Ticketsystem, und prüft das Zwischenergebnis, bevor es den nächsten Schritt einleitet. Anders als ein Chat-Assistent, der eine Antwort liefert und auf die nächste Frage wartet, arbeitet ein Agent eine Aufgabe über mehrere Schritte selbstständig ab.

Wie weit diese Selbstständigkeit reicht, legt der Betreiber fest. Manche Agenten schlagen nur vor und warten auf eine Freigabe, andere buchen, versenden oder ändern Daten ohne Rückfrage. Die KI-Verordnung der EU kennt keinen eigenen Begriff für Agenten. Sie beschreibt ein KI-System in Art. 3 Nr. 1 aber ausdrücklich als System, das „für einen in unterschiedlichem Grade autonomen Betrieb ausgelegt ist“, und Agenten liegen am oberen Ende dieser Skala.

Warum KI-Agenten eine Führungsfrage sind

Ein Agent handelt im Namen des Unternehmens. Er nutzt Zugangsdaten, Schnittstellen und Rechte, die sonst Beschäftigten vorbehalten sind. Jede Aktion, die er ausführt, ist rechtlich und wirtschaftlich eine Aktion des Unternehmens. Die Frage, wer für einen Fehler einsteht, lässt sich nicht an das Modell oder den Anbieter abgeben.

Damit verschiebt sich das Risiko. Bei einem Assistenten prüft ein Mensch jede Antwort, bevor sie wirkt. Bei einem Agenten wirkt die Ausgabe direkt in Systemen, und Fehler können sich über mehrere Schritte fortpflanzen. Hinzu kommt eine neue Angriffsfläche: Liest ein Agent E-Mails, Webseiten oder Dokumente, können darin versteckte Anweisungen stehen, die er als Auftrag missversteht, in der Fachsprache Prompt Injection genannt.

Behörden haben darauf reagiert. Am 01.05.2026 veröffentlichten die US-Behörden CISA und NSA gemeinsam mit den Cybersicherheitsbehörden Australiens, Kanadas, Neuseelands und des Vereinigten Königreichs den Leitfaden „Careful Adoption of Agentic AI Services“. Er empfiehlt, die Autonomie von Agenten zu begrenzen, ihnen keinen breiten Zugriff auf sensible Daten oder kritische Systeme zu geben und Identitätsverwaltung, Überwachung und menschliche Aufsicht fest einzuplanen.

Für Unternehmen in der EU kommt die KI-Verordnung hinzu. Seit dem 02.02.2025 verlangt Art. 4, dass Beschäftigte, die KI-Systeme betreiben oder nutzen, über ausreichende KI-Kompetenz verfügen. Je nach Einsatzzweck, etwa in der Personalauswahl oder Kreditprüfung, können weitere Pflichten für Hochrisiko-Systeme greifen. Ob ein Agent darunter fällt, hängt vom Anwendungsfall ab, nicht von der Technik.

Wie KI-Agenten in Unternehmen ankommen

Selten beginnt der Einsatz mit einer bewussten Entscheidung für Agenten. Häufiger erweitern Anbieter vorhandene Software um Agentenfunktionen: Das Ticketsystem beantwortet Anfragen selbst, die Bürosoftware erledigt Aufgaben im Postfach, die Entwicklungsumgebung schreibt und testet Code. Offene Standards wie das Model Context Protocol erleichtern es, Agenten an weitere Werkzeuge und Datenquellen anzuschließen. Jede neue Anbindung erweitert, was ein Agent tun kann.

Ein denkbares Szenario: Ein Maschinenbauer setzt einen Agenten im Kundendienst ein, der Anfragen liest, im Warenwirtschaftssystem den Lieferstatus prüft und Ersatzteile nachbestellt. Im Test läuft alles reibungslos. Nach einigen Wochen fällt auf, dass der Agent bei unklaren Anfragen mehrfach bestellt hat, weil er eine Rückfrage des Kunden als neuen Auftrag gedeutet hat. Die Rechte waren nicht nach Betrag begrenzt, und die Protokolle zeigten nur das Ergebnis, nicht den Weg dorthin.

Die Korrektur ist weniger eine Frage der Technik als der Organisation. Bestellungen über einer Schwelle brauchen künftig eine Freigabe, der Agent erhält ein eigenes Benutzerkonto mit eng gefassten Rechten, und jeder Schritt wird nachvollziehbar protokolliert. Fachbereich, IT und Datenschutz legen gemeinsam fest, welche Aufgaben der Agent allein erledigen darf.

KI-Agenten, Assistenten und Automatisierung

Im Sprachgebrauch verschwimmen die Grenzen. Für Entscheidungen hilft die Frage, wer den nächsten Schritt auslöst und wer das Ergebnis prüft.

Form Wer handelt Typisches Risiko
Regelbasierte Automatisierung Fest programmierter Ablauf, gleiche Eingabe führt zum gleichen Ergebnis Bricht bei Abweichungen ab
KI-Assistent Mensch fragt, KI antwortet, Mensch entscheidet und handelt Falsche Antworten werden übernommen
KI-Agent KI plant Schritte und führt sie über Werkzeuge selbst aus Fehler und Manipulationen wirken direkt in Systemen
Multi-Agenten-System Mehrere Agenten teilen Aufgaben auf und reichen Ergebnisse weiter Verantwortung und Ursache sind schwer nachzuverfolgen

Worauf es beim Einsatz von KI-Agenten ankommt

  • Autonomie bewusst festlegen: Für jede Aufgabe entscheiden, ob der Agent nur vorschlägt, nach Freigabe handelt oder selbstständig ausführt, und Schwellen für Beträge oder Datenmengen definieren.
  • Eigene Identität und geringste Rechte: Agenten erhalten eigene Konten statt geliehener Zugänge von Beschäftigten, mit genau den Rechten, die die Aufgabe braucht.
  • Jeden Schritt protokollieren: Nicht nur das Ergebnis, sondern auch Zwischenschritte, genutzte Werkzeuge und Datenquellen nachvollziehbar speichern.
  • Eingaben als unsicher behandeln: Inhalte aus E-Mails, Webseiten und Dokumenten nie als Anweisung gelten lassen und kritische Aktionen zusätzlich absichern.
  • Anbindung und Ausstieg vertraglich klären: Festhalten, wo Modell und Agent betrieben werden, welche Daten das Unternehmen verlassen und wie sich Abläufe auf einen anderen Anbieter übertragen lassen.

Verwandte Begriffe

  • KI-KompetenzFähigkeiten, Kenntnisse und Verständnis, die nötig sind, um KI-Systeme sachkundig einzusetzen und ihre Chancen, Risiken und möglichen Schäden zu erkennen.
  • Schatten-IT und Shadow AINutzung von Cloud-Diensten, Anwendungen und KI-Werkzeugen durch Beschäftigte oder Fachbereiche ohne Prüfung und Freigabe durch die zuständige IT.
  • Local LLMGroßes Sprachmodell, das auf eigener oder exklusiv genutzter Hardware läuft, sodass Eingaben und Dokumente das kontrollierte Netz nicht verlassen.
  • Zero-Trust-ArchitekturSicherheitsmodell, das keinem Nutzer und keinem Gerät aufgrund seines Netzwerkstandorts vertraut und jeden Zugriff auf eine Ressource einzeln prüft.
  • Art. 50 KI-VerordnungVorschrift der EU-KI-Verordnung, nach der Menschen erkennen können müssen, wann sie mit KI interagieren oder KI-erzeugte Inhalte vor sich haben.
Quellen (4)
  1. EUR-Lex: Verordnung (EU) 2024/1689 (KI-Verordnung), Art. 3 Nr. 1 und Art. 4, Juni 2024
  2. Bundesnetzagentur: Definitionen der KI-Verordnung (KI-System)
  3. CISA u. a.: Careful Adoption of Agentic AI Services, Mai 2026
  4. OWASP Gen AI Security Project: Top 10 for Agentic Applications for 2026, Dezember 2025

Einordnung, keine Beratung. Für die Bewertung im Einzelfall fachlichen Rat hinzuziehen.