JUVE: Bisher kennt das Recht Menschen und Unternehmen, aber keine KI-Agenten. Wie lassen sie sich einordnen?
Benedikt Flöter: KI-Agenten sind Werkzeuge, keine Rechtssubjekte. Man kann sie sich als Software vorstellen, die selbstständig eine Aufgabe in einzelne Schritte zerlegt und abarbeitet. Über eine eigene „Rechtspersönlichkeit“ wird zwar hin und wieder diskutiert, rechtlich bleibt der Agent aber schlicht das Werkzeug dessen, der ihn einsetzt. Spannend wird es, weil diese Werkzeuge immer autonomer werden. Sie wählen ihre Schritte selbst und wirken teilweise praktisch eigenständig nach außen – etwa wenn sie im Onlinehandel eigenständig Bestellungen aufgeben. Verantwortlich ist am Ende trotzdem immer der Mensch oder das Unternehmen dahinter. Was der Agent erklärt und entscheidet, wird dieser Person letztlich auch zugerechnet.
Wenn ein KI-Agent im Geschäftsverkehr eigenständig handelt: Wer haftet dafür?
Charlotte Petrasch: Klar ist: Ein eigenes Haftungsregime für KI gibt es bislang nicht, gehaftet wird aber trotzdem. Die EU wollte hier eigentlich einheitliche Regeln schaffen, aber hat den Entwurf der KI-Haftungsrichtlinie Anfang 2025 wieder zurückgezogen. Zwischenzeitlich stand sogar eine verschärfte Gefährdungshaftung im Raum, wie man sie aus anderen Bereichen mit hohem Gefährdungspotential sieht. In den Vordergrund rückt damit die neue europäische Produkthaftungsrichtlinie. Sie greift auch ohne Verschulden und erfasst gerade die KI-typischen Risiken, etwa dass ein System dazulernt, Sicherheitslücken hat oder Updates ausbleiben.
Daneben haftet der Betreiber für eigenes Verschulden. Da der Agent selbst nicht schuldfähig ist, geht es bei der Haftungsfrage nicht um sein Versagen, sondern immer um die Sorgfaltspflichten des Menschen dahinter. Nach außen trifft das in aller Regel das Unternehmen, das den Agenten im eigenen Namen einsetzt. In der Praxis gibt es jedoch oft mehrere am KI-Agenten beteiligte Unternehmen, vom Anbieter des Modells über diejenigen, die es anpassen, bis zum Einsatzunternehmen. Wer am Ende innerhalb der KI-Lieferkette verantwortlich ist und haftet, muss also immer ganzheitlich betrachtet werden.
Welches Recht ist anwendbar, wenn ein Agent über Cloud-Infrastruktur, Schnittstellen und Datenquellen in mehreren Staaten agiert?
Flöter: Das wird schnell komplex, da solche Agenten typischerweise über weltweit verteilte Infrastruktur betrieben werden. Nicht der Serverstandort entscheidet, sondern wo das System eingesetzt wird und wo seine Wirkungen eintreten. Je nach Rechtsgebiet gibt es zwar unterschiedliche Anknüpfungspunkte, aber am Ende läuft vieles auf den Markt hinaus, den man bedient. Das kann sogar dazu führen, dass europäisches Recht faktisch weltweit wirkt. Zum Beispiel muss ein außerhalb Europas trainiertes KI-Modell die unionsrechtlichen Vorgaben einhalten, sobald es hier auf den Markt kommt. So will der Gesetzgeber verhindern, dass man die Regeln einfach dadurch umgeht, dass man im Ausland trainiert und hostet.
Für Unternehmen heißt das vor allem eines: früh klären, welche Rechtsordnungen überhaupt ins Spiel kommen, dies womöglich über Vertragsklauseln steuern und die eigene Compliance genau darauf ausrichten.
Was müssen Unternehmen und Kanzleien jetzt konkret tun, um ihr Haftungsrisiko beim Einsatz von KI-Agenten zu begrenzen?
Petrasch: Wer einem Agenten erlaubt, selbstständig Verträge zu verhandeln, Bestellungen auszulösen oder Kundenanfragen zu beantworten, sollte vier Dinge im Blick haben. Erstens die Auswahl: Modell und Anbieter müssen zum konkreten Zweck passen, was Reifegrad, Trainingsdaten und Sicherheit beinhaltet. Zweitens die Überwachung im laufenden Betrieb: Gerade bei Entscheidungen, die sich nicht zurückdrehen lassen, gehört ein Mensch in die Schleife, dazu eine saubere Protokollierung und klare Eskalationswege. Drittens die Organisation mit klaren Zuständigkeiten, Freigabeprozessen, abgestuften Rechten und im Zweifel einem Notausschalter. Und viertens das regulatorische Drumherum, also Schulungen, Nutzungsrichtlinien, Tests vor der Freigabe und eine ordentliche Dokumentation.
Wie streng das alles sein muss, hängt davon ab, wie autonom der Agent handelt, welche Zugriffsrechte er hat und wie schwerwiegend potentielle Schäden seiner Entscheidungen sein könne. Für Kanzleien kommt noch die Verschwiegenheitspflicht hinzu. Am Ende bleibt es aber immer bei einer Regel: Die Letztverantwortung liegt beim Menschen, nie beim Agenten.
