Wer haftet bei einem Fehler von KI

Das Ergebnis bleibt Menschenwerk, auch wenn KI die Aufgabe ausführt

Ein KI-System kann eine Aufgabe ausführen, aber das System selbst ist keine juristische Person und kann nicht haftbar gemacht werden. Die Verantwortung für ein Ergebnis liegt bei einer natürlichen oder juristischen Person: der Organisation, die das System einsetzt, dem Lieferanten des Systems, oder einer Kombination von beiden, abhängig davon, was genau schiefgegangen ist und welche Vereinbarungen darüber getroffen wurden. Dies ist einer der Gründe, warum ftetoai drei Kategorien unterscheidet statt eines einfachen Ja oder Nein: Bei vielen Aufgaben ist die Frage nicht nur, ob KI die Arbeit erledigen kann, sondern wer welches Ergebnis kontrolliert, bevor es nach außen geht oder Folgen hat.

Die Kategorie „teilweise, mit menschlicher Aufsicht“ besteht genau aus diesem Grund. Bei diesen Aufgaben führt KI die Arbeit aus, aber ein Mensch genehmigt oder lehnt das Ergebnis ab, mit einer Begründung. Diese Aufsicht ist nicht nur eine Qualitätsmaßnahme; sie ist auch der Punkt, an dem die Verantwortung für das endgültige Ergebnis festgelegt wird. Ohne diese Aufsicht ist oft unklar, wer welche Kontrolle hatte, und genau das ist die Frage, die relevant wird, sobald etwas schiefgeht.

Wo die Regeln für Haftung festgelegt sind

Die Haftung bei Fehlern von KI-Systemen wird anhand des bestehenden Rechts beurteilt: allgemeines Vertragsrecht, Produkthaftung und spezifische Vorschriften, die auf europäischer Ebene für KI-Systeme mit erhöhtem Risiko entwickelt werden. Welche Regeln genau anwendbar sind, hängt vom Typ des Systems, der Branche und der Art und Weise ab, wie das System eingesetzt wird. Dies ist kein Bereich, in dem ein Tool wie ftetoai eine Aussage treffen kann, die für jede Situation zutrifft; der aktuelle Gesetzestext und dessen Auslegung durch einen Juristen sind der geeignete Ausgangspunkt. Ftetoai beschreibt, welchen Teil einer Aufgabe ein System übernehmen kann und welcher Teil Aufsicht erfordert, nicht wer in einem konkreten Fall juristisch haftbar ist.

Ein gesonderter Punkt ist die Datenverarbeitung: Sobald eine Aufgabe personenbezogene Daten berührt, entsteht eine zweite Ebene von Verpflichtungen. Diese besprechen wir ausführlicher auf der Seite über die DSGVO bei der Automatisierung von Aufgaben; dort steht unter anderem beschrieben, warum die Verarbeitung durch ein KI-System eine eigene Beurteilung erfordert, losgelöst von der Frage, ob das System die Aufgabe inhaltlich gut ausführt.

Was dies für die Gestaltung der Arbeit bedeutet

Weil das Ergebnis im rechtlichen Sinne Menschenwerk bleibt, ist die Gestaltung der Arbeit der Ort, an dem die praktischen Entscheidungen getroffen werden. Ein paar Mechanismen, die dabei wiederkehren:

Wer kontrolliert was, und auf Grundlage welcher Begründung. Wenn eine Aufgabe in die Kategorie „teilweise“ fällt, ist die Dokumentation der Genehmigung oder Ablehnung und der zugrundeliegenden Begründung der Ansatzpunkt, um im Nachhinein rekonstruieren zu können, was geschehen ist.
Welche Aufgaben vollständig von KI übernommen werden, und unter welchen Bedingungen. Bei Aufgaben in der ersten Kategorie gibt es keine menschliche Kontrolle pro Fall; die Frage lautet dann, wie die Organisation im Vorfeld festgestellt hat, dass dies vertretbar ist, und ob dies mit dem übereinstimmt, was Lieferant und Organisation darüber vereinbart haben.
Wie Aufsicht und Überwachung auf Prozess- und Teamebene gestaltet sind. Das berührt Aufgaben, die selbst wiederum teilweise automatisierbar sind, wie etwa ob KI die Budgetüberwachung und die Meldung von Abweichungen übernehmen kann oder ob KI den Fortschritt von Zielen und Projekten überwachen kann. Auch dort gilt: Das System signalisiert, ein Mensch beurteilt und entscheidet, was damit geschieht.

Diese Einteilung liefert keine Rechtsberatung, wohl aber ein sachliches Bild davon, wo im Prozess die Kontrollpunkte liegen. Dieses Bild ist nützlich für das Gespräch mit einem Juristen oder Berater darüber, wie Haftung in einer konkreten Situation verteilt ist.

Wo dies an Abstimmung innerhalb der Organisation grenzt

Die Art und Weise, wie Aufgaben zwischen KI und Mensch verteilt werden, und wie Aufsicht gestaltet wird, ist nicht nur eine rechtliche Frage, sondern auch eine Frage der Organisation der Arbeit selbst. Änderungen in Arbeitsprozessen und der Einsatz von Systemen, die die Arbeit von Mitarbeitenden berühren, können der Mitbestimmung unterliegen; wann dies der Fall ist und welche Schritte dazugehören, steht beschrieben auf der Seite über wann der Betriebsrat zuständig ist. Auch hier gilt: Dies ist ein separater Prozess neben der Frage, ob KI die Aufgabe inhaltlich übernehmen kann.

Ein vergleichbarer Mechanismus spielt bei Besprechungen eine Rolle, die KI unterstützt statt ersetzt. Bei der Frage, ob KI die wöchentliche Teambesprechung leiten kann, geht es nicht nur um die Frage, ob ein System eine Agenda erstellen und Protokoll führen kann, sondern auch darum, wer weiterhin für Entscheidungen verantwortlich bleibt, die in dieser Besprechung getroffen werden. Die Durchführung kann unterstützt werden; die Verantwortung für das Ergebnis verschiebt sich dadurch nicht automatisch mit.

Was Sie jetzt tun können

Diese Seite beschreibt den Mechanismus, keine fertige Antwort für Ihre Situation. Die Haftung bei einem Fehler von KI hängt vom Typ des Systems, der Branche, den getroffenen Vereinbarungen mit einem Lieferanten und der Art und Weise ab, wie Aufsicht gestaltet ist — und diese Beurteilung liegt bei einem Juristen oder Berater, nicht bei einem Tool, das Aufgaben einteilt.