Die europäische KI-Verordnung (AI Act) teilt KI-Systeme nach Risiko ein. Ein Teil der Anwendungen, die mit Personal zu tun haben, fällt in die Kategorie Hochrisiko. Das ist keine Bewertung, wie gut oder schlecht ein System funktioniert, sondern eine Klassifizierung anhand dessen, was das System entscheidet oder empfiehlt und über wen. Systeme, die sich mit Einstellung, Beförderung, Beurteilung oder Kündigung von Menschen befassen, berühren ein Grundrecht — das Recht auf faire Behandlung im Arbeitsverhältnis — und erhalten deshalb eine strengere Regelung: zusätzliche Dokumentation, menschliche Aufsicht und in vielen Fällen die Pflicht, betroffene Personen zu informieren.
Diese Seite beschreibt den Mechanismus, wie er in der Verordnung angelegt ist. Der vollständige, aktuelle Text mit den genauen Anhängen und Definitionen steht auf der Website der Europäischen Union und bei den nationalen Behörden; dort finden Sie die Formulierung, die rechtlich maßgebend ist.
Die KI-Verordnung nennt als Beispiele für Hochrisiko-Anwendungen im Arbeitskontext unter anderem Systeme, die:
Der gemeinsame Nenner ist, dass das System ein Ergebnis erzeugt, das sich direkt auf die Position eines einzelnen Beschäftigten oder Bewerbers auswirkt. Ein Planungstool, das Dienstpläne für die gesamte Abteilung optimiert, fällt in der Regel nicht darunter; ein Tool, das pro Mitarbeiter einen Score erzeugt, der in ein Beurteilungsgespräch einfließt, fällt darunter. Wo genau die Grenze innerhalb Ihrer eigenen Prozesse liegt, ist eine Frage für einen Juristen oder Compliance-Berater, nicht etwas, das diese Seite für Sie festlegt.
Dies ist der Punkt, an dem viele Organisationen ins Stocken geraten, und es ist auch genau die Frage, die die drei Kategorien dieses Tools zu ordnen versuchen. Eine Aufgabe, die KI vollständig übernehmen kann, ist in der Regel eine Aufgabe ohne dauerhafte Beurteilung einer Person: Text zusammenfassen, einen Dienstplan durchrechnen, eine Planung optimieren. Sobald das System eine Ausgabe erzeugt, die als Grundlage für eine Entscheidung über eine Einzelperson dient — einstellen, nicht einstellen, befördern, einen Vertrag nicht verlängern — verschiebt sich die Aufgabe in die zweite oder dritte Kategorie: menschliche Aufsicht, die mit Begründung genehmigt oder ablehnt, oder vollständig menschliche Arbeit.
Das praktische Merkmal eines Hilfsmittels ist, dass der Mensch die Eingabe kontrolliert, die Ausgabe ohne Konsequenzen ignorieren kann und die endgültige Abwägung selbst vornimmt, auf Basis von mehr als dem Systemergebnis. Das praktische Merkmal eines Bewertungssystems ist, dass das Ergebnis ein schweres oder ausschlaggebendes Gewicht bei einer Entscheidung über diese konkrete Person erhält, auch wenn formal ein Mensch „Ja“ sagt. Ein Score, der in der Praxis immer übernommen wird, funktioniert als Bewertungssystem, unabhängig davon, wie er intern genannt wird. Diese Abgrenzung ist vergleichbar mit dem, was für die DSGVO bei der Automatisierung von Aufgaben gilt: auch dort zählt nicht das Label des Tools, sondern was das Tool tatsächlich entscheidet und welche Daten dafür verwendet werden.
Wenn ein System als Hochrisiko gilt, bringt das Verpflichtungen für die Partei mit sich, die es einsetzt: eine Risikobewertung, Dokumentation zur Funktionsweise, menschliche Aufsicht, die tatsächlich eingreifen kann, und Transparenz gegenüber den betroffenen Beschäftigten oder Bewerbern über die Tatsache, dass ein KI-System eine Rolle spielt. Diese Seite nennt keine Prozentsätze, Fristen oder Beträge, die mit diesen Verpflichtungen verbunden sind, da diese je nach Situation und je nach Phase der Regulierung variieren. Konsultieren Sie für die genauen Anforderungen und Termine die offiziellen Texte oder einen Berater, der den aktuellen Stand kennt.
Wichtig ist zudem, dass diese Klassifizierung unabhängig von Personalentscheidungen ist. Die KI-Verordnung sagt etwas über das System aus, nicht darüber, was eine Organisation mit dem Ergebnis einer Reorganisation oder Funktionsänderung macht. Für Entscheidungen, die das Arbeitsverhältnis betreffen, gelten eigene gesetzliche Anforderungen — man denke an das Kündigungsrecht und die Rolle der Mitbestimmung — die separat und vorab vor dem Einsatz eines Systems geprüft werden müssen. Diese Seite trifft dazu keine Aussage.
Die Einführung eines Systems, das Verhalten oder Leistung von Beschäftigten überwacht oder bewertet, ist oft nicht nur eine Frage des AI Act, sondern auch eine Frage der Mitbestimmung. Zustimmungsrechte können bereits gelten, bevor ein System als Hochrisiko klassifiziert ist. Wann der Betriebsrat dabei einbezogen werden muss und zu welchem Zeitpunkt, steht beschrieben unter wann der Betriebsrat zuständig ist. Dieser Prozess läuft neben, nicht anstelle der Verpflichtungen aus der KI-Verordnung.
Diese Seite beschreibt den Mechanismus: welche Anwendungen genannt werden und wo die praktische Unterscheidung zwischen einem Hilfsmittel und einem Bewertungssystem liegt. Ob ein konkretes System in Ihrer Organisation unter die Hochrisiko-Kategorie fällt und welche Schritte sich daraus ergeben, ist eine Frage, die je nach Situation beantwortet werden muss — vergleichbar mit den Nuancen, die auch in was kann KI in der geschäftlichen Dienstleistung übernehmen gelten, wo dieselbe Frage nach Aufsicht und Verantwortung wiederkehrt.
Möchten Sie einen ersten Eindruck davon, welcher Teil der Aufgaben in Ihrem Funktionsprofil heute durch KI übernommen werden kann, ohne dabei auf Bewertungssysteme über Personen zu blicken? Der kostenlose Quickscan von ftetoai besteht aus zwölf Fragen, funktioniert ohne Konto und liefert eine Einschätzung pro Profil. Der vollständige Workscan, der tiefer auf individuelle Prozesse und Risikoklassifizierung eingeht, befindet sich noch im Aufbau.
Vraag maar. Ik ken de kennisbank van deze site; wat ik niet weet, zeg ik erbij.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.