NO AI ACT · Deutsch
KI in der Personalauswahl: vom Bewerbungsfilter zur Verantwortung
Ein Terminassistent, ein Bewerbungsranking und ein Werkzeug zur Bewertung von Beschäftigten erfüllen unterschiedliche Aufgaben. Diese Einführung zeigt, welche Fragen eine Fallanalyse zum EU AI Act zuerst beantworten sollte, bevor sie eine rechtliche Einordnung versucht.
01Welche Entscheidung wird tatsächlich beeinflusst?
Beginne mit einem Satz über die Funktion: Ordnet das System Dokumente, empfiehlt es Bewerbungen oder beeinflusst es, wer überhaupt zu einem Gespräch eingeladen wird? Das Wort „Assistent“ beantwortet diese Frage nicht. Auch ein Vorschlag kann erheblichen Einfluss haben, wenn Menschen die übrigen Unterlagen nicht mehr ansehen. Beschreibe deshalb den vollständigen Arbeitsablauf vom Eingang der Bewerbung bis zur Entscheidung. Trenne dabei das technische Ergebnis des Systems von der Handlung der Person, die es verwendet.
02Der rechtliche Ausgangspunkt
Anhang III Nummer 4 nennt bestimmte KI-Anwendungen bei Einstellung, Personalauswahl und Beschäftigtenmanagement. Für die Einordnung sind außerdem die Voraussetzungen und Ausnahmen des Artikels 6 zu prüfen. Nicht jedes digitale Werkzeug einer Personalabteilung ist deshalb automatisch ein Hochrisiko-KI-System. Umgekehrt reicht die Bezeichnung „unverbindliche Empfehlung“ nicht aus, um die Prüfung zu beenden. Für die Rechtslage zählt der konkrete Verwendungszweck mit seinen Bedingungen, nicht allein die Bezeichnung des Produkts. Die amtlichen Quellen sind unten verlinkt.
03Fiktiver Fall: nur fünf Bewerbungen werden gelesen
Ein Betrieb erhält 30 Bewerbungen und lässt eine Rangliste erstellen. Die verantwortliche Person prüft nur die ersten fünf Einträge. Eine Bewerberin mit einer längeren Betreuungspause landet weiter unten; die Unterlagen erklären nicht, wie diese Pause gewichtet wurde. Die offene Frage lautet nicht, ob jede Lücke benachteiligt wird: Dafür fehlen Belege. Prüfe stattdessen, welche Daten verwendet werden, ob der Rang den Zugang zum Gespräch steuert und welche Möglichkeit zur Korrektur besteht. Das Beispiel beschreibt weder einen realen Arbeitgeber noch ein geprüftes Produkt.
04Welche Unterlagen würden die Einschätzung ändern?
Hilfreich wären eine Beschreibung der vorgesehenen Verwendung, die Erklärung der verwendeten Merkmale, Informationen zu Prüfungen des Systems und eine nachvollziehbare Zuständigkeit für Fehler. Fragt auch nach dem Ablauf bei einer Beschwerde: Welche Person kann die Originalunterlagen ansehen, den Vorschlag verwerfen und die Entscheidung neu treffen? Ein Werbeversprechen über Genauigkeit ersetzt diese Informationen nicht. Im Unterricht können Gruppen für jedes fehlende Dokument notieren, welche Behauptung sich damit prüfen ließe und welche Frage trotzdem offen bliebe.
05Menschliche Prüfung ist mehr als ein Häkchen
Unterscheide zwischen einer Person, die lediglich eine Liste bestätigt, und einer Person, die die Grundlage der Empfehlung verstehen und ihr widersprechen kann. Für eine Fallanalyse sind Zeit, Zugriff auf Unterlagen und tatsächlicher Handlungsspielraum wichtige Fragen. Ein Prüfvermerk beweist allein noch nicht, dass eine Bewerbung inhaltlich gelesen wurde. Diese Beobachtungen sind Kriterien für die Diskussion, keine vollständige Umsetzungsliste für Organisationen. Reale Verfahren können zusätzlich Datenschutz-, Arbeits- und Antidiskriminierungsrecht berühren.
06Nicht alles ist dieselbe Risikofrage
Eine Einordnung als hochriskant, eine mögliche verbotene Praxis und eine Informationspflicht beantworten unterschiedliche Fragen. Ein Hinweis auf KI macht eine Entscheidung nicht automatisch zulässig. Ebenso kann ein organisatorischer Fehler bestehen, ohne dass dadurch bereits eine bestimmte Verbotsnorm nachgewiesen ist. Haltet bei jeder Behauptung fest, welcher Sachverhalt sie trägt und welche Vorschrift ihr tatsächlich prüft. Für Sonderfälle, Fristen und Ausnahmen ist die jeweils geltende Rechtsgrundlage maßgeblich; diese Einführung ersetzt keine Beratung.
07Eine überprüfbare Schlussfolgerung formulieren
Schreibt zum Abschluss drei kurze Absätze: Was wissen wir? Was vermuten wir? Was müssten wir vor einer Entscheidung noch prüfen? Verbindet eine vorgeschlagene Maßnahme mit dem konkret festgestellten Problem. „Mehr Transparenz“ ist zu unbestimmt, wenn eigentlich ungeklärt ist, ob abgelehnte Bewerbungen je von einem Menschen gelesen werden. Nutzt im Unterricht nur erfundene Unterlagen. Die Durchführung der Übung bescheinigt weder die Konformität eines Personalverfahrens noch einen Lernerfolg oder eine berufliche Qualifikation.
Offizieller EU-Rechtstext
Spielen – Sprache wählen
Das Spiel ist auf Italienisch, Englisch und Französisch verfügbar. Diese Seiten sind auf Deutsch; die Auswahl unten öffnet das Spiel in der angegebenen Sprache.