Bewerberliste unter Aufsicht

TL;DR

• Der EU AI Act führt Bewerberauswahl und Personalmanagement als Hochrisikobereich.
• Ranking, automatische Filter und Schichtleistungsbewertung können auch Gastro- und Hotelbetriebe betreffen.
• Vor dem Softwarekauf gehören Kriterien, Datenquellen, Prüfung und Protokoll auf den Tisch.
• Eine Absage muss erklärbar bleiben, sobald Software bei der Vorauswahl mitwirkt.

Im Backoffice riecht es nach Kaffee, Druckerpapier und einem Dienstplan, der schon wieder nicht aufgeht. Auf dem Bildschirm liegen Bewerbungen für Frühstück, Service, Küche, Housekeeping. Daneben ein kleines Versprechen der Software: passende Kandidaten zuerst.

Oben steht die Bewerberin mit Hotelpraxis. Darunter der Student mit Wochenendzeit. Ganz unten jemand ohne Abschluss, aber mit drei Jahren Vereinsfest, Frühstücksbuffet und Kasse.

Das Tool hat sortiert. Jetzt beginnt die Arbeit.

Der Stapel ist nicht mehr still

Bewerbungen waren früher ein Stapel. Heute sind sie ein Postfach, ein Formular, ein Portal, ein Score. Viele Systeme verwalten längst mehr als Namen und Telefonnummern. Sie schlagen vor, wer gut passt. Sie filtern. Sie markieren. Manchmal empfehlen sie, wer zur Schicht, zur Stelle oder zum Team passen könnte.

Das kann helfen. Gerade in Restaurants und Hotels, wo Personalbedarf selten höflich anklopft. Die Terrasse braucht Leute, das Bankett steht, der Frühstücksdienst beginnt, bevor der Rest des Hauses wach ist.

Nur sollte klar bleiben, warum ein Lebenslauf oben liegt. Und warum ein anderer unten verschwindet.

Brüssel kommt ins Backoffice

Der Rechtsrahmen dazu ist die Verordnung (EU) 2024/1689, der EU AI Act. Sie wurde am 12. Juli 2024 im Amtsblatt veröffentlicht und trat 20 Tage später in Kraft. Einige Regeln gelten bereits seit Februar 2025; die nächste große Anwendungsstufe stand am Publikationstag weniger als einen Monat bevor.

Für den Personalalltag ist Anhang III Nummer 4 der wichtige Teil. Dort geht es um Beschäftigung, Personalmanagement und Zugang zur Selbstständigkeit. Genannt werden KI-Systeme für Einstellung oder Auswahl natürlicher Personen, darunter gezielte Stellenanzeigen, Sichtung oder Filterung von Bewerbungen und Bewertung von Bewerbern.

Auch nach der Einstellung bleibt das Thema da: Arbeitsbedingungen, Beförderung, Kündigung, Aufgabenverteilung, Beobachtung und Bewertung von Leistung und Verhalten können erfasst sein, sobald KI-Systeme dafür eingesetzt werden.

Das heißt nicht: Jedes digitale Bewerbungsformular ist automatisch ein Hochrisiko-Fall. Aber sobald Software Menschen sortiert, bewertet, empfiehlt oder im Arbeitskontext beobachtet, sollte niemand nur auf den hübschen Demo-Knopf schauen.

Das kleine Wort „Passung“

„Passung“ klingt freundlich. Fast wie ein gut sitzender Service-Schuh. In HR-Software kann dahinter viel stecken.

Vielleicht wertet das System Berufsausbildung stark. Vielleicht Verfügbarkeit am Wochenende. Vielleicht Entfernung zum Betrieb, Sprachkenntnisse, Lücken im Lebenslauf, Antworttempo oder frühere Daten aus dem Dienstplan. Vielleicht gibt es Knock-out-Kriterien, die niemand im Team bewusst gesetzt hat.

Im Hotel kann das heißen: Eine Bewerbung für die Rezeption rutscht nach unten, weil PMS-Erfahrung fehlt. Im Restaurant: Eine Küchenhilfe wird niedriger bewertet, weil kein formaler Abschluss im Lebenslauf steht. Beim Workforce-Tool: Jemand bekommt weniger gute Schichten vorgeschlagen, weil Tempo, No-shows oder Gäste-Feedback in die Empfehlung einfließen.

Das muss nicht falsch sein. Aber es muss erklärbar sein.

Fünf Fragen vor der Unterschrift

Der beste Moment für saubere Personal-KI ist der Einkauf. Nicht die erste Beschwerde. Nicht die Absage, bei der niemand mehr weiß, wer eigentlich entschieden hat.

Fünf Fragen reichen als Start:

• Welche Kriterien nutzt das Tool?
• Welche Daten kommen hinein?
• Wer prüft die Vorauswahl?
• Was wird protokolliert?
• Wie wird eine Absage erklärbar?

Lassen Sie sich zeigen, was eine Bewerbung nach oben oder unten schiebt. Gibt es Gewichte? Ampeln? Scores? automatische Ausschlüsse? Werden Daten aus externen Quellen genutzt?

Beim Protokoll geht es nicht um Aktenliebe. Es geht um eine Spur: Welche Version lief? Welche Kriterien waren aktiv? Welche Daten wurden genutzt? Was schlug das System vor? Wer hat entschieden?

Der Mensch muss mehr tun als nicken

Der AI Act verlangt bei Hochrisiko-KI wirksame menschliche Aufsicht. Artikel 14 spricht davon, dass Aufsichtspersonen Fähigkeiten und Grenzen verstehen, Automatisierungsbias beachten, Ergebnisse richtig interpretieren und ein System notfalls überstimmen oder stoppen können. Artikel 26 legt für Betreiber Pflichten zur Nutzung, Überwachung, menschlichen Aufsicht und Protokollierung fest.

Übersetzt ins Backoffice: Wer nur die Top-3 öffnet, prüft nicht wirklich. Wer automatische Absagen durchlaufen lässt, ohne die aussortierten Bewerbungen anzusehen, macht aus Unterstützung einen Autopiloten.

Eine einfache Hausregel kann helfen: Absage erst nach menschlicher Zweitsicht. Besonders bei Kandidaten, die knapp unter einer Schwelle liegen.

Der Mensch ist hier nicht Dekoration. Er ist die Person, die merkt, dass drei Jahre Frühstücksbuffet mehr zählen können als ein fehlender Haken im Feld „Ausbildung“.

Daten mit Stoppschild

Bewerberdaten sind personenbezogene Daten. Die DSGVO bleibt neben dem AI Act relevant, etwa bei Informations- und Auskunftspflichten sowie bei ausschließlich automatisierten Entscheidungen mit erheblicher Wirkung.

Praktisch heißt das: Nicht alles, was technisch einsammelbar ist, gehört in die Entscheidung. Private Social-Media-Profile, Krankheitsdaten, lose Schichtgerüchte, Chatdaten oder fragwürdige Persönlichkeits- und Emotionsableitungen sind kein Würzsalz für Bewerberauswahl.

Der AI Act verbietet zudem grundsätzlich KI-Systeme zur Ableitung von Emotionen am Arbeitsplatz, außer aus medizinischen oder Sicherheitsgründen. Tools, die Stimmung, Motivation oder Interviewgesichter deuten wollen, verdienen daher besonders klare Fragen.

Auch Beschäftigte sind betroffen, wenn Workforce-Software Leistung oder Verhalten bewertet. Arbeitgeber müssen Arbeitnehmervertretungen und betroffene Arbeitnehmer vor Inbetriebnahme oder Verwendung eines Hochrisiko-KI-Systems am Arbeitsplatz informieren.

Die Spur zurück

Personalsoftware darf helfen. Sie darf Stapel ordnen, Termine bündeln, Routine beschleunigen. In Betrieben mit knappen Teams kann das sehr willkommen sein.

Riskant wird es, wenn Software heimlich Kriterien setzt, Bewerbungen verschwinden lässt oder Leistung bewertet, ohne dass jemand im Haus die Linie erklären kann.

Vor dem ersten Ranking braucht es keinen Roman. Ein Prüfzettel reicht: Was sortiert das System? Wer schaut nach? Was wird gespeichert? Wie erklären wir die Entscheidung?

Dann bleibt die Absage eine Entscheidung. Kein Schatten aus der Maschine.

Weitere Bilder