Am 13. März 2024 hat das EU-Parlament mit großer Mehrheit dem AI Act zugestimmt. Es folgen förmliche Zustimmung der Mitgliedsstaaten, juristische Übersetzung des AI Act in alle Amtssprachen der EU und Veröffentlichung im Amtsblatt der EU, mit dem Ziel, im Juni 2024 in Kraft zu treten. In der AI Novellierung steckt einiges, was auch uns Personaler betrifft, oder?
Bei der Lektüre von HR-Fachmagazinen oder beim Besuch von HR-Konferenzen erhält man den Eindruck, dass wir HRler schon ziemlich weit sind mit der Technologie. Blickt man in die Personalabteilungen herrscht dennoch die operative Arbeitsdrohne vor. Von künstlicher Intelligenz mal ganz abgesehen. Wenn Pre-Screening-Methodiken eingesetzt werden, sind das eher hartcodierte Ausschlusskritieren anstelle von eignungsdiagnostischen Verfahren. Dennoch sollten wir uns vorbereiten auf die technische Revolution der künstlichen Intelligenz.
Das Herzstück der Regulierung ist die KI-Verordnung. Sie verfolgt einen risikobasierten Ansatz mit unterschiedlichen Anforderungen an KI-Anwendungen. Diese KI-Anwendungen bei uns im HR-Bereich werden im AI Act als Hochrisikosysteme eingestuft (Artikel 6 ff. KI-Verordnung) und besonders streng behandelt. Es gibt verschiedene Risikoklassen. Die Anforderungen wachsen mit der Einordnung des Risikos. Also faktisch ein Grund, weshalb wir uns damit auseinandersetzen sollten. Die Regelungen gelten nicht nur für die Anbieter, sondern eben auch für die Nutzer der Technologie. Wir erinnern uns an die Datenverarbeitungsverträge aus der DSGVO.
KI-Systeme im Recruiting bei der Auswahl von Bewerbern, Schaltung von Stellenanzeigen, Ranking von Bewerbungen, Einstellungsentscheidungen. Zweiter Punkt sind Entscheidungen über das Arbeitsverhältnis selbst, also bei der Kontrolle der Leistung, bei der Zuweisung von Aufgaben und Tätigkeiten, bei Beförderungen oder Beendigung eines Arbeitsverhältnisses. Der AI Act wird dies begrenzen.
Was müssen Unternehmen tun?
Transparenzpflicht: Unternehmen haben eine Transparenzpflicht (Artikel 29 KI-Verordnung). Betreiber müssen bspw. Maßnahmen ergreifen, um die Verwendung des Systems entsprechend der Gebrauchsanweisung sicherzustellen. Hierzu gehört auch die Verpflichtung, dass gegenüber Betroffenen kenntlich gemacht werden muss, dass Entscheidungen unter Einsatz des KI-Systems getroffen wurden.
Aufsichtsperson: Sie brauchen darüber hinaus eine Aufsicht aufseiten des Unternehmens für den Einsatz von künstlicher Intelligenz mit der richtigen und adäquaten Qualifikation.
Sanktionen: Verstöße gegen die KI-Verordnung können mit Bußgeldern in Höhe von bis zu 7 Prozent des Jahresumsatzes der Unternehmen oder bis zu 35 Millionen Euro erfolgen.
Datenschutz: Im Zusammenhang mit personenbezogenen Daten sind strenge Anforderungen an die Verarbeitung, Nutzung und Speicherung der Daten zu stellen. Dies ist nicht neu, sondern bereits durch die DSGVO geregelt. Bedenklich ist bereits, bei der Entwicklung einer KI und ihres Trainings vorhandene Personaldaten zu nutzen, die nicht explizit für diese Nutzung erhoben wurden. Beim Einsatz sind automatisierte Einzelfallentscheidungen (Artikel 22 Absatz 1 DSGVO) relevant, denn eine rechtliche oder ähnlich beeinträchtigende Wirkung auf einen Betroffenen aufgrund einer ausschließlich automatisierten Verarbeitung sind unzulässig.
AGG: Wussten Sie, dass eine KI keinesfalls vorurteilsfrei entscheidet? Dieses als AI Bias bekannte Phänomen hat seine Ursache in den vorhandenen Trainingsdaten, die einerseits auf menschlichen Vorurteilen beruhen, andererseits zieht KI aus der Häufigkeit einer Information generalisierende Schlüsse. Das führt zu Problemen mit dem Verbot diskriminierender Entscheidungen sowie dem Benachteiligungsverbot gemäß Paragraf 7 Absatz 1 des Allgemeinen Gleichbehandlungsgesetzes (AGG). Wer KI im Recruiting einsetzt, muss daher Vorsorge treffen, um zum Beispiel die pauschale Aussortierung von Bewerbenden wegen des Alters oder anderer Kriterien zu vermeiden.
Mitbestimmung: Denken Sie an die Beteiligungsrechte des Betriebs-/Personalrats. Aus kollektivrechtlicher Sicht ist der Einsatz einer KI von großer Relevanz und löst verschiedene Beteiligungsrechte aus dem Betriebsverfassungsgesetz (BetrVG) aus. Dies gilt insbesondere dann, wenn die KI dazu bestimmt ist, das Verhalten oder die Leistung der Arbeitnehmer zu überwachen.
Wichtig! Denken Sie dran, entscheidend ist die Datenlage. Falls Sie eine KI einsetzen wollen, sollten Sie zunächst verstehen, mit welchen Daten diese trainiert wurde, damit die Daten erfolgreich eingesetzt werden kann.
Emotionserkennung mittels künstlicher Intelligenz
Eine verbotene Praxis ist die dauerhafte Emotionserkennung am Arbeitsplatz, aber eine situative Emotionserkennung im Personalauswahlgespräch hingegen ist möglich. Dabei kann eine KI mit eingeschaltet werden, um bspw. Pupillenreaktion, Mimik, Stressmuster usw. auszuwerten. Hierzu habe ich unterhalb noch ein Pamphlet über die Technikfolgenabschätzung des Deutschen Bundestags verlinkt.
Der Mensch entscheidet
Neben den technischen Pflichten, die ich versucht habe, oben zusammenzufassen, gilt weiterhin, dass der Mensch entscheidet. Dies ist als die menschliche Aufsicht beschrieben, was dennoch zu subjektiv ungerechten Entscheidungen führen mag. Bei gut trainierten Daten sollten KI-unterstützte Entscheidungen allerdings objektiver sein als das vorherrschende Bauchgefühl der Hiring-Manager oder Führungskräften.
Hier finden Sie noch den EU AI Act Compliance Checker. Mit dem EU-KI-Gesetz werden bald neue Verpflichtungen eingeführt. Nutzen Sie unser interaktives Tool, um festzustellen, ob Ihr KI-System davon betroffen ist oder nicht.
Und hier noch einen Podcast zum Thema auf die Ohren
Themenkurzprofil-048-data
