Aus aktuellem Grund wollte ich einen schnellen Überblick über den Fall Mobley v. Workday geben, der derzeit in den USA für Aufsehen sorgt und potenziell weitreichende Konsequenzen für HR-Softwareanbieter und Unternehmen weltweit haben könnte. Mehr hierzu finden Sie über eine Google-Abfrage oder hier:
- Mobley v. Workday: Court Holds AI Service Providers Could Be Directly Liable for Employment Discrimination Under “Agent” Theory
- Workday accused of facilitating widespread bias in novel AI lawsuit
- Employers, Be Wary of Built-in Bias from AI Vendors
- Judge allows Workday AI bias lawsuit to proceed as collective action
- Mobley v. Workday, Inc.
Hintergrund des Falls
Derek Mobley, ein afroamerikanischer Mann über 40 mit diagnostizierten Angstzuständen und Depressionen, reichte eine Sammelklage gegen Workday ein. Er behauptet, dass er bei über 100 Bewerbungen bei Unternehmen, die Workdays KI-gestützte Recruiting-Software nutzen, abgelehnt wurde. Mobley führt dies auf diskriminierende Algorithmen zurück, die Bewerber aufgrund von Rasse, Alter und Behinderung benachteiligen.
Gerichtliche Entscheidung
Am 12. Juli 2024 entschied Richterin Rita Lin vom US-Bezirksgericht für den nördlichen Bezirk von Kalifornien, dass wesentliche Teile der Klage weiterverfolgt werden dürfen. Insbesondere wird geprüft, ob Workday als “Agent” seiner Kunden fungiert und somit unter Bundesgesetze gegen Diskriminierung fällt, da die Software entscheidende Funktionen im Bewerbungsprozess übernimmt . Die Klage könnte einen Präzedenzfall schaffen, indem sie die rechtliche Verantwortung von Softwareanbietern für diskriminierende Auswirkungen ihrer KI-Systeme untersucht.
Konsequenzen für HR-Softwareanbieter und Unternehmen
Dieser Fall hat erhebliche Implikationen für die Nutzung von KI im Personalwesen:
- Haftungsrisiken für Anbieter: Softwareunternehmen könnten künftig für diskriminierende Auswirkungen ihrer Produkte haftbar gemacht werden, selbst wenn sie nicht direkt an Einstellungsentscheidungen beteiligt sind.
- Verantwortung der Arbeitgeber: Unternehmen, die KI-gestützte Tools einsetzen, müssen sicherstellen, dass diese keine unzulässigen Diskriminierungen verursachen. Dies erfordert regelmäßige Audits und gegebenenfalls Anpassungen der eingesetzten Systeme .
- Regulatorische Aufmerksamkeit: Behörden wie die US-amerikanische Equal Employment Opportunity Commission (EEOC) beobachten den Einsatz von KI im Recruiting genau und könnten bei Verstößen gegen Antidiskriminierungsgesetze einschreiten
Ausblick
Der Fall Mobley v. Workday steht exemplarisch für die Herausforderungen und Risiken beim Einsatz von KI im Personalwesen. Unabhängig vom Ausgang des Verfahrens dürfte er die Diskussion über ethische und rechtliche Standards im KI-gestützten Recruiting weiter anheizen und möglicherweise zu strengeren Regulierungen führen. Für Unternehmen bedeutet dies, dass sie ihre Recruiting-Prozesse und eingesetzten Technologien kritisch überprüfen sollten, um Diskriminierungen zu vermeiden und rechtlichen Risiken vorzubeugen.
Viel Erfolg bei Ihrer Arbeit. Sie ist so wichtig.
Mit meinen besten Grüßen
Ihr Marcus K. Reif
