Künstliche Intelligenz (KI) revolutioniert weiterhin viele Branchen, und die Arbeitswelt ist da keine Ausnahme. Nach Angaben der Gesellschaft für Human Resource Management (SHRM)setzt fast jedes vierte Unternehmen Automatisierung oder KI für personalbezogene Aktivitäten ein. Von diesen Unternehmen setzt die Mehrheit (79 %) KI speziell bei der Personalauswahl ein (z. B. bei Einstellungs- und Rekrutierungsprozessen). Bei der Auswahl und Einstellung von Mitarbeitern wird KI auf vielfältige Weise eingesetzt, u. a. zur Automatisierung der Bewerbersuche, zur Überprüfung oder Sichtung von Lebensläufen, zur Vorauswahl von Bewerbern für Vorstellungsgespräche, zur Durchführung oder Auswertung von Kompetenzbewertungen, zur Durchführung von Videointerviews und zur Durchführung und Auswertung von spielbasierten Bewertungen (SHRM, 2022).
Der Einsatz von KI im Bereich der Personalauswahl nimmt zwar zu, ist aber nicht ohne Bedenken und Kritik. So können KI-Tools beispielsweise auf Ablehnung stoßen, wenn es den verwendeten Algorithmen an Transparenz und Erklärbarkeit mangelt. Mit anderen Worten: Wenn KI-Systeme komplex und schwer zu verstehen sind, ist es sowohl für Bewerber als auch für Personalverantwortliche (und manchmal sogar für die Entwickler der Algorithmen) schwierig zu verstehen, warum bestimmte Entscheidungen getroffen werden (Ravi, 2023). Ein Mangel an algorithmischer Transparenz kann das Vertrauen in den Rekrutierungs- oder Einstellungsprozess verringern und infolgedessen die Bedenken hinsichtlich Fairness und Verantwortlichkeit verstärken (Ravi, 2023). Die KI-Bedenken bei der Mitarbeiterauswahl haben zu einer erheblichen Zunahme der Regulierung in diesem Bereich geführt. Kürzlich wurde das New York City's Ortsgesetz 144 am 5. Juli 2023 in Kraft getreten. Dieses Gesetz gilt für Situationen, in denen ein Automated Employment Decision Tool (AEDT) verwendet wird, um Personen für eine Stelle einzustellen oder zu befördern, die zumindest in Teilzeit in einem Büro in New York City angesiedelt ist; für eine Stelle, die vollständig aus der Ferne besetzt wird, deren Standort jedoch ein Büro in New York City ist; oder für Fälle, in denen sich der Standort der Arbeitsagentur, die das AEDT verwendet, in New York City befindet.
Das lokale Gesetz 144 schreibt vor, dass ein unabhängiger Prüfer jährlich eine Prüfung der Befangenheit durchführt und die Ergebnisse der Prüfung auf der Website des Arbeitgebers veröffentlicht werden müssen. Das Gesetz schreibt außerdem vor dass Bewerber darüber informiert werden1 über die Verwendung eines AEDT im Auswahlverfahren informiert werden, einschließlich der beruflichen Qualifikationen und Merkmale, die der AEDT bewertet, der Art der verwendeten Daten, der Quelle dieser Daten, der Datenaufbewahrungsrichtlinie der Organisation und der Anweisungen, wie Bewerber ein alternatives Auswahlverfahren oder eine andere Lösung beantragen können.2 Es ist erwähnenswert, dass NYC das Konzept einer AEDT in einer Weise definiert, die über KI-Methoden wie maschinelles Lernen und natürliche Sprachverarbeitung hinausgeht. Dieses Gesetz kann nicht nur für Auswahlverfahren gelten, die diese fortschrittlichen Technologien nutzen, sondern auch für viele bestehende Verfahren, die auf komplexen Algorithmen beruhen. Alle diese Verfahren müssen mit diesem Gesetz in Einklang gebracht werden, um die Einhaltung zu gewährleisten.
Das Gesetz der Stadt New York ist nur die Spitze des Eisbergs, wenn es um die Regulierung des Einsatzes von KI bei der Personalauswahl geht; wahrscheinlich werden in absehbarer Zukunft weiterhin neue staatliche und lokale Gesetze zu diesem Thema vorgeschlagen und erlassen. Es gibt mehrere solcher Gesetze, die in Kraft sind oder in Erwägung gezogen werden. DCI's State Legislation Tracker bietet einen Überblick über die einzelnen Gesetze. Neben dem Local Law 144 gibt es drei weitere Gesetze in diesem Bereich, die derzeit in Kraft sind. Diese Gesetze verlangen entweder die Zustimmung des Antragstellers, bevor KI-basierte Technologie eingesetzt werden kann (z. B. das Gesetz über Videointerviews in Illinois und der Gesetzentwurf 1202 des Repräsentantenhauses von Maryland), oder sie verlangen eine Bestandsaufnahme der von den staatlichen Behörden eingesetzten KI-Technologie (z. B. der Gesetzentwurf 1103 des Senats von Connecticut).
Die derzeit vorgeschlagenen Gesetze - zum Zeitpunkt der Erstellung dieses Blogs sind es insgesamt sechs - können die Belastung für Organisationen erheblich erhöhen. Jedes dieser vorgeschlagenen Gesetze, die sich mit der AEDT befassen, enthält einen Verweis auf die Notwendigkeit einer algorithmischen Erklärbarkeit und Transparenz sowie auf eine Benachrichtigungspflicht für Bewerber. Einige beinhalten auch Analysen der nachteiligen Auswirkungen (d.h. ein "Bias-Audit"), die Berücksichtigung der Arbeitsplatzbezogenheit (d.h. Gültigkeit), die Bereitstellung von Alternativen und Datenschutz- und/oder Datenspeicherklauseln.
Im Folgenden gehen wir näher auf die beiden weit fortgeschrittenen Gesetzesentwürfe ein - einen in Kalifornien und einen in Washington, D.C. -, bei denen im nächsten Jahr mit verstärkter Aktivität zu rechnen ist.
Das vorgeschlagene kalifornische Gesetz, das am 1. Januar 2025 in Kraft treten soll, sieht eine Benachrichtigung, die Durchführung eines Bias-Audits und die Vorlage bei der kalifornischen Bürgerrechtsbehörde sowie eine alternative, nicht-AEDT-basierte Bewertung für Bewerber vor, die sich gegen den AEDT entscheiden, "wenn dies technisch möglich ist". In der derzeitigen Fassung des Gesetzesvorschlags heißt es, dass die Voreingenommenheitsprüfung Folgendes umfassen muss:
- Eine Erklärung über den Zweck der KI und ihren beabsichtigten Nutzen,
- Eine Beschreibung der AEDT-Ausgänge und ihrer Verwendung,
- Eine Zusammenfassung der Art der erhobenen und verarbeiteten Daten,
- Das Ausmaß, in dem die AEDT-Nutzung mit der Nutzungserklärung des Entwicklers übereinstimmt (d.h. tatsächliche vs. beabsichtigte Nutzung),
- Eine Analyse der möglichen negativen Auswirkungen auf geschützte Kategorien (Untergruppen),
- Eine Beschreibung der zur Risikominderung getroffenen Schutzmaßnahmen,
- eine Beschreibung der Art und Weise, wie der AEDT verwendet oder überwacht wird, und
- Informationen darüber, wie die KI im Hinblick auf ihre Gültigkeit oder Relevanz für den Arbeitsplatz bewertet wird.
Der zusätzliche Auftrag, den AEDT auf seine Gültigkeit und seine Relevanz für den Arbeitsplatz zu prüfen, unterscheidet dieses Gesetz von vielen anderen Gesetzen, die sich mit AI befassen. Die Anforderung, die Validität zu bewerten, ist angesichts ihrer Bedeutung im breiteren rechtlichen Rahmen für die Bewertung von Auswahlverfahren sowie ihres Nutzens für die Bestimmung der Wirksamkeit eines Auswahlinstruments bemerkenswert. Aus diesen Gründen wird den Unternehmen häufig empfohlen, die Validierung zu berücksichtigen.
Wie viele der verabschiedeten und vorgeschlagenen AEDT-Gesetze verlangt auch der "Stop Discrimination by Algorithms Act of 2023" in Washington, D.C., dass die Bewerber darüber informiert werden, dass ein AEDT bei der Auswahl verwendet wird, bevor ein auf Algorithmen basierendes Instrument eingesetzt wird. In der derzeitigen Fassung des Gesetzesvorschlags heißt es, dass der Hinweis erfolgen muss:
- Informieren Sie darüber, wie personenbezogene Daten bei der algorithmischen Bestimmung der Anspruchsberechtigung verwendet werden,
- Klar, prägnant und vollständig sein - und in Englisch und jeder anderen Sprache, die von mindestens 500 Personen in Washington D.C. gesprochen wird, zur Verfügung stehen,
- innerhalb von 30 Tagen aktualisiert werden, wenn eine Organisation ihre Erhebungs- oder Nutzungspraktiken ändert, und
- Sie müssen ständig und deutlich sichtbar auf der Website des Unternehmens verfügbar sein.
Jährlich muss ein Bias-Audit durchgeführt und dem Büro des Generalstaatsanwalts von D.C. vorgelegt werden. Werden bei dem Audit Risiken oder ungesetzliche diskriminierende Auswirkungen festgestellt, muss das Audit auch eine Identifizierung angemessener Maßnahmen zur Behebung dieser Risiken beinhalten.
Die Berücksichtigung von KI-bezogenen Gesetzen geht über die Arbeitgeber hinaus, die KI-gestützte Bewertungen verwenden. Es betrifft nicht nur Organisationen, die KI-Technologie in ihren Auswahlverfahren einsetzen, sondern auch die Anbieter, die für die Entwicklung dieser Technologie verantwortlich sind. Ein Beispiel hierfür ist der Gesetzentwurf 4909 der Versammlung von New Jersey, der vor dem Verkauf eines AEDT ein Bias-Audit vorschreibt. Die Ergebnisse dieses Audits müssen dem Käufer zusammen mit dem Gerät ohne zusätzliche Kosten zur Verfügung gestellt werden. Selbst wenn ein Anbieter nicht das primäre Ziel eines KI-basierten Gesetzes ist, spielt er eine entscheidende Rolle. Anbieter spielen eine entscheidende Rolle bei der Bereitstellung von Informationen über ihre Bewertungen, die es jedem Arbeitgeber ermöglichen, die Relevanz bestimmter Gesetze für seine Nutzung zu bewerten und sicherzustellen, dass er über die erforderlichen Daten für die Einhaltung der Vorschriften verfügt, was häufig durch die Durchführung eines Bias-Audits erreicht wird.
Es gibt viele Aktivitäten rund um den Einsatz von KI-basierter Technologie im Zusammenhang mit der Mitarbeiterauswahl. Während der Schwerpunkt dieses Blogs auf der Erörterung staatlicher und lokaler Gesetze lag, die diesen Bereich zu regeln versuchen, werden mehrere konvergierende Kräfte im föderalen Bereich die Regulierungslandschaft in den nächsten 12 bis 18 Monaten erheblich beeinflussen, darunter die Executive Order über die sichere und vertrauenswürdige Entwicklung und Nutzung von künstlicher Intelligenz die am 30. Oktober 2023 vom Weißen Haus veröffentlicht wurde. Diese Landschaft wird weiterhin komplexer werden, und wir werden in den kommenden Monaten und Jahren zweifellos mehr in diesem Bereich sehen.
Informieren Sie sich über die neuesten Entwicklungen in der Gesetzgebung und über die Einhaltung von Vorschriften durch unseren strategischen Partner, DCI Consulting Group. Ihr State Legislation Tracker bietet aktuelle Informationen zu vorgeschlagenen und verabschiedeten Gesetzen und Verordnungen sowie zu den Auswirkungen und Leitlinien für die Einhaltung der Vorschriften.
1 Ineinem von der Stadt New York zur Verfügung gestellten FAQ-Dokument wird darauf hingewiesen, dass die Hinweise mindestens 10 Tage vor der ersten Verwendung des AEDT auf der Website des Arbeitgebers veröffentlicht werden müssen.
2 Eine Organisation ist nicht verpflichtet, eine nicht-AEDT-Alternative anzubieten, es sei denn, dies wird von anderen Gesetzen gefordert (z. B. dem Americans with Disabilities Act (ADA)).
Anmerkung der Redaktion: Dieser Beitrag wurde ursprünglich auf Circaworks.com veröffentlicht. Im April 2023 übernahm Mitratech Circa, einen führenden Anbieter von Software für integratives Recruiting und OFCCP-Compliance. Der Inhalt wurde seitdem aktualisiert, um unser erweitertes Produktangebot, die sich entwickelnden Compliance-Vorschriften für die Talentakquise und Best Practices im Personalmanagement zu berücksichtigen.
