Die Ethik der KI im Recruiting: Voreingenommenheit, Datenschutz und die Zukunft der Personalbeschaffung

Voreingenommenheit bei der KI-Personalbeschaffung

Wir alle haben davon gelesen. KI verspricht, die Personalbeschaffung fairer zu gestalten und Personalvermittlern dabei zu helfen, Talente klarer zu erkennen, frei von menschlichen Vorurteilen. In der Praxis hält KI in der Personalbeschaffung jedoch oft nur einen digitalen Spiegel vor die gleichen Ungleichheiten, die sie eigentlich beseitigen soll.

Denken Sie an Amazons Experiment mit einem KI-Rekrutierungstool vor einigen Jahren. Es stufte Lebensläufe, die das Wort „Frauen“ enthielten, wie beispielsweise „Kapitänin des Schachclubs für Frauen“, stillschweigend herab. Der Algorithmus hatte einfach aus der Vergangenheit gelernt (in diesem Fall aus 10 Jahren Einstellungsdaten, die von männlichen Bewerbern in technischen Positionen dominiert waren). Das war zwar korrekt, aber nicht fair.

Das ist die Gefahr historischer Voreingenommenheit: Wenn ein Algorithmus auf den Ungleichheiten von gestern trainiert wird, kann er nicht anders, als diese zu reproduzieren.

Arten von Voreingenommenheit bei der KI-Personalbeschaffung

1. Algorithmische Verzerrung: Tritt auf, wenn Designentscheidungen, beispielsweise welche Attribute gewichtet oder priorisiert werden, unbeabsichtigt bestehende Ungleichheitsmuster verstärken.
2. Verzerrung durch Stichproben: Tritt auf, wenn die Trainingsdaten nicht die tatsächliche Vielfalt der Bewerber widerspiegeln, was zu verzerrten oder ausgrenzenden Ergebnissen führt.
3. Messverzerrung: Tritt auf, wenn die Variablen selbst, wie z. B. „Karriereunterbrechungen“ oder „Kommunikationsstil“, durch ungleiche soziale Normen beeinflusst werden, wodurch systemische Verzerrungen in die Daten eingebettet werden.

Wir haben die Auswirkungen in verschiedenen Gerichtsbarkeiten beobachtet:

• In der Europäischen Union verlangen neue KI-Vorschriften, dass „risikoreiche“ Systeme bei der Einstellung von Mitarbeitern einer Prüfung auf Voreingenommenheit und einer Überprüfung der Erklärbarkeit unterzogen werden müssen.
• Das New Yorker Gesetz Local Law 144 schreibt nun jährliche Bias-Audits für automatisierte Entscheidungshilfen im Bereich der Personalbeschaffung vor.
• Kanada und Singapur haben KI-Governance-Rahmenwerke eingeführt, die Transparenz und menschliche Aufsicht bei der Einstellung von Algorithmen fordern.

Jede dieser Regionen sendet dieselbe Botschaft: Fairness ist nicht selbstverständlich, sie muss gestaltet, überwacht und durchgesetzt werden.

Verantwortungsbewusste KI im Personalwesen

Die zukunftsorientiertesten Unternehmen integrieren Fairness und Verantwortlichkeit in ihre Systeme – nicht als Compliance-Anforderung, sondern als Teil ihrer Unternehmenskultur. (Wenn man dies auf diese Weise verankert, als gemeinsamen Wert und nicht als Regel, lässt es sich einfach leichter aufrechterhalten).

Auf diese Weise beginnt Fairness lange bevor ein Modell seine erste Suche durchführt; sie wird durch bewusstes Design und kontinuierliche menschliche Aufsicht aufgebaut:

• Bei der blinden Lebenslaufauswahl werden identifizierende Angaben entfernt, sodass die Kandidaten anhand ihrer Fähigkeiten und nicht anhand ihres Hintergrunds bewertet werden.
• Algorithmus-Audits identifizieren und korrigieren versteckte Verzerrungen, bevor sie Entscheidungen beeinflussen.
• Vielfältige Datensätze stellen sicher, dass KI von einer Belegschaft lernt, die die Welt widerspiegelt, der sie dient.
• Die Überprüfung durch Menschen (Human-in-the-Loop) sorgt dafür, dass Menschen die Kontrolle über kritische Entscheidungspunkte behalten.
• Vielfältige Interviewgremien bringen breitere Perspektiven in jede Phase des Einstellungsprozesses ein.

Auch hier gilt: Wenn Technologie auf diese Weise eingesetzt wird, unterstützt sie nicht nur die Einhaltung von Vorschriften, sondern stärkt auch die Kultur, das Vertrauen und die Gerechtigkeit in Ihrem gesamten Unternehmen.

Weitere Planungsressourcen finden Sie im Leitfaden von Mitratech zur Festlegung von SMART-Zielen für KI im Personalwesen.

Schutz der Privatsphäre von Bewerbern im Zeitalter der KI

Die Rekrutierungstechnologie entwickelt sich heute schneller, als die meisten Bewerber auf „Absenden“ klicken können. Unsere bevorzugten KI-Tools scannen Lebensläufe, ordnen Fähigkeiten zu und sagen sogar die Mitarbeiterbindung voraus, bevor der Personalverantwortliche auch nur ein Wort gelesen hat. Das ist zwar effizient, versetzt die Personalabteilung jedoch auch in eine neue ethische Grauzone, in der Bequemlichkeit schnell zu einer Verletzung der Privatsphäre werden kann.

Hinter jedem Datenpunkt steht eine Person. Algorithmen können jedoch weit mehr als nur Qualifikationen erfassen: den Tonfall in einem Videointerview, die Stimmung eines Tweets oder Muster in einem LinkedIn-Profil. Wenn diese Informationen ohne Zustimmung oder Kontext analysiert werden, sind sie keine Erkenntnisse mehr, sondern werden zu einem Risiko. Das Ergebnis (neben der Risikoexposition) ist ein Vertrauensverlust in genau den Prozess, der eigentlich dazu dienen soll, Talente zu gewinnen.

Als Reaktion darauf ist Transparenz zum Maßstab moderner Personalbeschaffung geworden. Bewerber erwarten zu erfahren, wann, wie und warum ihre Daten verwendet werden, und sie belohnen Arbeitgeber, die diese Informationen mit Respekt behandeln. Um Vertrauen als Kernstück der Innovation zu bewahren, führen Personalverantwortliche Datenschutzpraktiken ein, die der Komplexität ihrer KI-Tools entsprechen:

• Holen Sie die ausdrückliche Zustimmung ein – Informieren Sie die Kandidaten klar und deutlich darüber, welche Daten erfasst werden und wie diese verwendet werden. Holen Sie ihre eindeutige Zustimmung ein, bevor Sie fortfahren. Die E-Consent-Funktion von Mitratech zeigt, wie dieser Prozess nahtlos und konform gestaltet werden kann – wobei Transparenz und Vertrauen im Mittelpunkt jeder Interaktion stehen.
• Datenminimierung praktizieren – Sammeln Sie nur das, was für die Bewertung von Talenten unerlässlich ist, und nicht alles, was online verfügbar ist.
• Legen Sie Fristen für die Aufbewahrung von Daten fest – Legen Sie fest und kommunizieren Sie, wie lange Bewerberdaten gespeichert werden, und löschen Sie diese, sobald sie nicht mehr benötigt werden. Praktische Hinweise zum Erstellen strukturierter, überprüfbarer Aufbewahrungsregeln finden Sie im Leitfaden von Mitratech zur Festlegung von Richtlinien zur Datenaufbewahrung.
• Sicherheit hat Priorität – Schützen Sie alle Datensätze mit fortschrittlicher Cybersicherheit und kontinuierlicher Überwachung, um Verstöße zu verhindern. Erfahren Sie, wie die Datenschutzlösungen von Mitratech Ihrem Unternehmen helfen können, die Sicherheitskontrollen zu verstärken und gleichzeitig die Compliance zu vereinfachen.
• Anonymisieren Sie, wenn möglich – Entfernen Sie identifizierende Informationen, um eine faire Bewertung der Kandidaten zu gewährleisten.

Mit neuen Datenschutzgesetzen, die über die europäische DSGVO hinaus auch in Ländern wie den USA, Indien und Brasilien gelten, erfordert die weltweite Personalbeschaffung heute nicht nur Schnelligkeit, sondern auch Verantwortungsbewusstsein. Wir sind hier, um Ihnen dabei zu helfen.

Ethische KI im Recruiting: Vom Risiko zur Verantwortung

Heute geben rund 80 % der Unternehmen an, KI in einem Teil ihres Personalbeschaffungsprozesses einzusetzen, von der Suche bis zur Terminplanung. Bewerbermanagementsysteme dominieren die Landschaft (78 %), aber fortschrittlichere Tools wie Rekrutierungsanalysen (35 %) und Video-Interviews (31 %) sind laut HR.com's Zukunft der Rekrutierungstechnologien 2025-26 .

Doch nur wenige können genau erklären, wie diese Systeme Entscheidungen treffen oder wer verantwortlich ist, wenn sie Fehler machen. Für HR-Führungskräfte ist dies ein Moment der Führungsstärke.

Das Problem versteckter Vorurteile ist nicht nur technischer Natur – es ist kulturell bedingt.

Wie ich oben dargelegt habe, ist Voreingenommenheit in der KI nichts Neues, sondern ein Erbe. Algorithmen lernen aus historischen Daten, und historische Daten spiegeln menschliche Entscheidungen wider. Wenn Ihre bisherigen Einstellungen in eine bestimmte Richtung tendieren, werden Ihre Modelle dies ebenfalls tun.

Was zu tun ist:

• Überprüfen Sie Ihre Daten, bevor Sie Ihre Algorithmen überprüfen. Wenn Sie eine Sache aus diesem Blogbeitrag mitnehmen sollten, dann diese: Verzerrungen entstehen nicht im Modell, sondern in den Daten, mit denen wir es füttern. Überprüfen Sie Stellenbeschreibungen, Leistungsdaten und Einstellungshistorien auf veraltete Formulierungen oder verzerrte Darstellungen, bevor ein Modell damit in Berührung kommt.
• Verlangen Sie von jedem Anbieter Transparenz. Fordern Sie Modelldokumentationen an, in denen erklärt wird, wie der Algorithmus trainiert wurde, sowie Ergebnisse von Bias-Tests und Protokolle zur Risikominderung. Verlangen Sie Klarheit darüber, welche Datenquellen verwendet werden und wie oft diese aktualisiert werden. Weitere Informationen finden Sie im Mitratech-Leitfaden für Käufer von Hintergrundüberprüfungssoftware mit wichtigen Fragen an Anbieter.
• Machen Sie die Überprüfung von Vorurteilen zu einem festen Bestandteil Ihrer Unternehmensführung und nicht zu einem einmaligen Projekt. Planen Sie unabhängige KI-Audits mit derselben Sorgfalt wie Finanz- oder Cybersicherheitsprüfungen – regelmäßig, von Dritten validiert und direkt an den CHRO oder den Prüfungsausschuss berichtet.

Hinweis: Führungskräfte beseitigen Vorurteile nicht mit Technologie, sondern minimieren sie durch Governance.

Transparenz in Aktion: Von der Politik zur Praxis

In einer Welt der erklärbaren KI erwarten Bewerber von Algorithmen dieselbe Transparenz wie von Managern. Das Edelman Trust Barometer zeigt, dass Mitarbeiter ihren Kollegen mehr vertrauen als Institutionen, und undurchsichtige KI-Rekrutierungstools vergrößern diese Kluft nur noch.

Was zu tun ist:

• Seien Sie offen, wenn KI Teil des Prozesses ist. Bewerber haben ein Recht darauf zu erfahren, wann Automatisierung bei der Vorauswahl oder Bewertung zum Einsatz kommt – und inwiefern Menschen daran beteiligt sind. Eine einfache Erklärung wie „Wir verwenden KI-Tools, um potenzielle Übereinstimmungen zu ermitteln, aber jede Entscheidung wird von Menschen überprüft“ schafft Vertrauen statt Misstrauen.
• Lassen Sie Ihre Sprache so klingen, als käme sie von Menschen und nicht von Systemen. Ersetzen Sie roboterhafte Formulierungen wie „vom System bewertet” durch Botschaften, die Ihre Werte widerspiegeln. Zum Beispiel: „Unser Rekrutierungsteam nutzt KI, um schneller passende Kandidaten zu finden, aber jede Einstellung ist eine menschliche Entscheidung.”
• Machen Sie Ihre Personalvermittler zu Botschaftern der Transparenz. Befähigen Sie jedes Teammitglied, in einfacher Sprache zu erklären, wie Ihre Tools funktionieren und wie Fairness gewährleistet wird. Wenn Personalvermittler diese Fragen klar und freundlich beantworten können, zeigt dies, dass Technologie Ihre Menschlichkeit unterstützt und nicht ersetzt.

Susan Anderson, Leiterin der Abteilung HR Compliance Services and Content bei Mitratech, behandelte solche praktischen Strategien in ihrem Webinar „The Bold HR Leader: Navigating AI, Trust, and Change”(Der mutige HR-Führungskraft: Umgang mit KI, Vertrauen und Wandel).

Verantwortlichkeit beginnt an der Spitze

KI im Recruiting wirft eine schwierige, aber notwendige Frage auf: Wer ist verantwortlich, wenn Technologie eine voreingenommene Entscheidung trifft?

Die Wahrheit ist, dass die Regulierungsbehörden diese Frage bereits für uns beantworten. Gesetze wie das Local Law 144 der Stadt New York und das EU-KI-Gesetz machen deutlich, dass Arbeitgeber für Fairness bei der automatisierten Personalbeschaffung verantwortlich sind. Aber wenn man darauf wartet, dass die Regulierung den Standard festlegt, verpasst man die Chance, mit Integrität voranzugehen.

Was zu tun ist:

• Richten Sie einen KI-Prüfungsausschuss ein, der Ihre Werte widerspiegelt. Bringen Sie die Abteilungen Personalwesen, Recht, Compliance und DEI an einen Tisch. Das gemeinsame Ziel: Überprüfen Sie jedes KI-System, das bei der Personalbeschaffung eingesetzt wird, um sicherzustellen, dass es fair, nachvollziehbar und überprüfbar ist.
• Veröffentlichen Sie Ihre eigene KI-Grundrechtecharta. Halten Sie Ihre Grundsätze schriftlich fest, darunter Ihre Offenlegungspflichten, die menschliche Aufsicht, Vorurteilsprüfungen und ein klares Beschwerdeverfahren für Kandidaten. Wenn Menschen verstehen, wie Entscheidungen getroffen werden, wächst das Vertrauen.
• Dokumentieren Sie alles sichtbar. Führen Sie ein Verzeichnis aller genehmigten Tools und deren Überprüfungszyklen. Dies ist Ihr Beweis für Fairness und Ihre beste Verteidigung bei einer Compliance-Prüfung.

Wenn Ihre Systeme transparent und nachvollziehbar sind, kann Ihr Team schneller und mit mehr Selbstvertrauen voranschreiten.

Datenethik ist das nächste DEI

KI lernt aus Mitarbeiterdaten wie Leistungskennzahlen, Umfragen zum Engagement und in manchen Fällen sogar aus Tastenanschlagprotokollen. Jede dieser Eingaben ist persönlich, kontextbezogen und potenziell risikobehaftet. Wenn Bewerber Lebensläufe und Bewertungen weitergeben, vertrauen sie Ihrem Unternehmen sensible personenbezogene Daten an.

Was zu tun ist:

• Integrieren Sie Datenschutz in jeden Schritt. Behandeln Sie die Daten von Bewerbern und Mitarbeitern mit derselben Sorgfalt, die Sie auch für Ihre eigenen Daten erwarten würden. Sammeln Sie nur das Nötigste, speichern Sie es nur so lange, wie es nützlich und rechtmäßig ist, und kontrollieren Sie streng, wer Zugriff auf die Daten für das Modelltraining hat.
• Kennen Sie die DNA Ihrer Daten. Bitten Sie Anbieter, Ihnen zu zeigen, woher ihre Trainingsdaten stammen, wie sie gepflegt werden und ob Quellen von Drittanbietern oder Scraping-Quellen beteiligt sind. Sie können keine Fairness beanspruchen, wenn Sie die Herkunft der Daten hinter Ihren Tools nicht verstehen.
• Schützen Sie stets die Würde der Bewerber. Vermeiden Sie Algorithmen, die ohne wissenschaftliche Validierung Rückschlüsse auf die Persönlichkeit oder „Eignung“ ziehen. Diese bergen nicht nur ethische Risiken und Risiken für den Ruf Ihres Unternehmens, sondern untergraben auch das Vertrauen, noch bevor ein Bewerber überhaupt die Türschwelle überschritten hat.

Die Rolle des CHRO: Vertrauen als KPI etablieren

CHROs sind heute in zwei Welten gleichzeitig führend: der menschlichen und der digitalen. Diese Verantwortung können Sie nicht an die IT delegieren. Es ist Ihre Führungsrolle, die darüber entscheidet, ob KI im Recruiting zu einer Compliance-Checkbox oder zu einem Glaubwürdigkeitsvorteil wird. KI allein macht die Personalbeschaffung nicht ethisch, aber ethische Führung kann die KI-gestützte Personalbeschaffung verbessern.

Was zu tun ist:

• Integrieren Sie Vertrauen in Ihre Strategieplanung. Behandeln Sie Vertrauen wie jedes andere Geschäftsergebnis. Verfolgen Sie Kennzahlen wie Erklärbarkeitsrate, Abschluss von Bias-Audits und Vertrauenswerte von Bewerbern parallel zu der Zeit bis zur Besetzung einer Stelle oder den Kosten pro Einstellung. ( In den SMART-Zielen von Mitratech für KI im Personalwesen finden Sie eine ganze Reihe von Beispielen, die Sie in Ihrem eigenen Plan verwenden können.)
• Fördern Sie die KI-Kompetenz in Ihrem gesamten Team. Befähigen Sie HRBPs, Personalvermittler, People-Analytics-Mitarbeiter und sich selbst, algorithmische Ergebnisse nicht nur zu konsumieren, sondern auch zu hinterfragen. Internes Fachwissen verwandelt Technologie in Strategie und schafft Vertrauen, was wiederum Vertrauen schafft.
• Modellieren Sie die Balance, die Sie sehen möchten. Nutzen Sie KI, um Ihr Urteilsvermögen zu erweitern, nicht um es zu ersetzen. Machen Sie „Human-in-the-Loop“ zur Norm, nicht zur Ausnahme. Wenn Ihr Team sieht, dass Sie innehalten und fragen: „Wie wirkt sich diese Entscheidung auf die Menschen aus?“, wird es ebenfalls innehalten.

Möchten Sie Ihre Führungsqualitäten vertiefen? Nehmen Sie an der bevorstehenden Veranstaltung „Strong Leaders, Strong Tech” für CHROs und leitende HR-Führungskräfte teil, bei der wir uns damit befassen, wie Strategie, Governance und Technologie aufeinander abgestimmt werden können, um nachhaltige Wirkung zu erzielen. Registrieren Sie sich hier → Strong Leaders, Strong Tech.

Effizienz und Ethik bei der Personalbeschaffung in Einklang bringen

Da KI zunehmend in den Einstellungsprozess einfließt, müssen Führungskräfte sicherstellen, dass das Streben nach Effizienz nicht die Fairness in den Hintergrund drängt. Eine übermäßige Abhängigkeit von Automatisierung kann die Verantwortlichkeit verwischen und die Nuancen beseitigen, die nur Menschen einbringen können. Die Chance besteht nicht darin, sich zwischen Technologie und menschlicher Intuition zu entscheiden, sondern beide zu kombinieren.

Wie ich hoffentlich deutlich gemacht habe, entwickeln die besten (und konformsten) Personalvermittlungsorganisationen Einstellungsmodelle, bei denen KI die Entscheidungsqualität verbessert und Menschen die Integrität der Entscheidungen schützen. Geschwindigkeit ist nach wie vor wichtig – die Zeit bis zur Besetzung einer Stelle bleibt ein wichtiger Leistungsindikator –, aber Geschwindigkeit ohne Fairness untergräbt das Vertrauen. Wenn Algorithmen auf der Grundlage historischer Daten trainiert werden, können sie stillschweigend die Ungerechtigkeiten von gestern reproduzieren. Eine schnellere voreingenommene Entscheidung ist immer noch eine voreingenommene Entscheidung.

TL;DR zu KI im Recruiting

Ethisches Recruiting im Zeitalter der KI erfordert Absicht und Struktur:

1. Führen Sie regelmäßig Audits durch. Behandeln Sie Algorithmusüberprüfungen wie Compliance-Prüfungen – routinemäßig, datengestützt und unter der Verantwortung sowohl der TA- als auch der HR-Compliance-Abteilung.
2. Beziehen Sie Menschen mit ein. Stellen Sie sicher, dass jede automatisierte Empfehlung einen Weg zur menschlichen Validierung oder Übersteuerung hat.
3. Kommunizieren Sie offen. Die Kandidaten sollten verstehen, wie KI ihre Erfahrung unterstützt, und sich nicht fragen müssen, ob sie diese ersetzt.

Wenn Bewerber wissen, dass Ihr Verfahren Technologie und menschliches Urteilsvermögen sorgfältig miteinander verbindet, stärkt dies Ihre Arbeitgebermarke.

Die Ethik der KI in der Personalbeschaffung – Häufig gestellte Fragen

Wie kann ich feststellen, ob die von uns verwendeten KI-Tools ethisch und konform sind?

Beginnen Sie damit, Anbieter um Transparenz zu bitten: Wie wird ihr Modell trainiert? Welche Datenquellen werden verwendet? Wie oft werden Bias-Audits durchgeführt und veröffentlicht? Achten Sie auf Modellkarten, Fairnessberichte und Dokumentationen zur Erklärbarkeit. Wenn diese nicht vorgelegt werden können, ist das ein Warnsignal. Eine kurze Übersicht finden Sie im Kaufberatung für Hintergrundüberprüfungssoftware von Mitratech finden Sie die richtigen Fragen, die Sie Anbietern stellen sollten.

Wie lässt sich am besten mit dem Aufbau einer KI-Governance im Personalwesen beginnen?

Beginnen Sie mit einem kleinen funktionsübergreifenden KI-Prüfungsausschuss – bestehend aus den Abteilungen Personalwesen, Recht, Compliance, DEI und IT. Erfassen Sie alle Tools, die KI im Recruiting einsetzen, und dokumentieren Sie deren Zweck, Datenquellen und Risikostufe. Planen Sie dann regelmäßige Audits zu Voreingenommenheit und Datenschutz, genau wie Sie es bei Finanz- oder Cybersicherheitsprüfungen tun würden. Nutzen Sie dies als Grundlage für Ihre eigene HR + KI-Charta, ein transparentes Rahmenwerk, das Fairness, Aufsicht und Verantwortlichkeit definiert.

Wie können wir Verzerrungen reduzieren, wenn sie bereits in unseren historischen Daten verankert sind?

Voreingenommenheit lässt sich nicht vollständig beseitigen, aber minimieren:

1. Reinigen Sie Ihre Daten, bevor Sie Ihre Modelle bereinigen. Überprüfen Sie frühere Einstellungsdaten auf Ungleichgewichte oder veraltete Formulierungen.
2. Diversifizieren Sie Trainingsdatensätze. Stellen Sie sicher, dass Ihre KI aus Daten lernt, die Ihre aktuelle und zukünftige Belegschaft widerspiegeln.
3. Testen Sie kontinuierlich. Führen Sie regelmäßige Bias-Audits durch und teilen Sie die Ergebnisse intern mit, um die Verantwortlichkeit zu normalisieren.
   

Was bereitet Bewerbern im Zusammenhang mit KI bei der Personalbeschaffung die größten Sorgen?

Zwei Dinge kommen dabei am häufigsten zur Sprache: Datenschutz und Fairness. Sie möchten wissen, wie ihre Daten verwendet werden und ob sie gegen sie verwendet werden.

Transparenz ist hier sehr wichtig. Informieren Sie die Kandidaten darüber, wann KI eingesetzt wird und wie Menschen weiterhin in Entscheidungen eingebunden bleiben. Tools wie die E-Consent-Funktion von Mitratech machen die Offenlegung und Einholung von Einwilligungen einfach, klar und konform.

Wie schaffen wir ein Gleichgewicht zwischen der Effizienz der KI und der menschlichen Note?

Denken Sie an Erweiterung, nicht an Automatisierung. KI sollte die sich wiederholenden, datenintensiven Aufgaben übernehmen, die Ihr Team ausbremsen, und nicht das menschliche Urteilsvermögen ersetzen. Bauen Sie an kritischen Entscheidungspunkten „Human-in-the-Loop”-Kontrollen ein. Mitratech Wie die Personalabteilung KI einsetzen kann, ohne die menschliche Note zu verlieren von Mitratech geht näher darauf ein. Wenn Personalvermittler KI als Assistent statt als Schiedsrichter einsetzen, verbessern sich sowohl die Geschwindigkeit als auch die Fairness.

Was ist „Shadow AI“ und warum ist es wichtig?

Shadow AI bezeichnet die nicht genehmigte oder unüberwachte Nutzung von KI-Tools durch Mitarbeiter – beispielsweise die Verwendung von ChatGPT zum Verfassen von Stellenbeschreibungen oder von Bewerbungsscannern, die nicht von der Personal- oder IT-Abteilung genehmigt wurden.

Obwohl diese Tools in der Regel gut gemeint sind, können sie Datenschutzrisiken, ungeprüfte Voreingenommenheit oder Compliance-Probleme mit sich bringen, wenn sie Bewerberdaten außerhalb offizieller Systeme verarbeiten. Um dem entgegenzuwirken, führen viele Unternehmen KI-Amnestieprogramme ein. Dabei handelt es sich um sichere, zeitlich begrenzte Initiativen, bei denen Mitarbeiter aufgefordert werden, offenzulegen, wie sie KI bereits einsetzen, damit Unternehmen daraus lernen, Risiken managen und gute Ideen in bewährte Praktiken umsetzen können.

Was ist eine „KI-Grundrechtecharta“ und sollte die Personalabteilung eine solche haben?

Eine KI-Grundrechtecharta ist eine klare, werteorientierte Erklärung darüber, wie Ihr Unternehmen KI bei Personalentscheidungen einsetzt und welche Rechte Mitarbeiter und Bewerber in diesem Prozess haben.

Es orientiert sich am Blueprint for an AI Bill of Rights des Weißen Hauses der Vereinigten Staaten und ähnlichen EU-Rahmenwerken.

Für die Personalabteilung umfasst dies in der Regel Verpflichtungen wie:

• Die Menschen darüber informieren, wenn KI zum Einsatz kommt;
• Sicherstellung von Fairness und Bias-Tests;
• Bereitstellung von Möglichkeiten zur Überprüfung durch Menschen und zur Einlegung von Beschwerden; und
• Schutz der Datenprivatsphäre und Erklärbarkeit.