---
Der Slack-Thread, der alles ins Rollen brachte
Vor einigen Wochen hatten wir eine hitzige Slack-Diskussion über die Auswirkungen des NYC Local Law 144. Als Team von Ingenieuren bei Fitlane AI wussten wir, dass unsere Einstellungsalgorithmen mit dieser neuen Regelung zu automatisierten Beschäftigungsentscheidungswerkzeugen (AEDTs) in Einklang stehen mussten. Die Einsätze waren hoch: Wenn wir das nicht richtig machten, riskierten wir nicht nur finanzielle Strafen, sondern auch einen Schaden an unserem Ruf als faire Einstellungsplattform.
Verständnis des Local Law 144
Das NYC Local Law 144 schreibt vor, dass jedes Unternehmen, das KI im Einstellungsprozess einsetzt, regelmäßige AEDT-Bias-Audits durchführen muss. Dieses Gesetz zielt darauf ab, sicherzustellen, dass KI-Einstellungswerkzeuge keine Diskriminierung von Kandidaten aufgrund von Rasse, Geschlecht oder anderen geschützten Klassen vornehmen. Das Gesetz gilt sowohl für die Software, die wir entwickeln, als auch für die Unternehmen, die unsere Dienstleistungen nutzen, was es für uns entscheidend macht, die Einhaltung sicherzustellen.
Die Herausforderung der Einhaltung
Als wir uns intensiver mit den Anforderungen befassten, erkannten wir die Komplexität, die damit verbunden war. Ein bestimmtes Szenario verdeutlichte dies: Ein Kunde, der unsere Plattform nutzte, stellte Unstimmigkeiten in den Kandidatenauswertungen fest, bei denen bestimmte demografische Gruppen konstant niedrigere Bewertungen erhielten. Dies war ein Warnsignal für potenzielle Vorurteile in unseren maschinellen Lernmodellen. Wir benötigten einen systematischen Ansatz, um unsere Algorithmen effektiv zu prüfen.
Erste Ansätze und Sackgassen
Anfangs erwogen wir eine einfache statistische Analyse der Kandidatenauswertungen über verschiedene demografische Gruppen hinweg. Dieser Ansatz schien jedoch unzureichend. Sich ausschließlich auf statistische Kennzahlen zu verlassen, könnte tiefere Probleme im Verhalten des Modells verschleiern. Nach intensiven Diskussionen entschieden wir uns, diese Methode aufzugeben und rigorosere Prüfungsrahmen zu erkunden.
Implementierung der technischen Lösung
Schließlich einigten wir uns auf einen strukturierten Rahmen, der sowohl quantitative als auch qualitative Bewertungen unserer Algorithmen umfasste. Dies beinhaltete:
- Entwicklung einer standardisierten Checkliste für Bias-Audits.
- Implementierung von Drittanbieterbewertungen zur Sicherstellung der Unabhängigkeit.
- Schaffung eines Feedback-Loops mit Kunden, um die Modelle basierend auf den Ergebnissen der Audits zu verfeinern.
Hier ist ein Ausschnitt des Codes, den wir zur Erleichterung der Audit-Protokollierung verwendet haben:
import logging
logging.basicConfig(level=logging.INFO, filename='audit_log.txt')
def log_audit(candidate_id, score, demographic_info):
logging.info(f"Audit log für {candidate_id}: Punktzahl {score}, Demografische Informationen {demographic_info}")Diese Lösung ermöglichte es uns, die Leistung unserer Modelle transparenter zu verfolgen und die Einhaltung der in Local Law 144 festgelegten Audit-Anforderungen sicherzustellen.
Beobachtbare Veränderungen in unserem Produkt
Die bedeutendste Veränderung nach der Implementierung war die Einführung der Audit-Protokolle. Kunden, die unsere Einstellungswerkzeuge nutzen, konnten nun detaillierte Berichte darüber abrufen, wie Kandidaten bewertet wurden, was ihnen half, nicht nur die Ergebnisse, sondern auch die dahinterstehenden Überlegungen zu verstehen. Diese Transparenz hat sich positiv auf unsere Kundenbeziehungen ausgewirkt, insbesondere im Kontext von /for-companies, wo wir unser Engagement für faire Einstellungspraktiken betonen.
Wichtige Lektionen
Durch diesen Prozess haben wir mehrere Erkenntnisse gewonnen, die wir nicht erwartet hatten:
- Proaktivität ist entscheidend: Auf die Entstehung von Compliance-Problemen zu warten, kann zu größeren Schwierigkeiten führen.
- Unabhängige Audits schaffen Mehrwert: Bewertungen durch Drittanbieter offenbaren oft Einblicke, die interne Teams übersehen könnten.
- Dokumentation ist wichtig: Detaillierte Aufzeichnungen zu führen, ist nicht nur eine Compliance-Anforderung; sie verbessert die Gesamtqualität unserer Einstellungsalgorithmen.
- Feedback von Stakeholdern ist unbezahlbar: Regelmäßige Gespräche mit Kunden über ihre Erfahrungen können zu kontinuierlichen Verbesserungen unserer Modelle führen.
Auswirkungen auf Kandidaten
Für Kandidaten bedeutet dieser Audit-Prozess, dass Ihre Bewertungen transparenter und fairer sein werden. Sie können darauf vertrauen, dass die Algorithmen, die Ihre Bewerbungen bewerten, regelmäßig auf Vorurteile überprüft werden, was einen gerechteren Einstellungsprozess sicherstellt.
Auswirkungen auf Recruiter
Recruiter profitieren von klareren Einblicken, wie Kandidaten bewertet werden. Mit Zugang zu Audit-Protokollen und Berichten können sie die Entscheidungsprozesse hinter der Auswahl von Kandidaten besser verstehen, was zu informierteren und faireren Einstellungsentscheidungen führt.
Ausblick
Während wir bedeutende Fortschritte bei der Einhaltung des Local Law 144 gemacht haben, gibt es noch viel zu überwachen. Wir konzentrieren uns besonders darauf, unsere Prüfprozesse zu verfeinern und über rechtliche Änderungen informiert zu bleiben. Wenn wir dieses Projekt erneut aufgreifen könnten, würden wir die Integration von Echtzeit-Bias-Erkennungssystemen priorisieren, die sofortige Anpassungen ermöglichen, anstatt auf periodische Audits zu warten. Unser Engagement für Transparenz und Fairness im Einstellungsprozess bleibt stark, und wir freuen uns darauf, uns im Einklang mit diesen regulatorischen Anforderungen weiterzuentwickeln. ---