---

Der Algorithmus hat es gesagt: Ein Slack-Thread, der Veränderung ausgelöst hat

In einem aktuellen Slack-Thread äußerte ein Mitglied des HR-Teams Frustration über die Ablehnung eines Kandidaten, die ausschließlich auf algorithmischen Ergebnissen basierte. "Der Algorithmus hat gesagt, dass sie nicht passen", schrieben sie und fügten hinzu, dass diese fehlende Kontextualisierung sie über die Entscheidung unruhig machte. Die Diskussion entwickelte sich schnell zu einem breiteren Gespräch über die Transparenz und Verantwortung unserer KI im Einstellungsprozess.

Die Bedeutung verstehen

Automatisierte Entscheidungsfindung im Recruiting ist sowohl ein Privileg als auch eine Verantwortung. Während wir bestrebt sind, KI zu nutzen, um den Einstellungsprozess zu optimieren, müssen wir uns der menschlichen Schicksale bewusst sein, die von diesen Entscheidungen betroffen sind. Sowohl Recruiter als auch Kandidaten sind von den Ergebnissen dieser Algorithmen betroffen. Eine Ablehnung, die auf intransparenten Gründen basiert, kann Karrieren und Ruf schädigen und zu Misstrauen in unsere Plattform führen. Es wurde klar, dass wir unsere KI-Prozesse transparenter gestalten mussten, um ein zuverlässiges und ethisches Einstellungsumfeld zu fördern.

Das Kernproblem identifizieren

Das Hauptproblem, dem wir gegenüberstanden, war, dass unser Algorithmus binäre Ausgaben lieferte – entweder war ein Kandidat passend oder nicht – ohne jegliche unterstützende Begründung. Stellen Sie sich beispielsweise ein Szenario vor, in dem ein hochqualifizierter Kandidat abgelehnt wurde, nur weil er nicht in eine enge Reihe von vordefinierten Kriterien passte. Das frustrierte nicht nur die Recruiter, sondern ließ auch die Kandidaten verwirrt und enttäuscht zurück. Wir benötigten einen Weg, um klare und umsetzbare Erklärungen für jede Entscheidung, die unsere KI traf, bereitzustellen.

Erste Versuche und Erkenntnisse

Unser erster Ansatz bestand darin, beschreibende Metadaten zu den Kandidatenprofilen hinzuzufügen, die eine Zusammenfassung der Logik der KI enthielten. Dies erwies sich jedoch als unzureichend. Recruiter fanden es schwierig, die Metadaten ohne ein tieferes Verständnis der Funktionsweise des Algorithmus zu interpretieren. Wir erkannten, dass es nicht ausreichte, einfach eine Zusammenfassung bereitzustellen; wir mussten Erklärungen liefern, die sowohl verständlich als auch relevant für den Einstellungsprozess waren. Dieser Fehlstart lehrte uns, dass Klarheit und Relevanz von größter Bedeutung sind, wenn es darum geht, automatisierte Entscheidungen zu erklären.

Implementierung erklärbarer KI

Nach mehreren Iterationen entwickelten wir einen Ansatz zur Erstellung von nachvollziehbaren Erklärungen für jede Kandidatenbewertung. Wir nutzten Techniken aus dem Bereich der interpretierbaren maschinellen Lernens und konzentrierten uns darauf, evidenzbasierte Argumente anstelle vager Adjektive bereitzustellen. Zum Beispiel inkludieren wir nun spezifische Faktoren, die zur Bewertung eines Kandidaten beitragen, wie relevante Erfahrung, Übereinstimmungsprozentsätze der Fähigkeiten und Ergebnisse von Bewertungen.

# Beispielcode zur Generierung von Erklärungen
def generate_explanation(candidate_id):
    candidate = fetch_candidate_data(candidate_id)
    reasons = []
    if candidate['years_experience'] > 5:
        reasons.append("5+ Jahre relevante Erfahrung")
    if candidate['skill_match'] > 0.8:
        reasons.append("Hohe Übereinstimmung der Fähigkeiten: {0}%".format(candidate['skill_match'] * 100))
    return f"Gründe für die Ablehnung: {', '.join(reasons)}"

Dieser Codeausschnitt veranschaulicht, wie wir spezifische Gründe für die Bewertung eines Kandidaten zusammenstellen, sodass Recruiter die Begründung hinter den Entscheidungen leicht verstehen und kommunizieren können.

Beobachtbare Veränderungen im Produkt

Mit diesen Aktualisierungen bietet unsere Plattform nun detaillierte Erklärungen für die Kandidatenbewertungen direkt im Recruiter-Dashboard an. Diese Änderung verbessert nicht nur die Transparenz, sondern ermächtigt Recruiter auch, fundiertere Entscheidungen zu treffen. Das Feedback von Nutzern war überwältigend positiv, viele bemerkten, dass sie sich bei ihren Bewertungen sicherer fühlen. Auch die Kandidaten schätzen es, klare Rückmeldungen zu ihren Bewerbungen zu erhalten, die sie für zukünftige Möglichkeiten nutzen können. Sie können diese Funktionen weiter auf unserer /for-companies-Seite erkunden.

Wichtige Erkenntnisse aus unserer Reise

• Klarheit vor Komplexität: Erklärungen sollten einfach und direkt sein, technische Fachbegriffe vermeiden.
• Evidenz zählt: Die Bereitstellung spezifischer Datenpunkte ist wirkungsvoller als subjektive Beschreibungen.
• Iterative Verbesserung: Erste Lösungen können scheitern, aber jeder Versuch bringt uns näher an das, was die Nutzer benötigen.
• Nutzerfeedback ist entscheidend: Regelmäßiger Austausch mit Recruitern hilft, unseren Ansatz zu verfeinern.
• Vertrauen basiert auf Transparenz: Klare Erklärungen fördern das Vertrauen zwischen Kandidaten, Recruitern und dem KI-System.

Auswirkungen für Kandidaten

Für Kandidaten bedeutet der neue transparente Ansatz, dass Sie klare Einblicke erhalten, warum Ihre Bewerbung erfolgreich oder nicht erfolgreich war. Dieses Feedback hilft Ihnen, Ihre Stärken und Verbesserungsbereiche zu verstehen, wodurch der Einstellungsprozess weniger einschüchternd und konstruktiver wird. Sie können zukünftige Bewerbungen nun mit einem besseren Verständnis angehen, wie Sie Ihre Qualifikationen mit den Anforderungen der Stelle in Einklang bringen können.

Auswirkungen für Recruiter

Für Recruiter bedeuten diese Verbesserungen, dass Sie den Kandidaten spezifisches Feedback geben können, das auf Daten basiert, was zu einem respektvolleren und informativen Einstellungsprozess führt. Diese neu gewonnene Klarheit verbessert nicht nur die Kandidatenerfahrung, sondern stärkt auch Ihre Rolle, da Sie Einstellungsentscheidungen effektiver gegenüber den Stakeholdern rechtfertigen können.

Was kommt als Nächstes?

Obwohl wir erhebliche Fortschritte gemacht haben, erkennen wir, dass der Weg zu vollständiger Transparenz im KI-Recruiting fortlaufend ist. Wir überwachen derzeit die Nutzerinteraktionen mit den neuen Funktionen und sammeln Feedback, um weitere Verbesserungen vorzunehmen. Darüber hinaus erkunden wir Möglichkeiten, um Echtzeitanpassungen basierend auf den Interaktionen der Kandidaten zu implementieren, sodass unsere KI sich parallel zu den Bedürfnissen der Nutzer weiterentwickelt. Wenn wir eine Änderung rückgängig machen könnten, wäre es das Fehlen sofortiger Erklärungen in den frühen Iterationen; dies ist eine Lektion, die wir nicht vergessen werden. ---