---
Тема в Slack, що все почала
Кілька тижнів тому ми опинилися в запеклій дискусії в Slack щодо наслідків місцевого закону Нью-Йорка 144. Як команда інженерів Fitlane AI, ми знали, що наші алгоритми найму повинні відповідати цій новій регуляції щодо автоматизованих інструментів прийняття рішень про працевлаштування (AEDT). Ставки були високими: якщо ми не впораємося, ми ризикували не лише фінансовими штрафами, а й шкодою нашій репутації як справедливої платформи для найму.
Розуміння місцевого закону 144
Місцевий закон Нью-Йорка 144 вимагає, щоб будь-яка компанія, що використовує ШІ у наймі, проводила регулярні аудити упередженості AEDT. Цей закон має на меті забезпечити, щоб інструменти найму на основі ШІ не дискримінували кандидатів за расою, статтю чи іншими захищеними категоріями. Закон стосується як програмного забезпечення, яке ми розробляємо, так і компаній, що використовують наші послуги, що робить дотримання цього закону критично важливим для нас.
Виклики дотримання
Коли ми заглибилися у вимоги, ми усвідомили складність, що з цим пов'язана. Один конкретний випадок підкреслив це: клієнт, який використовував нашу платформу, зазначив невідповідності в оцінках кандидатів, де певні демографічні групи постійно отримували нижчі бали. Це викликало тривогу щодо потенційної упередженості в наших моделях машинного навчання. Нам був потрібен систематичний підхід для ефективного аудиту наших алгоритмів.
Початкові підходи та безвихідь
Спочатку ми розглядали простий статистичний аналіз оцінок кандидатів серед різних демографічних груп. Однак цей підхід видався недостатнім. Спиратися лише на статистичні показники могло приховувати глибші проблеми, пов'язані з поведінкою моделі. Після численних дебатів ми вирішили відмовитися від цього методу і дослідити більш строгі рамки аудиту.
Впровадження технічного рішення
Врешті-решт, ми зупинилися на структурованій системі, що включала як кількісні, так і якісні оцінки наших алгоритмів. Це передбачало:
- Розробку стандартизованого контрольного списку для аудитів упередженості.
- Впровадження оцінок від третіх сторін для забезпечення незалежності.
- Створення зворотного зв'язку з клієнтами для вдосконалення моделей на основі результатів аудиту.
Ось фрагмент коду, який ми використовували для ведення журналу аудиту:
import logging
logging.basicConfig(level=logging.INFO, filename='audit_log.txt')
def log_audit(candidate_id, score, demographic_info):
logging.info(f"Audit log for {candidate_id}: Score {score}, Demographics {demographic_info}")Це рішення дозволило нам більш прозоро відстежувати продуктивність наших моделей і забезпечити дотримання вимог аудиту, викладених у місцевому законі 144.
Спостережувані зміни в нашому продукті
Найзначнішою зміною після впровадження стало введення журналів аудиту. Клієнти, які використовують наші інструменти для найму, тепер могли отримувати детальні звіти про те, як оцінювалися кандидати, що допомагало їм зрозуміти не лише результати, а й причини їх отримання. Ця прозорість позитивно вплинула на наші відносини з клієнтами, особливо в контексті /for-companies, де ми підкреслюємо нашу прихильність до справедливих практик найму.
Ключові уроки
Протягом цього процесу ми отримали кілька інсайтів, яких не очікували:
- Проактивність є критично важливою: Чекати, поки виникнуть проблеми з дотриманням, може призвести до більш серйозних проблем у майбутньому.
- Незалежні аудити додають цінності: Оцінки від третіх сторін часто виявляють інсайти, які внутрішні команди можуть не помітити.
- Документація має значення: Ведення детальних записів є не лише необхідністю для дотримання, а й підвищує загальну якість наших алгоритмів найму.
- Зворотний зв'язок від зацікавлених сторін є безцінним: Регулярні обговорення з клієнтами щодо їх досвіду можуть призвести до постійних покращень наших моделей.
Наслідки для кандидатів
Для кандидатів цей процес аудиту означає, що ваші оцінки будуть більш прозорими та справедливими. Ви можете бути впевнені, що алгоритми, які оцінюють ваші заявки, регулярно перевіряються на упередженість, що забезпечує більш рівний процес найму.
Наслідки для рекрутерів
Рекрутери отримають переваги від чіткіших уявлень про те, як оцінюються кандидати. Маючи доступ до журналів аудиту та звітів, вони можуть краще зрозуміти процеси прийняття рішень щодо вибору кандидатів, що призведе до більш обґрунтованих і справедливих рішень про найм.
Погляд у майбутнє
Хоча ми досягли значних успіхів у дотриманні місцевого закону 144, ще багато чого потрібно контролювати. Ми особливо зосереджені на вдосконаленні наших процесів аудиту та стеженні за будь-якими змінами в законодавстві. Якби ми могли повернутися до цього проекту, ми б пріоритизували інтеграцію механізмів виявлення упередженості в реальному часі, що дозволило б миттєві корективи, а не чекати періодичних аудитів. Наша прихильність до прозорості та справедливості в наймі залишається сильною, і ми з нетерпінням чекаємо на еволюцію разом із цими регуляторними вимогами. ---