---
Тред в Slack, который всё начал
Несколько недель назад мы оказались в жаркой дискуссии в Slack по поводу последствий местного закона Нью-Йорка 144. Как команда инженеров Fitlane AI, мы знали, что наши алгоритмы найма должны соответствовать этому новому регламенту, касающемуся инструментов автоматизированного принятия решений по трудоустройству (AEDT). Ставки были высоки: если мы допустим ошибку, мы рискуем не только финансовыми штрафами, но и репутацией как справедливой платформы для найма.
Понимание местного закона 144
Местный закон Нью-Йорка 144 требует, чтобы любая компания, использующая ИИ в найме, проводила регулярные аудиты предвзятости AEDT. Этот закон направлен на то, чтобы гарантировать, что инструменты найма на основе ИИ не дискриминируют кандидатов по признакам расы, пола или другим защищённым категориям. Закон применяется как к программному обеспечению, которое мы разрабатываем, так и к компаниям, использующим наши услуги, что делает соблюдение этого закона критически важным для нас.
Проблема соблюдения
Погружаясь глубже в требования, мы осознали сложность, с которой столкнулись. Один конкретный случай это подчеркнул: клиент, использующий нашу платформу, отметил несоответствия в оценках кандидатов, где определённые демографические группы постоянно получали более низкие баллы. Это вызвало тревогу по поводу потенциальных предвзятостей в наших моделях машинного обучения. Нам нужен был систематический подход к эффективному аудиту наших алгоритмов.
Первоначальные подходы и тупиковые ситуации
Сначала мы рассматривали простой статистический анализ оценок кандидатов по различным демографическим группам. Однако этот подход показался недостаточным. Полагаться только на статистические метрики могло скрыть более глубокие проблемы, связанные с поведением модели. После долгих дебатов мы решили отказаться от этого метода и исследовать более строгие рамки аудита.
Реализация технического решения
В конечном итоге мы остановились на структурированной схеме, которая включала как количественные, так и качественные оценки наших алгоритмов. Это включало:
- Разработку стандартизированного контрольного списка для аудитов предвзятости.
- Внедрение независимых оценок третьими сторонами для обеспечения независимости.
- Создание обратной связи с клиентами для уточнения моделей на основе результатов аудита.
Вот фрагмент кода, который мы использовали для ведения журнала аудита:
import logging
logging.basicConfig(level=logging.INFO, filename='audit_log.txt')
def log_audit(candidate_id, score, demographic_info):
logging.info(f"Audit log for {candidate_id}: Score {score}, Demographics {demographic_info}")Это решение позволило нам более прозрачно отслеживать работу наших моделей и обеспечило соблюдение требований аудита, изложенных в местном законе 144.
Наблюдаемые изменения в нашем продукте
Самым значительным изменением после внедрения стало появление журналов аудита. Клиенты, использующие наши инструменты для найма, теперь могли получать подробные отчёты о том, как оценивались кандидаты, что помогало им понять не только результаты, но и причины, лежащие в их основе. Эта прозрачность положительно сказалась на наших отношениях с клиентами, особенно в контексте /for-companies, где мы подчеркиваем нашу приверженность справедливым практикам найма.
Основные уроки
В ходе этого процесса мы извлекли несколько инсайтов, которые не ожидали:
- Проактивность имеет решающее значение: Ожидание возникновения проблем с соблюдением может привести к более серьёзным последствиям в будущем.
- Независимые аудиты добавляют ценность: Оценки третьими сторонами часто выявляют инсайты, которые могут быть упущены внутренними командами.
- Документация имеет значение: Ведение подробных записей — это не только необходимость соблюдения, но и улучшение общего качества наших алгоритмов найма.
- Отзывы заинтересованных сторон бесценны: Регулярные обсуждения с клиентами об их опыте могут привести к постоянным улучшениям в наших моделях.
Последствия для кандидатов
Для кандидатов этот процесс аудита означает, что ваши оценки будут более прозрачными и справедливыми. Вы можете быть уверены, что алгоритмы, оценивающие ваши заявки, регулярно проверяются на наличие предвзятости, что обеспечивает более равноправный процесс найма.
Последствия для рекрутеров
Рекрутеры получат более ясные представления о том, как оцениваются кандидаты. С доступом к журналам аудита и отчетам они смогут лучше понять процессы принятия решений при выборе кандидатов, что приведет к более обоснованным и справедливым решениям о найме.
Взгляд в будущее
Хотя мы достигли значительных успехов в соблюдении местного закона 144, нам ещё многое предстоит контролировать. Мы особенно сосредоточены на совершенствовании наших процессов аудита и поддержании актуальности в отношении любых изменений в законодательстве. Если бы мы могли вернуться к этому проекту, мы бы приоритизировали интеграцию механизмов обнаружения предвзятости в реальном времени, что позволило бы вносить немедленные корректировки, а не ждать периодических аудитов. Наша приверженность прозрачности и справедливости в найме остаётся сильной, и мы с нетерпением ожидаем эволюции вместе с этими регуляторными требованиями. ---