---
سلسلة Slack التي بدأت كل شيء
قبل بضعة أسابيع، وجدنا أنفسنا في نقاش حاد على Slack حول تداعيات قانون نيويورك المحلي 144. كفريق من المهندسين في Fitlane AI، كنا نعلم أن خوارزميات التوظيف لدينا تحتاج إلى الامتثال لهذا التنظيم الجديد المتعلق بأدوات اتخاذ القرار التوظيفية الآلية (AEDTs). كانت المخاطر عالية: إذا لم نقم بذلك بشكل صحيح، كنا نعرض أنفسنا ليس فقط لعقوبات مالية ولكن أيضًا لأضرار في سمعتنا كمنصة توظيف عادلة.
فهم قانون 144 المحلي
يفرض قانون نيويورك المحلي 144 على أي شركة تستخدم الذكاء الاصطناعي في التوظيف إجراء تدقيقات تحيز AEDT بانتظام. يهدف هذا القانون إلى ضمان عدم تمييز أدوات التوظيف القائمة على الذكاء الاصطناعي ضد المرشحين بناءً على العرق أو الجنس أو غيرها من الفئات المحمية. ينطبق هذا القانون على كل من البرمجيات التي نطورها والشركات التي تستخدم خدماتنا، مما يجعل من الضروري بالنسبة لنا ضمان الامتثال.
تحدي الامتثال
مع تعمقنا في المتطلبات، أدركنا التعقيد الذي ينطوي عليه الأمر. أبرز سيناريو معين هذه النقطة: لاحظ عميل يستخدم منصتنا وجود تناقضات في تقييمات المرشحين حيث حصلت مجموعات سكانية معينة على درجات أقل بشكل متسق. أثار هذا الأمر علامة حمراء حول التحيزات المحتملة في نماذج التعلم الآلي لدينا. كنا بحاجة إلى نهج منهجي لتدقيق خوارزمياتنا بشكل فعال.
الطرق الأولية والطرق المسدودة
في البداية، اعتبرنا إجراء تحليل إحصائي بسيط لدرجات المرشحين عبر مجموعات سكانية مختلفة. ومع ذلك، بدا أن هذا النهج غير كافٍ. الاعتماد فقط على المقاييس الإحصائية قد يخفي قضايا أعمق تتعلق بسلوك النموذج. بعد الكثير من النقاش، قررنا التخلي عن هذه الطريقة واستكشاف أطر تدقيق أكثر صرامة.
تنفيذ الحل الفني
أخيرًا، استقرينا على إطار عمل منظم يتضمن كل من التقييمات الكمية والنوعية لخوارزمياتنا. شمل ذلك:
- تطوير قائمة مرجعية موحدة لتدقيق التحيز.
- تنفيذ تقييمات من طرف ثالث لضمان الاستقلالية.
- إنشاء حلقة تغذية راجعة مع العملاء لتحسين النماذج بناءً على نتائج التدقيق.
إليك جزء من الكود الذي استخدمناه لتسهيل تسجيل التدقيق:
import logging
logging.basicConfig(level=logging.INFO, filename='audit_log.txt')
def log_audit(candidate_id, score, demographic_info):
logging.info(f"Audit log for {candidate_id}: Score {score}, Demographics {demographic_info}")سمح لنا هذا الحل بتتبع أداء نماذجنا بشكل أكثر شفافية وضمان الامتثال لمتطلبات التدقيق الموضحة في القانون المحلي 144.
التغييرات الملحوظة في منتجنا
أكبر تغيير بعد التنفيذ كان إدخال سجلات التدقيق. يمكن للعملاء الذين يستخدمون أدوات التوظيف الخاصة بنا الآن الوصول إلى تقارير مفصلة حول كيفية تقييم المرشحين، مما يساعدهم على فهم ليس فقط النتائج ولكن أيضًا الأسباب وراءها. لقد أثرت هذه الشفافية بشكل إيجابي على علاقاتنا مع العملاء، خاصة في سياق /for-companies، حيث نؤكد على التزامنا بممارسات التوظيف العادلة.
الدروس المستفادة
من خلال هذه العملية، استخلصنا عدة رؤى لم نتوقعها:
- الاستباقية أمر حاسم: الانتظار حتى تظهر قضايا الامتثال يمكن أن يؤدي إلى مشاكل أكبر في المستقبل.
- التدقيقات المستقلة تضيف قيمة: غالبًا ما تكشف التقييمات من طرف ثالث عن رؤى قد تت overlookها الفرق الداخلية.
- التوثيق مهم: الحفاظ على سجلات مفصلة ليس فقط ضرورة للامتثال؛ بل يعزز الجودة العامة لخوارزميات التوظيف لدينا.
- تغذية راجعة من أصحاب المصلحة لا تقدر بثمن: يمكن أن تؤدي المناقشات المنتظمة مع العملاء حول تجاربهم إلى تحسينات مستمرة في نماذجنا.
التداعيات على المرشحين
بالنسبة للمرشحين، يعني هذا العملية التدقيقية أن تقييماتك ستكون أكثر شفافية وإنصافًا. يمكنك أن تثق في أن الخوارزميات التي تقيم طلباتك تخضع للتدقيق بانتظام بحثًا عن التحيز، مما يضمن عملية توظيف أكثر عدالة.
التداعيات على المجندين
سيستفيد المجندون من رؤى أوضح حول كيفية تقييم المرشحين. مع الوصول إلى سجلات التدقيق والتقارير، يمكنهم فهم أفضل لعمليات اتخاذ القرار وراء اختيار المرشحين، مما يؤدي إلى قرارات توظيف أكثر استنارة وإنصافًا.
النظر إلى الأمام
على الرغم من أننا حققنا تقدمًا كبيرًا في الامتثال لقانون 144 المحلي، لا يزال هناك الكثير لمراقبته. نحن نركز بشكل خاص على تحسين عمليات التدقيق لدينا والبقاء على اطلاع بأي تغييرات قانونية. إذا كان بإمكاننا إعادة النظر في هذا المشروع، سنعطي الأولوية لدمج آليات الكشف عن التحيز في الوقت الحقيقي، مما يسمح بإجراء تعديلات فورية بدلاً من الانتظار للتدقيقات الدورية. يبقى التزامنا بالشفافية والإنصاف في التوظيف قويًا، ونتطلع إلى التطور جنبًا إلى جنب مع هذه المتطلبات التنظيمية. ---