New York propose des règles pour clarifier la prochaine loi sur l’intelligence artificielle pour les employeurs

3 octobre 2022

Cliquez pour PDF

Enfin, une bonne nouvelle pour les employeurs utilisant des outils automatisés de décision en matière d’emploi (“AEDT”) à New York : le Département de la protection des consommateurs et des travailleurs (“DCWP”) règles proposées dans le but de lever de nombreuses ambiguïtés dans la loi sur l’intelligence artificielle (“IA”) de la ville de New York, qui entrera en vigueur le 1er janvier 2023.[1]

La loi de la ville de New York empêchera les employeurs d’utiliser l’AEDT dans les décisions d’embauche et de promotion à moins qu’il n’ait fait l’objet d’un audit partiel par un “auditeur indépendant” pas plus d’un an avant son utilisation.[2] La loi impose également certaines exigences d’affichage et de notification pour les candidats et les employés.

Comme détaillé ci-dessous, les règles DCWP proposées sont actuellement à l’étude et pourraient soulever plus de questions que de réponses, car l’incertitude concernant les exigences persiste. Les commentaires peuvent être soumis au DCWP et une audience publique aura lieu le 24 octobre 2022 pour déterminer si tout ou partie des règles seront formellement adoptées. Vous trouverez ci-dessous un bref résumé des règles proposées.

Clarifier les définitions : Plusieurs termes clés qui ne sont pas définis dans la loi elle-même seront définis si les règles proposées sont adoptées.

Par exemple, les règles proposées définissent un « auditeur indépendant » comme « une personne ou un groupe non impliqué dans l’utilisation ou le développement d’un AEDT qui est responsable de la réalisation d’un audit partiel d’un tel AEDT ». Alors que la définition proposée indique qu’un fournisseur qui a développé l’AEDT peut ne pas être un auditeur suffisamment “indépendant” (selon les faits et les circonstances), les règles proposées fournissent un exemple d’un fournisseur fournissant des données autorisées pour un audit partiel. Il reste à voir s’il y aura des éclaircissements supplémentaires sur les fournisseurs qui peuvent effectuer l’audit de partialité requis.

Les règles proposées définissent le “candidat à un emploi” comme “une personne qui a postulé à un poste spécifique en soumettant les informations et/ou éléments requis dans le format requis par l’employeur ou l’agence pour l’emploi”. Ainsi, les règles proposées précisent que les candidats potentiels qui n’ont pas encore postulé à un poste vacant ne seraient pas couverts par la nouvelle loi.

La loi sur l’IA elle-même définit un AEDT comme “tout processus informatique, dérivé de l’apprentissage automatique, de la modélisation statistique, de l’analyse de données ou de l’intelligence artificielle, qui émet un résultat simplifié, y compris un score, une note ou une recommandation, qui est utilisé pour aider ou remplacer substantiellement la prise de décision discrétionnaire pour prendre des décisions d’emploi qui affectent les individus ». Les règles proposées précisent que l’expression « pour faciliter ou remplacer de manière substantielle la prise de décision discrétionnaire » signifie que l’outil couvert (a) dépend « uniquement d’un résultat simplifié », (b) utilise « un résultat simplifié comme un ensemble de critères en ce sens que la sortie est pondérée plus que tout autre critère de l’ensemble » ou (c) utilise « une sortie simplifiée pour remplacer ou modifier les conclusions dérivées d’autres facteurs, y compris la prise de décision humaine ».

Audit de biais : Les règles proposées précisent également les exigences d’un audit de partialité, qui comprend le calcul du taux de sélection et du taux d’impact pour chaque catégorie EEO-1 dans le rapport d’information de l’employeur de la Commission pour l’égalité des chances en matière d’emploi (c’est à direrace, ethnie et sexe).

Les calculs établis dans les règles proposées sont généralement conformes aux lignes directrices uniformes de l’EEOC sur les procédures de sélection du personnel. Notamment, les règles proposées expliquent que le taux de sélection est “le taux auquel les individus d’une catégorie sont sélectionnés pour avancer dans le processus d’embauche ou recevoir une notation par une AEDT” par rapport au nombre total d’individus de la catégorie qui ont postulé. à un poste ou ont été considérés pour une promotion. Quant au taux d’impact, il est défini comme « soit (1) le taux de sélection d’une catégorie divisé par le taux de sélection de la catégorie la plus sélectionnée, soit (2) le score moyen de tous les individus d’une catégorie divisé par le score moyen des individus d’une catégorie ». la catégorie la plus élevée.

Les règles proposées fournissent des exemples d’audits biaisés qui indiquent que ces audits doivent mener une analyse intersectionnelle des catégories protégées (par exemple, en examinant le taux d’impact pour la race et le sexe combinés), ainsi qu’en analysant chaque catégorie indépendamment. Les règles proposées ne traitent pas des situations où les données peuvent être incomplètes pour certaines catégories. Les règles proposées ne traitent pas non plus des circonstances où l’ensemble de données est trop petit pour donner lieu à un taux d’impact statistiquement significatif.

En ce qui concerne la publication des résultats de l’audit de partialité, les règles proposées exigeraient que le poste soit “mis à la disposition du public dans la section carrières ou emplois de son site Web de manière claire et visible” et inclue la date de l’audit, la date de diffusion du les frais d’outil et de sélection et les frais d’impact pour toutes les catégories.

Remarquer: La loi de la ville de New York exige que les employeurs fournissent aux personnes résidant à New York au moins 10 jours ouvrables avant d’utiliser l’AEDT, la possibilité de postuler à un processus de sélection ou d’adaptation alternatif, les qualifications ou les caractéristiques du travail que l’AEDT utilise en relation avec l’évaluation, la politique de rétention de l’employeur, ainsi que le type et la source des données recueillies pour l’AEDT. Les règles proposées décrivent plusieurs façons différentes par lesquelles, si elles sont approuvées, les employeurs peuvent aviser les candidats et les employés.

En ce qui concerne l’exigence légale d’avis sur l’utilisation d’un OEDT, les instructions sur la façon de postuler à un autre processus de sélection ou à un accommodement, et les qualifications et caractéristiques d’emploi utilisées par l’OEDT, les règles proposées permettraient aux employeurs d’informer les employeurs candidats (a) “dans la section Carrières ou Emplois” du site Web d’un employeur, (b) “dans une offre d’emploi” ou (c) “par courrier ou par e-mail aux États-Unis” au moins 10 jours ouvrés avant d’utiliser l’OEDT Par des employésLes employeurs peuvent fournir cet avis « dans une politique ou une procédure écrite » au moins 10 jours ouvrables avant l’utilisation ou par le biais des mécanismes décrits aux points (b) et (c) ci-dessus.

Selon les règles proposées, un employeur se conformerait à l’exigence de la loi concernant les avis concernant le type de données recueillies, la source des données et la politique de conservation des données en publiant ces informations « dans la section Carrières ou Emplois » de son site Web ou en fournissant par écrit “par courrier ou par e-mail aux États-Unis” dans les 30 jours suivant la réception d’une demande de fourniture de ces informations.

* * *

Les législatures et les organismes de réglementation ont continué à se concentrer sur l’utilisation de l’OEDT par les employeurs.[3] Plus récemment, le 13 septembre 2022, l’EEOC a co-organisé un événement avec l’OFCCP intitulé Décodé : la technologie peut-elle favoriser un recrutement et une embauche équitables ?. Pendant le un événement, la présidente de l’EEOC, Charlotte A. Burrows, et la directrice de l’OFCCP, Jenny R. Yang, ont souligné la nécessité pour les employeurs de réfléchir attentivement aux facteurs que l’AEDT évalue, notamment si ces facteurs sont adaptés aux compétences et aux capacités requises par le travail spécifique et s’assurer que l’EMCDDA n’ont pas d’impact différent selon les catégories protégées. Par conséquent, les employeurs qui ont déjà mis en œuvre ou pourraient mettre en œuvre l’AEDT sur le lieu de travail devraient tenir compte de l’impact de ces développements législatifs et réglementaires pour assurer la conformité aux lois à venir et un contrôle réglementaire renforcé.

_________________________

[1] Département de la protection des consommateurs et des travailleurs de New York, Avis d’audience publique et possibilité de commenter les règles proposées, https://rules.cityofnewyork.us/wp-content/uploads/2022/09/DCWP-NOH-AEDTs-1.pdf.

[2] Pour plus de détails, consultez le New York City Enacts Act de Gibson Dunn restreignant l’utilisation de l’intelligence artificielle dans les décisions d’emploi.

[3] Pour plus de détails, voir le livre de Gibson Dunn Keeping Up with the EEOC: Artificial Intelligence Guidance and Enforcement Action et Danielle Moss, Harris Mufson et Emily Lamm, Le mélange des lois sur l’IA des États place des obstacles à la conformité des employeursLoi 360 (30 mars 2022), disponible en https://www.gibsondunn.com/wp-content/uploads/2022/03/Moss-Mufson-Lamm-Medley-Of-State-AI-Laws-Pose-Employer-Compliance-Hurdles-Law360-Employment-Authority- 30-03-2022.pdf.


Les avocats suivants de Gibson Dunn ont aidé à préparer cette mise à jour client : Harris Mufson, Danielle Moss et Emily Maxim Lamm.

Les avocats de Gibson Dunn sont disponibles pour vous aider à résoudre toute question que vous pourriez avoir concernant ces développements. Pour en savoir plus sur ces problèmes, contactez l’avocat de Gibson Dunn avec lequel vous travaillez habituellement, tout membre du groupe des pratiques de travail et de travail de l’entreprise ou les personnes suivantes :

Harris M. Mufson – New York (+1 212-351-3805, [email protected])

Danielle J. Moss – New York (+1 212-351-6338, [email protected])

Jason C. Schwartz – Coprésident, Groupe de travail et d’emploi, Washington, DC
(+1 202-955-8242, [email protected])

Katherine VA Smith – Coprésidente, Groupe du travail et de l’emploi, Los Angeles
(+1 213-229-7107, [email protected])

© 2022 Gibson, Dunn & Crutcher LLP

Publicité des avocats : les documents inclus ont été préparés à des fins d’information générale uniquement et ne sont pas destinés à fournir des conseils juridiques.