AccueilActualités informatiqueNew York : une loi pour réguler l'utilisation de l'IA pour les...

New York : une loi pour réguler l’utilisation de l’IA pour les candidatures

Début novembre, le conseil municipal de New York a adopté un projet de loi qui limite l’utilisation de l’intelligence artificielle par les employeurs pour pourvoir les postes vacants. La sélection de candidats par algorithme ne sera donc autorisée que si le logiciel utilisé passe un audit de biais annuel.

Une présélection de candidats par l’intelligence artificielle doit donc être impartiale. Si un algorithme discrimine des personnes sur la base du sexe, de la race ou de l’ethnie et exclut des candidats sur cette base, la loi prévoit qu’il ne pourra plus être utilisé à New York à l’avenir.

Sommaire

De plus en plus d’employeurs aux États-Unis – et de plus en plus en Allemagne – font appel à des algorithmes lors de la présélection pour le recrutement de nouveaux collaborateurs. Les candidatures écrites et le langage utilisé lors des entretiens d’embauche sont ainsi analysés par des intelligences artificielles via des vidéoconférences.

La loi votée à New York exige désormais un contrôle annuel des logiciels et devrait obliger les fournisseurs de tels outils à donner plus de visibilité sur les algorithmes complexes. De plus, elle doit permettre aux candidats de faire examiner les documents soumis par un être humain, rapporte Associated Press.

Cependant, l’efficacité de la loi suscite également des inquiétudes. Certains experts en IA et militants des droits numériques craignent que les mesures n’aillent pas assez loin et que les régulateurs fédéraux et les législateurs fixent des normes de vérification trop basses.

L’approche de la vérification de la partialité est bonne – ce qui est problématique, ce sont les normes faibles et vagues pour cela, explique Alexandra Givens, présidente du Center for Democracy Technology. Les audits de vérification des logiciels pourraient donc servir de « feuille de vigne » pour les fournisseurs.

Un autre problème, selon Givens, est que la proposition de contrôle des outils d’intelligence artificielle ne vise qu’à protéger contre les préjugés raciaux, ethniques et sexuels, mais laisse de côté les préjugés contre les personnes handicapées et sur leur âge. La loi prévoit des amendes à l’encontre des employeurs pouvant aller jusqu’à 1 500 dollars par infraction – alors que la réalisation des audits et la preuve que le logiciel répond aux exigences de la ville sont laissées à l’appréciation des fournisseurs, a déclaré Givens, critiquant la dilution du projet de loi.

Julia Stoyanovich, professeur d’informatique, a expliqué que la meilleure partie de la loi était l’obligation de divulgation. Les gens sauront désormais qu’ils sont évalués par un ordinateur et « où vont leurs données ». « Cela fera la lumière sur les fonctions utilisées par ces outils », a poursuivi Mme Stoyanovich.

Les plates-formes de correspondance des emplois et les entretiens d’embauche basés sur l’IA suscitent un intérêt croissant en Europe également. Les candidats affirment qu’il est tout à fait possible d’impressionner les systèmes d’IA et donnent à cet effet des conseils très concrets, en quatre points principaux.

Le conseil municipal de New York a approuvé le projet de loi par 38 voix contre 4 le 10 novembre, donnant au maire sortant Bill De Blasio un mois pour agir. De Blasio soutient la loi, a déclaré son bureau, mais il n’a pas précisé s’il la bloquerait ou s’il la laisserait entrer en vigueur avec ou sans signature.

Plus d'articles