REPORTÉ The Paradox of Automation as Anti-Bias Intervention

Nous sommes désolées de devoir annoncer que l'atelier Annie Macdonald Langstaff avec Ifeoma Ajunwa, professeure adjointe de droit du travail et de l'emploi à la Industrial and Labor Relations School de l'Université Cornell, a dû être reporté pour raisons de santé.

Une nouvelle date sera annoncée dès que possible.

Résumé

Elle nous parlera de l'usage d'algorithmes de décisions dans le marché de l'emploi et des risques que ceux-ci présentent quand on néglige de prendre en compte des biais qu'ils peuvent comporter.

[En anglais seulement] The conceit of automated decision-making – such as for hiring employees – that removing humans from the decision-making process will also eliminate human bias. The paradox, however, is that in some instances, automated decision-making has served to replicate and amplify bias.

Although problematic features associated with algorithmic decision-making are at odds with the fundamental principle of equal opportunity in employment, this paper contends that the framing of algorithmic bias as a technical problem is misguided. Rather, the problem is that legal frameworks – in the context of an American legal tradition of deference to employers, especially allowing for such nebulous hiring criterion as “cultural fit” – do not take into account the emerging technological capabilities of hiring tools which make it difficult to detect disparate impact.

The paper argues for a re-thinking of legal frameworks that take into account both the liability of employers and those of the makers of algorithmic hiring systems who, as brokers, owe a fiduciary duty of care.

La conférencière

[En anglais seulement] Dr. Ajunwa is an Assistant Professor of Labor and Employment Law at Cornell University’s Industrial and Labor Relations School (ILR), an Associate Faculty Member at the Cornell Law School, and a Faculty Associate at the Berkman Klein Center at Harvard University. Her research interests are at the intersection of law and technology with a particular focus on the ethical governance of workplace technologies, as well as diversity and inclusion in the labor market and the workplace.

Les ateliers

Créés en 1988 en l'honneur d'Annie MacDonald Langstaff, BCL 1914, la première femme à obtenir un diplôme en droit au Québec, ces ateliers servent de forum aux universitaires, juges, avocats et personnes travaillant au sein de la communauté pour présenter le fruit de leurs recherches universitaires ou pour donner un aperçu de leur pratique sur des sujets relatifs aux femmes et au droit.

Cette activité est admissible pour 1,5 heures de formation continue obligatoire tel que déclaré par les membres du Barreau du Québec.