AI Governance in Canadian Banking: Fairness, Credit Models, and Equality Rights

Abstract

The question of fairness is currently in the spotlight in discussions around artificial intelligence (AI). As AI is increasingly adopted in the banking sector, it is important for enablers to ensure that AI-deployed decisions respect fundamental rights, including equality rights, both legally and ethically. This will likely entail novel applications of existing anti-discrimination legislation. In this paper, we shed a critical light on issues of fairness in the banking context by applying equality rights frameworks to AI, using credit models as an exemplar. The paper is geared toward bankers, lawyers and judges seeking to understand and apply the law and develop governance practices for AI models used by Canadian financial institutions (FIs). We argue that, to a significant extent, existing legal and regulatory frameworks “reach” AI deployed by FIs. Considering the potential issue of unfairness in particular, we examine the landscape of Canadian human rights legislation and how anti-discrimination law mechanisms can be used to uphold the principle of fairness in AI- driven decisions. The paper concludes by discussing the importance of robust AI governance and outlining best practices for developing robust governance frameworks at the institutional level.

La question de l’équité est actuellement à l’honneur dans les discussions concernant l’intelligence artificielle (l'IA). Puisque l’IA est de plus en plus adoptée dans le secteur bancaire, il est important que les facilitateurs de l’IA s’assurent que les décisions déployées par celle ci respectent les droits fondamentaux, notamment les droits à l’égalité, tant sur le plan juridique que sur le plan éthique. Il est à prévoir que la tâche donnera naissance à des applications novatrices de la législation antidiscrimination actuelle. Dans le présent article, nous jetons un regard critique sur des questions d’équité dans le contexte bancaire en appliquant à l’IA des cadres d’analyse relevant des droits à l’égalité, les modèles de crédit servant ici d’exemple. L’article s’adresse aux banquiers, aux avocats et aux juges qui cherchent à comprendre et à appliquer le droit et à élaborer des pratiques en matière de gouvernance applicables aux modèles d’IA utilisés par les institutions financières canadiennes (les institutions financières). Nous faisons valoir que, dans une large mesure, les cadres législatifs et réglementaires actuels « atteignent » l’IA déployée par les institutions financières. Sur la question éventuelle de l’iniquité tout particulièrement, nous nous penchons sur le portrait législatif au Canada en matière de droits de la personne et sur la question de savoir comment les mécanismes prévus par les lois antidiscrimination peuvent servir à défendre le principe de l’équité dans les décisions animées par l’IA. En conclusion, l’article traite de l’importance d’une gouvernance robuste vis à vis de l’IA et esquisse des pratiques exemplaires permettant d’élaborer des cadres de gouvernance robustes au niveau institutionnel.

Keywords: artificial intelligence, banking law, equality rights, governance, Canada

JEL Classification: k23, k20,