Régulation des algorithmes et gouvernance du machine learning : vers une transparence et « explicabilité » des décisions algorithmiques ? (Algorithm Regulation and Machine Learning Governance: Towards Transparency and 'Explainability' of Algorithmic Decisions?)

Revue Droit & Affaires, Revue Paris II Assas, 15ème édition, 2018.

14 Pages Posted: 12 Jul 2019

See all articles by Céline Castets-Renard

Céline Castets-Renard

Civil Law Faculty; University of Toulouse 1; ANITI (Artificial and Natural Intelligence Toulouse Institute); Institut Universitaire de France

Date Written: September 20, 2018

Abstract

French Abstract: Suite à l’adoption la loi n° 2016-1321 Pour une République Numérique du 7 octobre 2016 (la « LRN ») et du règlement européen n° 2016/679/UE relatif à la protection des personnes physiques à l’égard du traitement des données à caractère personnel et à la libre circulation de ces données (dit le « RGPD) ») qui supposera a révision de la loi n° 78-17 du 6 janvier 1978 dite « informatique et libertés » (la « LIL »), ont été adoptées plusieurs dispositions encadrant la « décision individuelle prise sur le fondement d’un traitement algorithmique » par les acteurs privés ou publics. Il apparaît que les qualités de précision, transparence ou « explicabilité » des décisions algorithmiques deviennent des exigences légales, eu égard aux risques d’opacité, biais et discrimination qu’elles suscitent. Dans le contexte du débat éthique, initié par le rapport Villani sur l’intelligence artificielle (AI for Humanity), l’efficacité de ces dispositions législatives doit être interrogée. Des doutes peuvent être émis sur leur capacité à atteindre les objectifs. Surtout, on peut s’interroger sur la pertinence de ces objectifs, eu égard aux risques les plus dangereux susceptibles d’être générés par les décisions algorithmiques.

English Abstract: Following the adoption of Law No 2016-1321 Pour une République Numérique of 7 October 2016 (the "LRN") and European Regulation No 2016/679/EU on the protection of individuals with regard to the processing of personal data and on the free movement of such data (the "RGPD"), which will entail a revision of Law No 78-17 of 6 January 1978 on "Data Protection" (the "LIL"), several provisions have been adopted governing the "individual decision taken on the basis of algorithmic processing" by private or public actors. It appears that the qualities of precision, transparency or "explainability" of algorithmic decisions become legal requirements, taking into account the risks of opacity, bias and discrimination they create. In the context of the ethical debate, initiated by the Villani report on AI for Humanity, the effectiveness of these legislative provisions must be questioned. Doubts may be expressed about their ability to achieve the aims. Above all, we can question the relevance of these objectives, in view of the most dangerous risks likely to be generated by algorithmic decisions.

Note: Downloadable document is in French.

Keywords: IA, transparence algorithmic, biais et discrimination, explicabilité, alogrithmes, décisions automatiques, AI, algorithmic transparency, bias and discrimination, explicability, alogrithms, automatic decisions

Suggested Citation

Castets-Renard, Céline, Régulation des algorithmes et gouvernance du machine learning : vers une transparence et « explicabilité » des décisions algorithmiques ? (Algorithm Regulation and Machine Learning Governance: Towards Transparency and 'Explainability' of Algorithmic Decisions?) (September 20, 2018). Revue Droit & Affaires, Revue Paris II Assas, 15ème édition, 2018., Available at SSRN: https://ssrn.com/abstract=3391282

Céline Castets-Renard (Contact Author)

Civil Law Faculty ( email )

57 Louis Pasteur Street
Ottawa, Ontario K1N 6N5
Canada

HOME PAGE: http://https://droitcivil.uottawa.ca/fr

University of Toulouse 1 ( email )

2 rue du doyen Gabriel Marty
Toulouse, 31000
France

ANITI (Artificial and Natural Intelligence Toulouse Institute) ( email )

41 Allées Jules Guesde - CS 61321
TOULOUSE
France

Institut Universitaire de France ( email )

103, bld Saint-Michel
75005 Paris
United States

Do you have a job opening that you would like to promote on SSRN?

Paper statistics

Downloads
192
Abstract Views
560
rank
200,496
PlumX Metrics