Comment les dark patterns manipulent nos usages mobiles? Proposition de régulation pour un digital durable et centré sur l’humain. (How Do Dark Patterns Manipulate Our Mobile Uses? Regulation Proposal for Sustainable and Human-centered Digital.)

in Tchehouali, D. Randrianasolo, H. Ledjou, J-M. (dir.) Nouveaux enjeux liés aux usages des applications et des services mobiles : Quelles opportunités et quels risques ?, ACFAS Symposium, 2023.

22 Pages Posted: 3 Jan 2024

See all articles by Potel-Saville Marie

Potel-Saville Marie

Amurabi, legal innovation by design

Fabien Lechevalier

University of Paris-Saclay

Date Written: September 1, 2023

Abstract

French Abstract: Les dark patterns ou deceptive patterns pourraient être définis comme des techniques de tromperie ou de manipulation des utilisateurs au travers d’interfaces ayant pour effet substantiel de subvertir ou d'altérer l'autonomie, la prise de décision ou le choix d’un utilisateur dans le cadre de ses activités en ligne. Ces techniques sont, par exemple, utilisées pour conduire des utilisateurs à partager toujours plus de données personnelles, à payer plus cher des produits ou services, à les empêcher de résilier des abonnements ou encore à rendre l'exercice de leurs droits plus difficile, voire impossible. Une large littérature démontre que ces dark patterns remplissent plus facilement leurs objectifs lorsqu’ils sont employés sur des applications mobiles, notamment les applications de jeux mobiles. Le contexte d’utilisation desdites applications génère une prise de décision qui repose sur le Système 1 (Kahneman) et des heuristiques, rapide et peu coûteux en termes de coûts cognitifs. Au-delà des conséquences directes visibles à une échelle individuelle, ces techniques participent au renforcement des pratiques de manipulation comportementale généralisées qui interrogent notre rapport collectif au progrès des techniques lorsqu’elles ne sont pas utilisées au profit des humains et questionnent notre contrat social à l’ère numérique. La communication vise  à dresser le panorama du cadre réglementaire encadrant les dark patterns, à identifier ses lacunes, et à proposer des solutions de régulation durable prenant réellement en compte les limites cognitives humaines.

English Abstract: Dark patterns or deceptive patterns could be defined as techniques for deceiving or manipulating users through interfaces that have the substantial effect of subverting or altering a user's autonomy, decision-making or choice as part of its online activities. These techniques are, for example, used to lead users to share ever more personal data, to pay more for products or services, to prevent them from canceling subscriptions or to make it more difficult to exercise their rights, or even impossible. A large literature demonstrates that these dark patterns more easily fulfill their objectives when they are used on mobile applications, in particular mobile game applications. The context of use of these applications generates decision-making based on System 1 (Kahneman) and heuristics, which is fast and inexpensive in terms of cognitive costs. Beyond the direct consequences visible on an individual scale, these techniques contribute to the reinforcement of generalized behavioral manipulation practices that question our collective relationship to the progress of techniques, when they are not used for humans’ best interests, and question our social contract in the digital age. The communication aims to provide an overview of the regulatory framework governing dark patterns, to identify its shortcomings, and to propose sustainable regulatory solutions that really take human cognitive limits into account.

Note: Downloadable document is in French.

Keywords: Dark patterns, Deceptive patterns, Fair pattern, UX Design, Human Centered Interaction Design (HCID), Behavioural Economics, Cognitive Bias, Law & Economics, Legal Design, Privacy Law, Consumer Protection Law

Suggested Citation

Marie, Potel-Saville and Lechevalier, Fabien, Comment les dark patterns manipulent nos usages mobiles? Proposition de régulation pour un digital durable et centré sur l’humain. (How Do Dark Patterns Manipulate Our Mobile Uses? Regulation Proposal for Sustainable and Human-centered Digital.) (September 1, 2023). in Tchehouali, D. Randrianasolo, H. Ledjou, J-M. (dir.) Nouveaux enjeux liés aux usages des applications et des services mobiles : Quelles opportunités et quels risques ?, ACFAS Symposium, 2023., Available at SSRN: https://ssrn.com/abstract=4652956

Potel-Saville Marie

Amurabi, legal innovation by design ( email )

Fabien Lechevalier (Contact Author)

University of Paris-Saclay ( email )

55 Avenue de Paris
Versailles, 78000
France

Do you have negative results from your research you’d like to share?

Paper statistics

Downloads
52
Abstract Views
136
Rank
675,909
PlumX Metrics