Análise crítica da Proposta de Regulamento sobre Inteligência Artificial: considerações sobre os sistemas de identificação biométrica em especial (Critical Analysis of the Proposal for a Regulation on Artificial Intelligence: Considerations Particularly Regarding Biometric Identification Systems)

26 Pages Posted: 21 Apr 2023

See all articles by Maria João Vaz

Maria João Vaz

Independent

Eva Sónia Moreira da Silva

University of Minho - School of Law

Pedro Miguel Freitas

Independent

Patrícia Sousa Borges

University of Minho - Research Centre for Justice and Governance (JusGov)

Date Written: April 16, 2023

Abstract

Portuguese Abstract:
A Inteligência Artificial (IA) está presente em todos os aspetos da nossa vida até nos mais triviais. Desde o momento em que surgiu até aos dias de hoje, a sua evolução é notável e conduziu a resultados e descobertas extremamente valiosas para a vida em sociedade. Contudo a sua rápida evolução trouxe consigo novos e significativos riscos para os direitos e liberdades dos cidadãos.
Tendo como ambição promover o desenvolvimento da IA de forma segura, mas também competitiva, o Parlamento Europeu e o Conselho publicaram a 21 de abril de 2021, a Proposta de Regulamento sobre Inteligência Artificial.
A abordagem baseada no risco de utilização dos sistemas de IA, que a Proposta estipulou, deve ser olhada com alguma apreensão, nomeadamente no que aos sistemas de identificação e categorização biométrica concerne.
A Proposta reconhece que tais práticas comportam riscos e podem ser uma ameaça à dignidade dos cidadãos e aos seus direitos como a liberdade de pensamento, de consciência e de religião, mas também de reunião e de associação, ou ainda conduzir a eventuais tratamentos discriminatórios. Apesar de tais preocupações serem reconhecidas na Proposta – e bem – a forma como foram abordadas e as soluções que foram encontradas poderão não se revelar as mais adequadas para garantir uma IA fidedigna.
Assim, embora se reconheça o enorme potencial das tecnologias de IA, o seu desenvolvimento deve ser sempre norteado pelo respeito das liberdades e direitos fundamentais dos cidadãos.
English Abstract:
Artificial Intelligence (AI) is present in all aspects of our lives even in the most trivial ones. From the moment it emerged until today, its evolution is remarkable and has led to extremely valuable results and discoveries for life in society. However, its rapid evolution has brought new and significant risks to the rights and freedoms of citizens. With the ambition to promote the development of AI in a safe but also competitive way, the European Parliament and the Council published on April 21, 2021, the Proposal for a Regulation on Artificial Intelligence. The risk-based approach to the use of AI systems stipulated in the Proposal should be viewed with some trepidation, particularly with regard to biometric identification and categorization systems. The Proposal recognizes that such practices carry risks and may threaten the dignity of citizens and their rights, such as freedom of thought, conscience, and religion, but also freedom of assembly and association, or even lead to possible discriminatory treatment. Although these concerns are rightly acknowledged in the Proposal, the way they have been addressed and the solutions that have been found may not prove to be the most adequate to guarantee a reliable AI. Thus, while the enormous potential of AI technologies is recognized, their development should always be guided by the respect for the fundamental freedoms and rights of citizens.

Keywords: Artificial Intelligence, Biometric Identification and Categorization Systems, Fundamental Rights, Inteligência Artificial, Sistemas de Identificação e Categorização Biométrica, Direitos Fundamentais

Suggested Citation

Vaz, Maria João and Moreira da Silva, Eva Sónia and Freitas, Pedro Miguel and Sousa Borges, Patrícia, Análise crítica da Proposta de Regulamento sobre Inteligência Artificial: considerações sobre os sistemas de identificação biométrica em especial (Critical Analysis of the Proposal for a Regulation on Artificial Intelligence: Considerations Particularly Regarding Biometric Identification Systems) (April 16, 2023). JusGov Research Paper No. 2023-06, Available at SSRN: https://ssrn.com/abstract=4420154 or http://dx.doi.org/10.2139/ssrn.4420154

Eva Sónia Moreira da Silva

University of Minho - School of Law ( email )

Braga, 4700
Portugal

Pedro Miguel Freitas

Independent

Patrícia Sousa Borges

University of Minho - Research Centre for Justice and Governance (JusGov) ( email )

Escola de Direito
Campus de Gualtar
Braga, 4710-057
Portugal

Do you have negative results from your research you’d like to share?

Paper statistics

Downloads
137
Abstract Views
427
Rank
383,338
PlumX Metrics