‘Profilaxias’ de Constitucionalidade para um Direito da Inteligência Artificial em Portugal: em especial, o Episódio dos ‘Moinhos de Medo’ de uma Regulação Omissa e Desproporcional (Constitutionality 'Prophylactics' For a Portuguese Artificial Intelligence Law: In particular, the 'Fear Mils' Episode of an Omissive and Disproportionate Regulation)

Abstract

Portuguese Abstract: A IA ‘ludibria’ os titulares dos dados diariamente. Executa decisões algorítmicas em contornos de colossal opacida-de, exponenciando práticas discriminatórias indiretas. As saídas por estes sistemas correlacionadas intrometem-se constantemente nas esferas de tutela dos dados pessoais, da liberdade, privacidade e segurança que o Direito da UE obstina guarnecer em contornos indeterminados. No plano da regulação, constata-se que o art. 22.º do RGPD é uma mentira técnica. Falseia a natureza proibitiva e restritiva de um regime-exceção assim contemplado para propagan-dear o quimérico progresso tecnológico e a maior competitividade das empresas, se tal ainda for possível ou exequí-vel. Particularmente, em relação tanto a esta norma como ao art. 9.º da CPDHED são suscetíveis de lhes serem assa-cadas incompletudes e imperfeições e, bem assim, inúmeras auxeses axiológico-normativas. Consequentemente, tanto o Presidente da República como o Provedor de Justiça, querendo, poderão suscitar ao Tribunal Constitucional a apreciação da inconstitucionalidade por omissão parcial das “condições aplicáveis ao tratamento automatizado”, prescritas expressamente, a título não exequível por si mesmo, no art. 35., n.º 2 da CRP. Reputando ainda a descon-formidade dos ditames da legalidade contraordenacional do RGPD – no caso da XAI, mesmo em clara preterição do princípio do ne bis in idem – poderá cumulativamente ser decretada a violação do sentido de restrição proporcional, atendendo à intromissão não razoavelmente admissível, mais ainda em Estado de Direito Democrático, sobre o con-teúdo essencial da liberdade de iniciativa económica privada, programaticamente enunciada no art. 61.º desta. Sus-peita-se ainda da derrotabilidade externa e intra-sistemática do postulado exatidão face ao trade-off deste valor diante os corolários transparência e cibersegurança. Como tal, não podia deixar de ser proposta a revogação do insti-tuto previsto no art. 22.º do RGPD numa das próximas versões do Título XII da Proposta de Regulamento relativo à IA, de 21 de abril de 2021. Concluiu-se, em suma, que o Direito da IA dever apoiar-se num quadro principiológico mais determinístico quanto às salvaguardas adequadas, aqui sugerido. Nele, além das inúmeras alternativas ao regi-me legal, defendeu-se uma reforma constitucional que institua como órgão a figura do Provedor dos Algoritmos, este que se munirá de um mecanismo programático ‘do cuidado’ para efetuar uma monitorização ou supervisão artifici-al, nesse sentido, apurando melhor quando e (a quem) deverá ser imputada a responsabilidade contraordenacional correspondente..

English Abstract: Every day, AI deceives the data subjects. With incredible opacity, it carries out algorithmic decisions, exponentiating practices of indirect discrimination. Due to its unclear wording, EU law constantly fails to protect individuals' spheres of data protection, freedom, privacy, and security. Technically, Art. 22 of the GDPR is a falsehood of normative nature. It conceals a prohibition with restrictive essence approved by the EU’s law-making bodies to spread out the illusory technological progress and the increased competitiveness of enterprises. Particularly, Art. 22 of the GDPR and Art. 9 of the PCHRDA may be criticised for needing completion and perfection. It may also be argued that it fosters some axiological-normative exaggerations. Consequently, the President of the Portuguese Republic or the Ombudsman may, if they so intend to, submit to the Constitutional Court an assessment of the partial unconstitutionality founded on the omission of the "terms and conditions applicable to (…) automatised processing", expressly prescribed in Art. 35(2) of the CPR. Also, considering the GDPR non-conformity with the legality dictates - namely, regarding XAI scope, through a clear breach of the ne bis in idem principle - the infringement of the sense of a proportional restriction may be cumulatively declared given the unreasonable intrusion, even more so in a Democratic State, over the essential content of the freedom of private initiative, programmatically enshrined in Art. 61 of the CPR. Moreover, given the trade-off between transparency and cybersecurity corollaries, legal practitioners may still need more clarity on the accuracy postulate's external and intra-systemic defeasibility. As such, we suggest that future versions of Title XII of the proposed AI Act, of April 21, 2021, could repeal the regime enforced by Article 22 of the GDPR. This paper concluded that the AI Law should be built upon more deterministic engineering-guided matrices, mainly to provide adequate and feasible safeguards to the data subjects, as suggested. The list presented, among other alternatives to the legal regime amendment, proposes a constitutional reform establishing the role of the so-called Algorithm Ombudsman as an organ. This institution would support its activity based on a "Wariness Algorithm", performing artificial supervision, hence, giving automated insights into what circumstances and to whom the administrative fines should be applied.

Note: Downloadable document is in Portuguese.

Keywords: AI-based Algorithmic Decisions, Defeasibility, Legality of the Administrative Fine Infringement Proportionality Unconstitutionality by Omission