Innovation and fundamental rights

a critical appraisal of Brazil’s AI Regulation Bill no. 2338/2023

Authors

DOI:

https://doi.org/10.63451/gyyfnd87

Keywords:

Artificial Intelligence, Fundamental Rights, Civil Liability

Abstract

This paper provides a critical examination of Legislative Proposal No. 2.338/2023, as an emerging regulatory framework for Artificial Intelligence (AI) in Brazil. The central objective is to assess the extent to which the legislative proposal is capable of balancing, in a legally consistent manner, the imperative of technological innovation with the effective protection of fundamental rights, particularly in relation to privacy, non-discrimination, and due process of law. Methodologically, the study employs an analytical-critical approach, confronting the risk-based model adopted by the bill with categories of rights infringements previously identified in scholarly literature and in comparative regulatory experiences. The analysis of specific provisions—most notably those concerning transparency, impact assessments, bias mitigation, and civil liability—reveals significant progress, including the adoption of a strict liability regime and the incorporation of principles of algorithmic governance. Nevertheless, it also exposes important shortcomings, such as the conceptual indeterminacy surrounding “high-risk” systems, the fragility of auditing mechanisms, and the exceptional authorization for biometric surveillance in public spaces. It is concluded that, although Bill No. 2.338/2023 constitutes a meaningful step toward democratic regulation of AI, its normative effectiveness will depend on overcoming such ambiguities and introducing stronger safeguards to ensure effective redress and to prevent practices that may undermine the public sphere and the essential core of fundamental rights.

Downloads

Download data is not yet available.

Author Biographies

  • Carlos Roberto Weber Sobrinho, Faculdade Imaculada Conceição do Recife

    Professor de Medicina Tropical - UFPE, graduando em Direito. E-mail: carlos.sobrinho@ufpe.br. Lattes: http://lattes.cnpq.br/2327087430076889.

  • Lucas Gondim Chaves Regis, Faculdade Imaculada Conceição do Recife

    Advogado, Mestre e Doutorando em Direito pela Universidade Católica de Pernambuco – UNICAP. E-mail: lucasgchaves@gmail.com. Lattes: http://lattes.cnpq.br/8252151327151375.

References

ARAÚJO, Vera Dias de. Responsabilidade em razão do risco da atividade. Rio de Janeiro: Escola da Magistratura do Estado do Rio de Janeiro – EMERJ, 2012. Artigo científico apresentado como exigência do Curso de Pós-Graduação lato sensu em Direito do Consumidor e Responsabilidade Civil. Disponível em: https://emerj.tjrj.jus.br/files/pages/revistas/direito_do_consumidor_e_responsabilidade_civil/edicoes/n1novembro2012/pdf/VeraDiasdeAraujo.pdfhttps://emerj.tjrj.jus.br/files/pages/revistas/direito_do_consumidor_e_responsabilidade_civil/edicoes/n1novembro2012/pdf/VeraDiasdeAraujo.pdf . Acesso em: 11 jul. 2025.

BAROCAS, Solon; SELBST, Andrew D. Big Data’s Disparate Impact. California Law Review, v. 104, n. 3, p. 671–732, 2016. Disponível em: https://doi.org/10.15779/Z38BG31. Acesso em: 05 ago. 2025.

BARROSO, Luís Roberto; MELLO, Patrícia Perrone Campos. Inteligência artificial: promessas, riscos e regulação. Algo de novo debaixo do sol. Revista Direito e Práxis, Rio de Janeiro, v. 15, n. 4, p. 1-45, 2024. Disponível em: https://doi.org/10.1590/2179-8966/2024/84479. Acesso em: 01 ago. 2025.

BRASIL. [Constituição (1988)]. Constituição da República Federativa do Brasil de 1988. Brasília, DF: Presidência da República, [2023].

BRASIL. Projeto de Lei nº 2.338, de 2023. Dispõe sobre o desenvolvimento, o fomento e o uso ético e responsável da inteligência artificial com base na centralidade da pessoa humana. Brasília: Congresso Nacional, 2025. Disponível em: https://www.camara.leg.br/proposicoesWeb/fichadetramitacao?idProposicao=2366532 . Acesso em: 12 abr. 2025.

BRESNAHAN, Timothy F.; TRAJTENBERG, Manuel. General Purpose Technologies: Engines of Growth? Journal of Econometrics, v. 65, n. 1, p. 83-108, 1995. DOI: 10.1016/0304-4076(94)01598-T. Disponível em: https://www.sciencedirect.com/science/article/pii/030440769401598T. Acesso em: 20 ago. 2025.

CAPPI, Cyril; CHAPDELAINE, Camille; GARDES, Laurent; JENN, Eric; LEFÈVRE, Baptiste; PICARD, Sylvaine; SOUMARMON, Thomas. Dataset Definition Standard (DDS). arXiv:2101.03020 [cs.DB], p. 1-12, jan. 2021. Disponível em: https://arxiv.org/pdf/2101.03020 . Acesso em: 01 ago. 2025.

CHOWDHURY, Shamsul; DAS, Ananya; RAHMAN, Md. Mahmudur; SARKER, Tanjina; HOSSAIN, Md. Monir; AKTER, Farzana. Artificial intelligence in education, healthcare, and creative economy: opportunities and challenges. Journal of Digital Innovation and Emerging Technologies, v. 3, n. 1, p. 1-15, 2025. Disponível em: https://www.genesispcl.com/wp-content/uploads/CSER-Vol-2-I-1-p-19-31.pdf . Acesso em: 20 ago. 2025.

CINELLI, Matteo; DE FRANCISCI MORALES, Gianmarco; GALEAZZI, Alessandro; QUATTROCIOCCHI, Walter; STARNINI, Michele. Echo chambers on social media: A comparative analysis. Proceedings of the National Academy of Sciences, v. 118, n. 9, p. 1-8, 2021. Disponível em: https://arxiv.org/pdf/2004.09603 .Acesso em: 17 jun. 2025.

CORREIA, Tamires Partélli; MENDES, Éber Lopes; SILVA, Sheldon William; MELO, Tuane Ferreira. Tecnologia e produção agrícola: uma interface promissora e de gestão. Agriculturae, v. 5, n. 1, p. 20-27, jan./jun. 2023. Disponível em: https://cognitionis.inf.br/index.php/agriculturae/article/view/224/188 . Acesso em: 05 jul. 2025.

COSTA, Lívia Trucharte. As novas regulações da inteligência artificial: considerações acerca do PL nº 2.338/2023 sob a luz do EU AI ACT e o modelo “risk based”. 2024. 98 f. Trabalho de Conclusão de Curso (Graduação em Direito) – Escola de Direito, Fundação Getúlio Vargas, São Paulo, 2024.

CRAWFORD, Kate; SCHULTZ, Jason. Big Data and Due Process: Toward a Framework To Redress Predictive Privacy Harms. Boston College Law Review, v. 55, n. 1, p. 93-128, 2014. Disponível em: https://bclawreview.bc.edu/articles/620/files/63ae71f65c8fc.pdf . Acesso em: 08 abr. 2025.

DIVINO, Sthéfano Bruno Santos. Inteligência artificial, danos e responsabilidade: da tutela ética à tutela jurídica. Revista Brasileira de Direito Civil, Belo Horizonte, v. 33, n. 3, p. 45-77, jul./set. 2024. Disponível em: https://rbdcivil.ibdcivil.org.br/rbdc/article/view/967/692 . Acesso em: 11 jul. 2025.

EMMERT-STREIB, Frank. From the Digital Data Revolution Toward a Digital Society: Pervasiveness of Artificial Intelligence. MAKE, v. 3, n. 1, p. 284-298, mar. 2021. Disponível em: https://doi.org/10.3390/make3010014 . Acesso em: 06 mai. 2025.

FILHO, Douglas Luis Binda; ZAGANELLI, Margareth Vetis. Responsabilidade civil e inteligência artificial: quem responde por danos ocasionados por sistemas inteligentes autônomos? Revista de Direito, Tecnologia e Inovação, v. 3, n. 1, p. 1-25, 2021. Disponível em: https://ojs.revistadcs.com/index.php/revista/article/view/2805/2191 . Acesso em: 11 jul. 2025.

FREITAS, L. L. Qual o Impacto da Inteligência Artificial no Meio Ambiente?. Software Mata Nativa, 2023. Disponível em: https://matanativa.com.br/__trashed/. Acesso em: 11 ago. 2025.

GODINHO, Robson Renault. A distribuição do ônus da prova na perspectiva dos direitos fundamentais. Revista do Ministério Público. Rio de Janeiro: MPRJ, n. 26, p. 233-251, jul./dez. 2007. Disponível em: https://www.mprj.mp.br/documents/20184/2740997/Robson_Renault_Godinho.pdf . Acesso em: 05 de jul. 2025.

GOODFELLOW, I.; BENGIO, Y.; COURVILLE, A. Deep Learning. Cambridge: MIT Press, 2016. Disponível em: https://www.deeplearningbook.org/ . Acesso 03 ago. 2024.

GOODMAN, B.; FLAXMAN, S. European Union regulations on algorithmic decision-making and a “right to explanation”. AI Magazine, v. 38, n. 3, p. 50–57, 2017. Disponível em: https://doi.org/10.1609/aimag.v38i3.2741. Acesso 03 ago. 2024.

GOSAIN, Trisha; BHATIA, Kavya; SHARMA, Rashi. et al. Artificial Intelligence and the Privacy Paradox: Challenges and Opportunities in Legal Adaptations. Educational Administration: Theory and Practice, v. 30, n. 5, p. 10384–10394, 2024. Disponível em: https://ijsra.net/sites/default/files/IJSRA-2024-2510.pdf . Acesso em: 18 jul. 2025.

JOH, Elizabeth E. The New Surveillance Discretion: Automated Suspicion, Big Data, and Policing. Harvard Law & Policy Review (forthcoming), 2015. UC Davis Legal Studies Research Paper No. 473. Disponível em: https://ssrn.com/abstract=2680266. Acesso em: 14 jul. 2025.

KAMINSKI, Margot E. The Right to Explanation, Explained. Berkeley Technology Law Journal, v. 34, n. 1, p. 189–218, 2019. Disponível em: https://doi.org/10.15779/Z38TD9N83H. Acesso em: 15 ago. 2025

LINDOSO, Maria Cristine Branco. O processo decisório na era do Big Data: como novos mecanismos de processamento de dados através de algorítmos interferem nas tomadas de decisão. In: FERNANDES, Ricardo Vieira de Carvalho; CARVALHO, Angelo Gamba Prata de (Coord.). Tecnologia jurídica & direito digital: II Congresso Internacional de Direito, Governo e Tecnologia – 2018. Belo Horizonte: Fórum, 2018. p. 367-381. ISBN 978-85-450-0584-1.

MELO, Gustavo da Silva. Inteligência artificial e responsabilidade civil: uma análise do anteprojeto do Marco Legal da Inteligência Artificial e do Projeto de Lei 2338/2023. Revista IBERC, v. 7, n. 1, p. 49-65, jan./abr. 2024. Disponível em: https://doi.org/10.37963/iberc.v7i1.271. Acesso em: 12 jul. 2023.

NOBLE, S. U. Algorithms of Oppression: How Search Engines Reinforce Racism. New York: New York University Press, 2018. Disponível em: https://files.commons.gc.cuny.edu/wp-content/blogs.dir/6105/files/2019/01/SAFIYA-NOBLE.pdf . Acesso em: 03 jun. 2025.

OLIVEIRA, Allen Kardec Feitosa; REIS, Rafael Fernando Mendes. Inteligência Artificial e o princípio da eficiência administrativa: o sistema Sapiens como instrumento de auxílio eficiente à advocacia pública. Revista da PGE-MS, Campo Grande, MS, n. 19, p. 11-27, 2023. Disponível em: https://www.pge.ms.gov.br/wp-content/uploads/2023/12/Revista-PGE-19-Allen.pdf. Acesso em: 04 ago. 2025.

PAPAKYRIAKOPOULOS, Orestis; HEGELICH, Simon; SHAHREZAYE, Morteza; MEDINA SERRANO, Juan Carlos. Social media and microtargeting: political data processing and the consequences for Germany. Big Data & Society, v. 5, n. 2, p. 1-15, jul./dez. 2018. Disponível em: https://doi.org/10.1177/2053951718811844. Acesso em 02 ago. 2025.

PASQUALE, F. The Black Box Society: The Secret Algorithms That Control Money and Information. Harvard University Press, 2015.

PECEGO, Daniel Nunes; TEIXEIRA, Raphael Lobato Collet Janny. Inteligência Artificial no Judiciário: da opacidade à explicabilidade das decisões judiciais. Revista da Faculdade de Direito da UERJ, Rio de Janeiro, n. 43, p. 1-22, 2024. Disponível em: https://doi.org/10.12957/rfd.2024.87850. Acesso em: 05 mai. 2025.

PEREIRA, Caio Mario da Silva. Instituição de Direito Civil. 11. ed. Rio de Janeiro:Forense,2000, p.391.

RIBEIRO, Antônio H.; RIBEIRO, Manoel Horta; PAIXÃO, Gabriela M. M.; OLIVEIRA, et al. Automatic diagnosis of the 12-lead ECG using a deep neural network. Nature Communications, v. 11, n. 1, article 1760, 2020. DOI: 10.1038/s41467-020-15432-4. Disponível em: https://www.nature.com/articles/s41467-020-15432-4.pdf. Acesso em: 01 jun. 2025.

SELBST, Andrew D. An institutional view of algorithmic impact assessments. Harvard Journal of Law & Technology, v. 35, p. 117-192, 2021. UCLA School of Law, Public Law Research Paper n. 21-25. Disponível em: https://ssrn.com/abstract=3867634. Acesso em: 03 mai. 2025.

SENGAR, Sandeep Singh; HASAN, Affan Bin; KUMAR, Sanjay. et al. Generative artificial intelligence: a systematic review and applications. Multimedia Tools and Applications, v. 84, p. 23661-23700, 2025. Disponível em: https://link.springer.com/article/10.1007/s11042-024-20016-1 . Acesso em: 20 ago. 2025.

SILVA, Luana Nunes da. Transformando a Saúde com Big Data e Inteligência Artificial: Uma Análise Abrangente. 2024. 48 f. Trabalho de Conclusão de Curso (Graduação em Engenharia Biomédica) – Universidade Federal de Pernambuco, Recife, 2024.

SIQUEIRA, Dirceu Pereira; LARA, Fernanda Corrêa Pavesi. Quarta revolução industrial, inteligência artificial e a proteção do homem no direito brasileiro. Revista Meritum, Belo Horizonte, v. 15, n. 4, p. 300-311, 2020. Disponível em: https://revistas.pucminas.br/index.php/meritum/article/view/8223 . Acesso em: 10 jun. 2025.

SOBRINHO, Hananda de Freitas; DIAS, Taciana de Lemos; GIANORDOLI, Victor. Inteligência Artificial: desafios da administração pública para capacitar os servidores no uso de IA. Aracê, São José dos Pinhais, v. 7, n. 5, p. 22289-22321, 2025. DOI: 10.56238/arev7n5-081. Disponível em: https://periodicos.newsciencepubl.com/arace/article/download/4880/6817/19303. Acesso em: 08 jul. 2025.

VEALE, M.; BORGESIUS, F. Z. Demystifying the Draft EU Artificial Intelligence Act. Computer Law & Security Review, v. 44, p. 105-152, 2021. Disponível em: https://papers.ssrn.com/sol3/papers.cfm?abstract_id=3896852. Acesso em: 15 ago. 2025.

WACHTER, Sandra; MITTELSTADT, Brent; FLORIDI, Luciano. Why a right to explanation of automated decision-making does not exist in the General Data Protection Regulation. International Data Privacy Law, [s. l.], 28 dez. 2016. Disponível em: https://doi.org/10.2139/ssrn.2903469. Acesso em: 03 mai. 2025.

WERNER, Deivid Augusto. A Quarta Revolução Industrial e a Inteligência Artificial: um estudo sobre seus conceitos, reflexos e possível aplicação no Direito. 2019. 211 f. Dissertação (Mestrado em Direito) – Universidade do Vale do Rio dos Sinos – UNISINOS, Porto Alegre, 2019.

XIONG, Haoyi; WANG, Shuo; ZHAO, Zhengyu; YANG, Yi; CHEN, Yiqi; SUN, Yizhou; YU, Philip S.; YANG, Qiang. Converging paradigms: the synergy of symbolic and connectionist AI in LLM-empowered autonomous agents. 2024. Disponível em: https://arxiv.org/pdf/2407.08516v1 . Acesso em 01 ago 2025.

ZULIANE, Mateus; RACHID, Raquel; FORNAZIN, Marcelo. Digital Health in the Brazilian National Health System (SUS). Interface – Comunicação, Saúde, Educação, Botucatu, SP, v. 28, e230597, 2024. Disponível em: https://www.scielosp.org/article/icse/2024.v28/e230597/en/. Acesso em: 15 ago. 2025.

Published

2026-11-17

Issue

Section

Artigos

How to Cite

WEBER SOBRINHO, C. R.; REGIS, L. G. C. Innovation and fundamental rights: a critical appraisal of Brazil’s AI Regulation Bill no. 2338/2023. Direito & TI, v. 2, n. 23, p. 1–26, 17 Nov.2026.

Similar Articles

1-10 of 147

You may also start an advanced similarity search for this article.