SYRY:
A MILESTONE IN THE PROTECTION OF HUMAN RIGHTS IN THE AGE OF ARTIFICIAL INTELLIGENCE
Keywords:
Algorithm, Privacy, Judicial Power, Data Protection, BiasesAbstract
In 2020, the use of SyRI was banned by the Dutch court, marking one of the first cases of disruption of an artificial intelligence system to preserve human rights. This article proposes to analyze the aforementioned case, identifying human rights violations during its use, contextualizing such transgressions in light of Brazilian legislation and jurisprudence. Through a deductive methodological approach, employing indirect research based on bibliographic and documentary review, the study analyzes the technology system and, subsequently, the court's verdict. Violated human rights are identified, followed by an analysis of the protection of these same rights in the Brazilian context. In conclusion, it appears that Brazil has legislation and jurisprudence in line with European standards.
Downloads
References
ALGORITHM WATCH. SYRI: A digital welfarestate experiment. 2020 Disponível em: https://algorithmwatch.org/en/syri-netherlands-algorithm/. Acesso em: 31 ago. 2023.
APPELMAN, Naomi; FATHAIGH, Ronan O.; VAN HOBOKEN, Joris. Social Welfare, Risk Profiling and Fundamental Rights: The Case of SyRI in theNetherlands. J. Intell. Prop. Info. Tech. &Elec. Com. L., v. 12, p. 257, 2021.
BEKKER, S. Digital Welfare States: Boundaries and Opportunities. Social Europe. Disponível em: https://www.socialeurope.eu/digital-welfare-states-boundaries-and-opportunities. Acesso em: 31 ago. 2023.
BRASIL. Lei nº 13.709, de 14 de agosto de 2018.Dispõesobre a proteção de dados pessoais e altera a Lei nº 12.965/2014 (Marco Civil da Internet). Diário Oficial da União, Brasília, DF, 15 ago. 2018.
BRASIL. Supremo Tribunal Federal. Ação Direta de Inconstitucionalidade nº 6387 Medida Cautelar-Referendo. Relatora Ministra Rosa Weber. Tribunal Pleno. Julgado em 07/05/2020. Diário da Justiça Eletrônico, nº 270, Divulgação em 11-11-2020, Publicação em 12-11-2020a. Processo Eletrônico.
BRASIL. Medida Provisória nº 954/2020.Dispõe sobre o compartilhamento de dados por empresas de telecomunicações prestadoras de Serviço Telefônico Fixo Comutado e de Serviço Móvel Pessoal com a Fundação Instituto Brasileiro de Geografia e Estatística. Diário Oficial da União, Brasília, DF, 17 abr. 2020b.
EKKER LEGAL. SyRI. 02 de fevereiro de 2020. Disponível em: https://ekker.legal/en/2020/02/02/syri/. Acesso em: 31 ago. 2023.
HOLANDA. HAGUE DISTRICT COURT. Tribunal Distrital de Haia. Número do processo C-09-550982-HA ZA 18-388. Sentença foi proferida pelo Sr. MC Ritsema van Eck-van Drempt, Sr. JS Honée e Sr. HJ van Harten e pronunciada em audiência pública em 5 de fevereiro de 2020. Disponível em: https://uitspraken.rechtspraak.nl/#!/details?id=ECLI:NL:RBDHA:2020:1878. Acesso em: 31 ago. 2023.
HEIKKILÃ, Melissa. DutchScandal Serves as a Warning for EuropeoverRisks of UsingAlgorithms. 29 de março de 2022. Político. Disponível em: https://www.politico.eu/article/dutch-scandal-serves-as-a-warning-for-europe-over-risks-of-using-algorithms/. Acesso em: 31 ago 2023.
HUSSAIN, H. Human Rights Pulse. Dutch Court Finds SYRI Algorithm Violates Human Rights Norms in Landmark Case. Human Rights Pulse. 22 março de 2020. Disponível em: https://www.humanrightspulse.com/mastercontentblog/dutch-court-finds-syri-algorithm-violates-human-rights-norms-in-landmark-case. Acesso em: 31 ago. 2023.
LEITÃO, Rômulo Guilherme; BELCHIOR, Wilson Sales. Diretrizes Regulatórias para sistemas de inteligência artificial: análise documental das iniciativas dos Estados Unidos e União Europeia. Revista Eletrônica Direito e Sociedade-REDES, v. 10, n. 3, p. 187-204, 2022.
MORAIS JÚNIOR, Ricardo Maia de. Accountability e Direito Fundamental à proteção de dados pessoais enquanto limites ao uso da Inteligência Artificial na relação de emprego, 2023. Disponível em: https://www.academia.edu/108390065/Accountability_e_Direito_Fundamental_%C3%A0_prote%C3%A7%C3%A3o_de_dados_pessoais_enquanto_limites_ao_uso_da_Intelig%C3%AAncia_Artificial_na_rela%C3%A7%C3%A3o_de_emprego. Acesso em: 31. ago. 2023.
PARLAMENTO EUROPEU. Carta dos Direitos Fundamentais da União Europeia. 18 de dezembro de 2000. Jornal Oficial das Comunidades Europeias. Disponível em: https://www.europarl.europa.eu/charter/pdf/text_pt.pdf. Acesso em: 31 ago. 2023.
RACHOVITSA, Adamantia; JOHANN, Niclas. The human right simplications of the use of AI in the digital welfarestate: LessonslearnedfromtheDutchSyRI case. Human Rights Law Review, v. 22, n. 2, p. ngac010, 2022.
SARLET, Ingo Wolfgang; SAAVEDRA, Giovani Agostini. Fundamentos jusfilosóficos e âmbito de proteção do direito fundamental à proteção de dados pessoais. Revista Direito Público, Brasília, Volume 17, n. 93, 33-57, maio/jun. 2020.
SIMONITE, T. EuropeLimitsGovernment Use of AI. Wired. Disponível em: https://www.wired.com/story/europe-limits-government-algorithm-us-not-much/?mbid=social_twitter&utm_brand=wired&utm_campaign=wired&utm_medium=social&utm_social-type=owned&utm_source=twitter. Acesso em: 31 ago. 2023.
TOH, Amós. Dutch Ruling a Victory for Rights of the Poor. 06 de fevereiro de 2020. Human Rights Watch. Disponível em: https://www.hrw.org/news/2020/02/06/dutch-ruling-victory-rights-poor. Acesso em: 31 ago. 2023.
TOH, Amós. Welfare Surveillanceon Trial in the Netherlands. Can EuropeMakeIt?.08 de novembro de 2019. Disponível em: https://www.opendemocracy.net/en/can-europe-make-it/welfare-surveillance-trial-netherlands/. Acesso em: 31 ago. 2023.
UNIÃO EUROPEIA. Regulation (EU) 2016/679 (General Data Protection Regulation) do Parlamento Europeu e do Conselho, de 27 de abril de 2016, relativo à proteção das pessoas singulares no que diz respeito ao tratamento de dados pessoais e à livre circulação desses dados, e que revoga a Diretiva 95/46/CE (Regulamento Geral de Proteção de Dados). Disponível em: https://eur-lex.europa.eu/eli/reg/2016/679/oj
. Acesso em: 31 ago. 2023.
VAN BEKKUM, Marvin; BORGESIUS, FrederikZuiderveen. Digital welfare fraud detection and theDutch SyRI judgment. EuropeanJournal of Social Security, v. 23, n. 4, p. 323-340, 2021.
VAN VEEN, Christiaan. Landmark Judgment from the Netherlandson Digital Welfare Statesand Human Rights. 19 de março de 2020. Open Global Rights. Disponível em: https://www.openglobalrights.org/landmark-judgment-from-netherlands-on-digital-welfare-states/. Acesso em: 31 ago. 2023.
VAN VEEN, Christiaan. Profiling the Poor in the Dutch Welfare State. 1º de novembro de 2019. NYU Center for Human Right sand Global Justice. Disponível em: https://chrgj.org/2019/11/01/profiling-the-poor-in-the-dutch-welfare-state/. Acesso em: 31 ago. 2023.
