INTELIGÊNCIA ARTIFICIAL E A DISCRIMINAÇÃO ALGORÍTMICA:
UMA ANÁLISE DO CASO AMAZON
Palavras-chave:
Amazon, Discriminação Algorítmica, Inteligência Artificial, Regulamentação, ViésResumo
Este artigo analisa a questão da discriminação algorítmica no contexto da inteligência artificial (IA), com foco em relato de caso ocorrido com a empresa Amazon. Ressalta-se como algoritmos de IA podem inadvertidamente perpetuar preconceitos e viéses, afetando grupos minoritários da sociedade. O estudo aborda como o algoritmo de contratação da Amazon, favoreceu candidatos do sexo masculino em detrimento às candidatas do sexo feminino. A análise destaca a importância de treinar e ajustar algoritmos de IA para evitar discriminação e preconceito, enfatizando a necessidade de maior supervisão humana e regulamentação para garantir a equidade na implementação de IA em ambientes empresariais. Em termos científicos, o estudo fez uso do método revisão de literatura, consultando doutrina e jurisprudência nacional e estrangeira, para entender quais são os desafios éticos da IA. Os resultados revelaram que a discriminação algorítmica é significativamente afetada pela qualidade dos dados de treinamento e pelas suposições incorporadas nos algoritmos. Um exemplo notável é o caso da Amazon, onde um sistema de classificação de currículos foi treinado com dados que refletiam a predominância masculina na indústria tecnológica. Isso resultou em um viés contra candidatas mulheres.
Downloads
Referências
ADAMS-PRASSL, Jeremias, et al. “Directly Discriminatory Algorithms”. The Modern Law Review, vol. 86, no 1, 2023, p. 144–175, doi:10.1111/1468-2230.12759.
CAON, Felipe. A discriminação algorítmica é a mais nova forma de opressão. Consultor Jurídico, 11 de novembro de 2021, Disponível em: https://www.conjur.com.br/2021-nov-11/caon-discriminacao-algoritmica-forma-opressao/. Acesso em: 07 jan. 2023.
CITRON, Danielle Keats; PASQUALE, Frank. The scored society: Due process for automated predictions. Wash. L. Rev., v. 89:1, 2014.
COSTA, Raquel Lima da. Divisão sexual do trabalho e a posição imposta a mulher na sociedade capitalista. 2019. 31f. Monografia (Graduação em Serviço Social) - Universidade Federal do Rio Grande do Norte, Centro de Ciências Sociais Aplicadas, Departamento de Ciência da Informação, Natal, RN, 2019. Disponível em: https://antigo.monografias.ufrn.br/jspui/handle/123456789/8932. Acesso em: 07 jan. 2023.
DASTIN, Jeffrey. “Amazon scraps secret AI recruiting tool that showed bias against women”, Reuters, 10 outubro. (2018) Disponível em: https://www.reuters.com/article/us-amazon-com-jobs-automation-insight-idUSKCN1MK08G. Acesso em: 18 out. 2023.
DICIONÁRIO AURELIO, “Discriminação”. Dicio, Disponível em: https://www.dicio.com.br/discriminacao/. Acesso em: 4 out. 2023.
FRAZÃO, Ana. Discriminação algorítmica: para que fins e como devem ser julgadas as pessoas?. JOTA, 11 de agosto de 2021, Disponível em: https://www.jota.info/opiniao-e-analise/artigos/discriminacao-algoritmica-para-que-fins-e-como-devem-ser-julgadas-as-pessoas-11082021/amp. Acesso em: 12 jan. 2023.
GODOY, Sandro Marcos. A mulher e o direito do trabalho: a proteção e a dimensão constitucional do princípio da igualdade. São Paulo: Boreal, 2015.
GOODMAN, Bryce W. Economic Models of (Algorithmic) Diserimination. 29th Conference on Neural Information Processing Systems, Barcelona, Spain, 2017.
KEARNS, Michael. ROTH, Aaron. "The Ethical Algorithm", Oxford University Press, New York, 2020. ISBN: 13 9780190948207.
LINDOSO, Maria Cristine Branco. Discriminação de gênero em processos decisórios automatizados. Dissertação - Faculdade de Direito, Universidade de Brasília. Brasília. 2019. Disponível em: https://repositorio.unb.br/bitstream/10482/38524/1/2019_MariaCristineBrancoLindoso.pdf. Acesso em: 4 out. 2023.
MACHADO, Anderson Fraiha; MENDES, Leilani Dian; GARCEZ, Lucas Nogueira. Introdução à Arquitetura e Engenharia Jurídica com Lawtex. São Paulo: Looplex, 2018.
MACHADO, Lia Zanotta. Perspectivas em Confronto: Relações de Gênero ou Patriarcado Contemporâneo. Brasília: Serie Antropológica. V. 284, 2000. Disponível em http://dan.unb.br/images/doc/Serie284empdf.pdf. Acesso em: 4 out. 2023.
MUNANGA, Kabengele; GOMES, Nilma Lino. Racismo, discriminação racila e ações afirmativas: a sociedade atual. In O Negro no Brasil de hoje. São Paulo: Global. 2006. Págs. 171-197.
NASCIMENTO, Amauri Mascavo. Iniciação ao Direito do Trabalho. Imprenta, 2003.
PINHEIRO, Patricia Peck – Proteção de Dados Pessoais – Comentários à Lei nº 13.709/2018 (LGPD), 1º ed. Saraiva; São Paulo, 2018.
ROSSI, Giovana. A culpabilização da vítima no crime de estupro: os estereótipos de gênero e o mito da imparcialidade jurídica. – 1. ed. – Florianópolis: Empório do Direito, 2016.
ROSSI, Giovana. A culpabilização da vítima no crime de estupro: os estereótipos de gênero e o mito da imparcialidade jurídica. Florianópolis-SC: Editora Empório do Direito, 2016.
SHIPPERS, Laurianne-Marie. Algoritmos que discriminam: uma análise jurídica da discriminação no âmbito das decisões automatizadas e seus mitigadores. Monografia - Escola de Direito de São Paulo, Fundação Getúlio Vargas. São Paulo. 2020.
TACCA, Adriano. ROCHA, Leonel Severo. Inteligência Artificial: Reflexos no sistema do direito. Nomos, v. 38.2, p. 53-68, 2018. Disponível em: http://periodicos.ufc.br/nomos/article/view/20493. Acesso em: 01 nov. 2023.
TRASLAVIÑA, Carlos Mauricio Galvis. Introducción a la biometría. 2007. Disponível em: https://www.academia.edu/9374109/Introduccion_a_la_biometr%C3%ADa. Acesso em: 11 nov. 2023.
UOL NOTÍCIAS; PORTAL DE NOTÍCIAS DA AGÊNCIA REUTERS. Você está demitido! Amazon abandona robô recrutador que virou machista. Por Jeffrey Dastin, traduzido pelo portal UOL. Disponível em: https://noticias.uol.com.br/tecnologia/noticias/reuters/2018/10/11/voceesta-demitido-amazon-abandona-robo-recrutador-que-virou-machista.htm. Acesso em: 10 jan. 2024.
URWIN, Richard. Artificial Intelligence: The Quest for the Ultimate Thinking Machine. London: Arcturus, 2016.
VAINAPEL, S. et al. (2015) “The dark side of gendered language: The masculine-generic form as a cause for self-report bias”, Psychological assessment, 27(4), p. 1513–1519. doi: 10.1037/pas0000156. Disponível em https://pubmed.ncbi.nlm.nih.gov/25984637/. Acesso em: 14 nov. 2023.
VIANA, Guilherme Manoel de Lima. DESIGUALDADE NA ERA DIGITAL: COMO A DISCRIMINAÇÃO ALGORÍTMICA AFETA OS TRANSEXUAIS. Inova Jur, [S. l.], v. 2, n. 1, 2023. Disponível em: https://revista.uemg.br/index.php/inovajur/article/view/7534. Acesso em: 6 set. 2023.
