Racial bias in artificial intelligence systems challenges for civil liability and the need for risk parameterization

Article Sidebar

PDF (Português (Brasil))
Published: Jun 29, 2023
DOI: https://doi.org/10.37963/iberc.v6i2.237
Keywords:
algorithms, artificial intelligence, racial bias, civil liability, risk

Main Article Content

Gustavo Silveira Borges
Universidade do Extremo Sul Catarinense
https://orcid.org/0000-0001-9673-4321
José Luiz de Moura Faleiros Júnior
Universidade de São Paulo
https://orcid.org/0000-0002-0192-2336

Abstract

This article addresses the challenges of civil liability in cases involving wrongdoings related to biased artificial intelligence systems concerning racial matters. It explores the possibility of an algorithm being deemed racist—which is not confirmed in the conclusions—and how this can lead to harm due to the omission of proper data curation, resulting in algorithmic bias. Furthermore, the need for normative parameterization based on risk gradation, in line with the ongoing discussions in the European Union, is discussed. The research adopts a deductive method, relying on bibliographic support and revisiting theoretical concepts. The objective is to reach a conclusion on this problematic issue, considering the preservation of human rights and the challenges presented by the evolution of algorithms and artificial intelligence systems.

Downloads

Download data is not yet available.

Article Details

How to Cite
BORGES, Gustavo Silveira; FALEIROS JÚNIOR, José Luiz de Moura. Racial bias in artificial intelligence systems: challenges for civil liability and the need for risk parameterization. Revista IBERC, Belo Horizonte, v. 6, n. 2, p. 100–128, 2023. DOI: 10.37963/iberc.v6i2.237. Disponível em: https://revista.iberc.org.br/iberc/article/view/237. Acesso em: 16 sep. 2026.
Issue
Vol. 6 No. 2 (2023): Revista IBERC
Section
National Doctrine
Copyright (c) 2023 Revista IBERC
Author Biographies

Gustavo Silveira Borges, Universidade do Extremo Sul Catarinense

Doutor em Direito pela Universidade Federal do Rio Grande do Sul - UFRGS (2013 - CAPES 5), tendo realizado Pós-Doutorado em Direito pela Universidade do Vale do Rio dos Sinos - UNISINOS (2014 - CAPES 6), com bolsa de pesquisa PNPD/CAPES. Mestre em Ciências Criminais pela Pontifícia Universidade Católica do Rio Grande do Sul - PUCRS (2007 - CAPES 5). Especialista em Ciências Penais pela PUCRS). Pós-graduado pela Escola da Magistratura do Rio Grande do Sul - AJURIS. Graduado em Ciências Jurídicas e Sociais pela PUCRS. Atualmente, é Professor da Graduação e Pesquisador permanente do Programa de Pós-Graduação em Direito na Universidade do Extremo Sul Catarinense (PPGD/UNESC). É Coordenador e professor da Especialização em Direito Civil e Processo Civil da UNESC. Pesquisador permanente do Programa de Pós-Graduação em Direito (PPGD/UNESC), vinculado à Linha de Pesquisa Direitos Humanos, Cidadania e Novos Direitos e à Área de Concentração Direitos Humanos e Sociedade. Membro associado do CONPEDI (Conselho Nacional de Pesquisa e Pós-Graduação em Direito). Membro do Instituto Brasileiro de Estudos de Responsabilidade Civil - IBERC. Membro titular da Rede Brasileira de Pesquisa Jurídica em Direitos Humanos (UNESC, UNIRITTER, UNIJUÍ, UFMS, PUC-CAMPINAS, UNIT, UNICAP, CESUPA, UFPA) Parecerista em diversas revistas científicas nacionais e internacionais. Pesquisador do Núcleo de Pesquisas em Direitos Humanos e Cidadania (NUPEC/UNESC). Líder do Grupo de Pesquisa "Direitos Humanos e Novas Tecnologias", sediado na mesma instituição, certificado no CNPq. Avaliador do Curso de Instituições e do curso de Direito pelo INEP/MEC. Membro de bancas examinadoras de concurso público. Participa como Consultor (Policy Advisor) no Supremo Tribunal Federal (STF), do Programa de Combate à Desinformação e como Consultor (Policy Advisor) no Tribunal Superior Eleitoral (TSE), do Programa de Enfrentamento à Desinformação no âmbito da Justiça Eleitoral das Eleições 2022, como líder com o Grupo de Pesquisa "Direitos Humanos e Novas Tecnologias", vinculado à Assessoria Especial de Enfrentamento à Desinformação (AEED). Integrante do "Comitê Nacional PopRuaJud para a promoção de políticas públicas judiciais de atenção às Pessoas em Situação de Rua" no Conselho Nacional de Justiça (CNJ). Consultor (Expert Advisory) no Global Coalition for Digital Safety, no eixo Governance in the Metaverse, do World Economic Forum. Participou do Oxford Global Media Policy Summer Institute no Centre for Socio-Legal Studies da Universidade de OXFORD (OXFORD Faculty of Law). Pesquisador Visitante (Visiting Researcher) do Centre for Socio-Legal Studies da Universidade de Oxford (Oxford Faculty of Law).

José Luiz de Moura Faleiros Júnior, Universidade de São Paulo

Doutorando em Direito Civil pela Faculdade de Direito da Universidade de São Paulo - USP/Largo de São Francisco. Doutorando em Direito, na área de estudo Direito, Tecnologia e Inovação, pela Universidade Federal de Minas Gerais - UFMG. Mestre e Bacharel em Direito pela Universidade Federal de Uberlândia - UFU. Especialista em Direito Digital. Advogado e professor.