Racismo algorítmico, reforço de preconceitos e uso de IA: perspectivas e desafios para a investigação criminal digital
Boletim IBCCRIM
Racismo algorítmico, reforço de preconceitos e uso de IA: perspectivas e desafios para a investigação criminal digital
Autor Correspondente: Dr. Franco Perazzoni | [email protected]
Palavras-chave: Racismo Algorítmico, Inteligência Artificial, Investigação Criminal Digital, Desafios Tecnológicos na Justiça, Preconceitos e Estigmas
Resumos Cadastrados
Resumo Português:
Este artigo explora a dualidade da inteligência artificial (IA) no campo da investigação criminal, destacando tanto o seu potencial transformador como os desafios significativos que apresenta, especialmente no que diz respeito ao reforço de preconceitos e à emergência do racismo algorítmico. Com a crescente adoção de sistemas de IA, torna-se imperativo direcionar esses avanços tecnológicos para o reforço dos princípios democráticos, examinando criticamente as perspectivas de utilização da IA pela polícia. Este trabalho tem como objetivo identificar e analisar manifestações de racismo algorítmico e preconceitos reforçados por tecnologias de IA na investigação criminal. Ao abordar essas questões, procura contribuir para o debate sobre como superar esses desafios, promovendo uma prática investigativa que respeite e proteja os direitos fundamentais dos indivíduos, ao mesmo tempo que aproveita os benefícios da inovação tecnológica.
Resumo Inglês:
This article explores the duality of artificial intelligence (AI) in the field of criminal investigation, highlighting both its transformative potential and the significant challenges it presents, especially regarding the reinforcement of biases and the emergence of algorithmic racism. With the increasing adoption of AI systems, it becomes imperative to direct these technological advancements towards reinforcing democratic principles, critically examining the perspectives of police use of AI. This work aims to identify and analyze manifestations of algorithmic racism and biases reinforced by AI technologies in criminal investigation. By addressing these issues, it seeks to contribute to the debate on how to overcome these challenges, promoting an investigative practice that respects and protects individuals’ fundamental rights while harnessing the benefits of technological innovation.
