A influência dos vieses algorítmicos nas decisões de julgamento: o caso do COMPAS

Abstract

O viés algorítmico é uma distorção sistemática que pode ocorrer quando algoritmos são treinados em dados que refletem preconceitos e desigualdades presentes na sociedade. No caso do COMPAS (Correctional Offender Management Profiling for Alternative Sanctions), vieses têm sido identificados, resultando em disparidades nas decisões de julgamento. Nesse contexto, torna-se fundamental analisar a influência dos vieses algorítmicos nas decisões de julgamento, para atenuar ou mitigar os mesmos. Diferentes soluções têm sido propostas, como melhorar os conjuntos de dados utilizados, aumentar a transparência e auditoria dos algoritmos e implementar medidas corretivas. No entanto, a discussão sobre vieses algorítmicos no COMPAS é complexa e controversa, com alguns argumentando que os algoritmos podem levar a decisões mais imparciais, enquanto outros questionam sua objetividade. A análise de conjuntos de dados compilados pela ProPublica revelou evidências de vieses raciais, de gênero e socioeconômicos no COMPAS, reforçando a necessidade de aprimoramentos no sistema. Abordar o viés algorítmico no COMPAS é crucial para ajudar a garantir decisões de julgamento mais justas e equitativas no sistema de justiça criminal.