Desvendando viés: mapeamento de processos e ferramentas na detecção de viés e mitigação de viés em modelos de aprendizado de máquina

Abstract

O crescimento e inovação tecnológica em campos da inteligência artificial como o aprendizado de máquina, culminou na implementação desses sistemas em diversas áreas, como : a financeira, de saúde, trabalho, criminal, entre outros. Todavia, após a presença dessas ferramentas em áreas sensíveis da sociedade, questões como equidade e viés ganharam cada vez mais atenção dos desenvolvedores e da mídia como um todo, devido aos possíveis danos que esses sistemas podem acarretar a grupos minoritários, indivíduos e a sociedade em geral. Diante disso, pesquisadores se empenharam para o desenvolvimento de técnicas e ferramentas voltadas para a detecção, medição e mitigação de possíveis vieses em modelos de aprendizado de máquina, a fim de garantir a equidade nesses sistemas. Este trabalho, portanto, pretende revisar os principais meios e ferramentas utilizados para identificar, medir e mitigar viés, através de uma revisão bibliográfica não sistemática. Inicialmente, são apresentados conceitos fundamentais de aprendizado de máquina, bem como a problemática do viés, seguido pela análise e discussão de diferentes métricas de equidade que atendem a necessidades únicas e oferecendo diferentes percepções, sendo elas : Equalized Odds, Equality of Opportunity, Demographic Parity e Disparate Impact. Além disso, são exploradas as seguintes ferramentas: AI Fairness 360 (IBM), Fairlearn (Microsoft) e Aequitas (UChicago), analisando suas funcionalidades e características. Embora as ferramentas possuam pontos semelhantes, a AI Fairness 360 se destaca pela ampla variedade de métricas e algoritmos de mitigação disponíveis, além do suporte a múltiplas linguagens. O Fairlearn disponibiliza interfaces interativas e é capaz de se integrar a diversas bibliotecas do ecossistema Python. Já o Aequitas se destaca por sua facilidade de uso para usuários não técnicos, sendo, entretanto, a única ferramenta dentre as estudadas que não fornece métodos para mitigação de viés.