Revista da EMERJ - V.25 - n.1 - Janeiro/Abril - 2023

 R. EMERJ, Rio de Janeiro, v. 25, n. 1, p. 105-129, Jan.-Abr. 2023  115 ferramentas alcançam desde a etapa policial, na identificação, na previsão e na intervenção nos locais com maior probabilidade de acontecerem crimes até a vigilância em tempo real. No tra- balho de Angwin et al . (2016), os autores demonstram como um algoritmo usado para determinar a fiança era mais propenso a classificar acusados afro-americanos como pessoas de alto risco do que os acusados brancos. Uma das realidades que já se verifica é a da discriminação geográfica, quando algumas áreas nas quais são aplicadas téc- nicas de inteligência artificial passam a ser mais monitoradas e controladas do que outras, o que resulta em mais prisões num determinado cenário local. No trabalho de Babuta e Oswald (2019), os autores mostram como a inteligência artificial pode fazer com que pessoas de certas comunidades sejam paradas e revistadas mais frequentemente do que as demais. Em ambos os casos, as pessoas estão sendo privadas dos princípios de justiça, igualdade e equidade. Nos últimos cinco anos, a imprensa também passou divul- gar mais sobre como os algoritmos de aprendizado de máquina e a inteligência artificial podem ser impregnadas dos preconcei- tos dos que desenvolvem os seus algoritmos ou da sociedade no qual ele será aplicado. Nesse sentido, os textos de jornais de Cra- wford (2016); Lohr (2018); WachterBoettcher (2017). Dedica-se uma atenção maior ao processo penal neste tra- balho porque a restrição de liberdade é uma das mais severas penalidades de um sistema judicial. É exatamente na esfera pe- nal que se tem visto o maior investimento estatal e privado no mundo, na criação de bases de dados com informações pessoais assim como no desenvolvimento de técnicas e de ferramentas de tomada de decisão que operem e concluam sobre tais dados, a fim de atingir um determinado objetivo. A dificuldade para se enxergar e questionar a configura- ção explícita da discriminação algorítmica acontece porque tudo isso se desenvolve num contexto de baixa ou quase nenhuma transparência. Isso dificulta a demonstração de como o algorit-