Revista da EMERJ - V.25 - n.1 - Janeiro/Abril - 2023

 R. EMERJ, Rio de Janeiro, v. 25, n. 1, p. 105-129, Jan.-Abr. 2023  116 mo pode estar estruturado para concluir – ou para direcionar o processo de aprendizagem a concluir – por respostas que carre- gam nelas mesmas a violação de direitos e de garantias. Assim, pode-se direcionar a tomada de decisão para uma determinada resposta que não corresponde ao correto, nem ao que implemen- te as disposições do ordenamento jurídico ou o que efetive os direitos humanos, mas ao desejado por um núcleo num certo contexto, como o político ou o social. No trabalho de Rodríguez (2020), o autor explora algumas ferramentas desenvolvidas com inteligência artificial, que são aplicadas no sistema judiciário da Espanha. O pesquisador mos- tra como uma ferramenta, ao operar sobre parâmetros tenden- ciosos e subjetivos, tende a determinar que indivíduos de uma certa etnia apresentam um maior risco criminal do que indivídu- os de outra. A presença de parâmetros racistas e desiguais torna o processo de decisão uma expressão de discriminação, e não uma ferramenta de concretização ou de promoção da justiça. No momento em que um processo de análise algorítmica é instituído para operar sobre uma base de dados não condizente com a realidade, limitada ou incorreta, provavelmente, a conclu- são a que se chegará será distorcida ou falsa. Isso possibilita a violação de direitos, incluindo a proteção dos dados pessoais, o direito à privacidade e o direito à não discriminação. Uma das maiores preocupações do uso da inteligência ar- tificial no processo de decisão judicial na esfera penal está na substituição da figura do juiz pelo julgamento dos indivíduos por meio de algoritmos e de máquinas sem consciência (Aïmeur, 2021). Isso porque uma sentença não deve ser construída con- substanciada na simples consideração de aspectos objetivos, como a adequação de um fato a uma tipificação pelo teor do evento praticado. A inteligência artificial não tem a sensibilidade humana que permite o processo criativo de capturar a semântica no caso con- creto, de avaliar e imaginar os fatos considerando a complexa rede de detalhes que se escondem nos elementos de sintaxe, motivo