Revista da EMERJ - V.25 - n.1 - Janeiro/Abril - 2023

 R. EMERJ, Rio de Janeiro, v. 25, n. 1, p. 105-129, Jan.-Abr. 2023  123 Ao mesmo tempo, quanto mais projeção e controle sobre os perfis dos cidadãos um Estado possui, mais ele se direciona a al- cançar um estado de potencial violação de direitos civis quando as bases democráticas começam a ser ruídas ou quando são efetiva- mente destruídas. Nesse sentido, nem toda a ausência de norma com real eficácia na tutela de direitos significa uma dificuldade do poder público em tratar um tema. Pode ser uma estratégia para que as violações de direito aconteçam sob o olhar complacente do Estado, a fim de beneficiar os interesses particulares de alguns. Concluiu-se com a revisão da literatura da área que mes- mo nas sociedades mais evoluídas tecnologicamente, verifica-se que a inteligência artificial pode ser utilizada para (re)produzir graves violações a direitos, potencializando a estigmatização, a coisificação e a instrumentalização do ser humano. Conforme demonstrado neste artigo, as correlações e as causalidades esta- belecidas entre dados objetivos, subjetivos, sensíveis ou inferi- dos oportunizam graves lesões aos direitos. Há de se pensar no desenvolvimento de algoritmos que promovam a inovação, mas que ao mesmo tempo respeitem os valores e os direitos fundamentais, assim como atendam aos princípios éticos. Ainda, com a possibilidade da determinação da responsabilidade pelo que se conclui e efetiva e nos quais haja transparência sobre as regras de processamento. Não raro, as conclusões algorítmicas – seja pela inconsis- tência de dados, pelos dados enviesados ou pelo direcionamento tendencioso da codificação, entre outras situações – fundamen- tammuitas das atuações estatais violadoras de direitos (perpetra- das diretamente pelo Estado ou pelos agentes que a ele respon- dem). Conforme demonstrado, alguns dos algoritmos usados na persecução penal norte-americana se utilizam de dados das bases imensas dos sistemas de dados dos diferentes órgãos do país, e dos processos judiciais, para apoiar ou, ainda, substituir a tomada de decisão humana na persecução penal. Algumas daquelas ferramentas permitem concluir pela concessão de liberdade ao indivíduo, analisando elementos como