Revista da EMERJ - V.25 - n.1 - Janeiro/Abril - 2023

 R. EMERJ, Rio de Janeiro, v. 25, n. 1, p. 105-129, Jan.-Abr. 2023  124 as dificuldades financeiras, os problemas vocacionais ou educa- cionais, a criminalidade familiar, o meio ambiente, a instabilida- de residencial e a personalidade. Essas situações aumentam o preconceito, a estereotipagem e a vulnerabilidade das pessoas. As possíveis violações de direitos podem levar os indiví- duos a desistir de buscar a efetivação dos seus direitos pelos ris- cos de uma exposição social prejudicial e dos demais resultados danosos decorrentes de um dia terem buscado a tutela jurisdi- cional. Assim, diminui-se a força normativa da Constituição e desacreditam-se as bases do Estado Democrático de Direito, ao mesmo tempo em que o Estado olha de maneira complacente para as violações de direitos e de garantias fundamentais. A potencialidade da inteligência artificial e das demais téc- nicas computacionais modernas de análise, de extração e de ma- nipulação de dados cria um cenário propício para a (re)produção ou para a (re)criação das subjetividades excludentes existentes nas diferentes sociedades, que são transportadas do mundo fáti- co para um contexto algorítmico. Assim, quanto mais disfuncio- nal é uma sociedade na proteção dos direitos das pessoas, maior a probabilidade de que os algoritmos sejam desenvolvidos, aprendam ou expressem resultados compatíveis com a discri- minação praticada na realidade local ou que sejam compatíveis com determinada diferenciação que alguns queiram promover. Essas situações podem aumentar o preconceito, a estere- otipagem e a vulnerabilidade das pessoas na persecução penal. Não se está dizendo que a inteligência artificial ou que qualquer outra técnica é por si mesma um problema, mas que há de se de- terminar que a criação e a exploração de seu uso aconteça dentro de um espaço de respeito aos direitos humanos e de efetivação dos direitos dos indivíduos expressos no ordenamento jurídico pátrio. Para tanto, entende-se que não bastam apenas regramen- tos (leis), é preciso pensar em algo maior, como em princípios universais que pautem todo o ciclo de vida das ferramentas com- putacionais, mas isso é assunto para outro artigo. v