Revista da EMERJ - V.25 - n.1 - Janeiro/Abril - 2023

 R. EMERJ, Rio de Janeiro, v. 25, n. 1, p. 105-129, Jan.-Abr. 2023  119 Conforme demonstrado, a inteligência artificial permite a reprodução de cenários de discriminação semelhantes aos que se encontram nas sociedades atuais. Os algoritmos de inteligência artificial são comumentemente utilizados em conjunto com ou- tras técnicas que permitem a análise, a extração e a manipulação de imensas quantidades de dados pessoais em segundos, viabi- lizando a concretização de cenários de discriminação individu- al e coletiva, com a possibilidade, ainda, da indeterminação da responsabilização. A seguir, são apresentadas as considerações finais do trabalho, fortalecendo-se a necessidade de se definir e de se efetivar princípios universais no desenvolvimento dos al- goritmos e na utilização das técnicas computacionais a fim de se evitar lesões a direitos. 3 Conclusão A tecnologia tem como característica, decorrente do pró- prio ciclo de desenvolvimento, a projeção de cenários futuros, antecipando-se ao evento não desejado, a fim de se ajustar a co- dificação para evitá-lo. Para tanto, existe a fase de testes. Em di- reção distinta, no Direito, se espera o fato acontecer para então se verificar a incidência da norma. Isso faz com que regras sejam instituídas tardiamente, após o estado fático de lesão de direitos já estar configurado. Quando se trata de matéria computacional – diante da alta capacidade de armazenamento de dados, da velocidade de pro- cessamento, da ampla possibilidade de compartilhamento e da descentralização do controle da informação –, torna-se quase impossível restabelecer às vítimas o estado anterior à lesão aos seus direitos. Pode se ter uma pretensa ideia de controle sobre a propagação do dano, mas não se o tem de fato. Desde que a inteligência artificial começou a ser pensada, algumas décadas atrás, houve um desenvolvimento técnico-cien- de decisão mais abrangentes são testadas (...) onde há poucas expectativas de responsabilidade política e transparência, os sistemas projetados inicialmente para os pobres acabarão sendo usados ​para todos. As pessoas pobres e da classe trabalhadora dos Estados Unidos há muito estão sujeitas à vigilância invasiva, incursões policiais de madrugada e políticas públicas punitivas que aumentam o estigma e as dificuldades da pobreza.” (tradução nossa)