Revista da EMERJ - V.25 - n.1 - Janeiro/Abril - 2023

 R. EMERJ, Rio de Janeiro, v. 25, n. 1, p. 105-129, Jan.-Abr. 2023  113 No entanto, ao mesmo tempo em que se aumenta a capa- cidade preventiva e punitiva do Estado, abre-se a possibilidade de se violar o direito dos cidadãos sobre os seus dados pessoais armazenados – com ou sem o seu consentimento – nas bases es- tatais de segurança pública. Outra das várias possibilidades de lesão a direitos está na criação de perfis criminosos que concluam pelo potencial de lesividade de um indivíduo a partir de caracte- rísticas físicas, emocionais e sociais, aumentando-se a atuação do Estado sobre núcleos já estigmatizados ou discriminados numa determinada sociedade. Por esse motivo, é importante que o Estado defina regras por meio de legislação específica para estabelecer legitimidade ao reconhecimento facial na segurança pública. Considerando as amplas consequências sociais das ofensas, as oportunidades de abuso estatal na persecução penal e o desvirtuamento da ação, Shapiro (2019) discorre sobre o tema analisando que sistemas preditivos na persecução penal podem operar sobre as práticas sociotécnicas das autoridades e que essas podem concretizar uma atuação contraditória do Estado ao tentar promover a segu- rança produzindo danos. AComissão Europeia já se manifestou pelo desenvolvimen- to de uma inteligência artificial – com extensibilidade às demais técnicas computacionais modernas de manipulação de dados – dentro da legalidade, projetada e implementada de modo a refle- tir um processamento de dados ético e tecnicamente robusto, que respeite os valores democráticos, os direitos humanos e o Estado de Direito. A inteligência artificial aplicada no reconhecimento facial, cada vez mais utilizada em sistemas de monitoramento e de vigilância em massa, pode ser explorada de maneira a exacer- bar a discriminação. Conforme discorre Barrett (2020): Attempts to infer personal attributes or emotions from someone’s facial expression also invite privacy invasions and discrimination. 87 The long and ugly history of pseudoscien- tific attempts to connect physical appearance to mental and