Cada vez mais se utilizam métodos computacionais de automação presentes nas mais diversas esferas da sociedade. De modo que algoritmos têm estado cada vez mais presentes no cotidiano, sendo perceptível uma algoritmização de processos e práticas. Esses algoritmos pretendem automatizar e otimizar processos: nas relações entre indivíduos, meios de comunicação, empresas privadas, organizações não-governamentais, instituições governamentais, entre outros - e todas as possíveis combinações entre esses grupos.
Desde 2002, algoritmos têm sido utilizados por sistemas de justiça das jurisdições de estados dos EUA - em 2013 haviam mais de 60 algoritmos sendo utilizados nos diversos sistemas correcionais dos EUA para calcular reincidência geral (crimes não específicos) em infratores adultos (maiores de 18 anos). Esses algoritmos, conhecidos como algoritmos de avaliação de risco, pretendem diminuir os índices de reincidência, estimando quais infratores têm maior risco de cometer uma futura infração e, assim, demandarem uma maior necessidade de intervenção. O escore final gerado por esses algoritmos é calculado com base em alguns fatores de risco como, por exemplo, saúde mental, comportamento, vizinhança que frequenta, empregabilidade, histórico familiar, uso de substâncias ilícitas, etc. Porém, quase nenhum algoritmo utilizado adiciona ao cálculo final os fatores de prevenção - aqueles que diminuiriam a probabilidade de infração - assim como não consideram fatores de níveis macro.
Métodos de avaliação de risco já eram amplamente utilizados pelo sistema de justiça desde o início do século XX, mas de forma não estruturada - já que, em sua maioria, não havia uma lista de verificação ou protocolo para completar a avaliação de risco. Nos anos 1970, após diversas pesquisas terem identificado fatores que aumentariam o risco de reincidência, há um avanço nessas técnicas de avaliação de risco, mas são baseadas principalmente em variáveis estáticas (sexo, idade e antecedentes criminais). Posteriormente, definida como a terceira geração de avaliação de risco, é adicionado fatores dinâmicos - comportamento e uso de substâncias - aos fatores estáticos, o que atribui um fator de mudança e permite identificar possibilidade de tratamento para os indivíduos. Por fim, a atual geração de ferramentas de avaliação de risco adicionam técnicas e algoritmos complexos no cálculo dos fatores de risco.
Além do mais, os fatores considerados no cálculo dos escores finais desses algoritmos são fundamentados em vieses já há muito estabelecidos - e criticados - no sistema de justiça e prisional, pois focam em características de apenas um tipo de infrator - em sua maioria negros e moradores de bairros pobres. Dessa forma, excluem, por exemplo, criminosos sexuais, que, em sua maioria, possuem um padrão diferente dos infratores considerados de alto risco por esses algoritmos. Uma outra questão importante é que não há uma transparência de como é realizado o cálculo do escore, não sendo possível ao infrator contestar o escore imputado - as empresas são privadas e detém a patente do software, não sendo possível ter acesso ao código.
É imprescindível o debate sobre essas tecnologias e o impacto que inferem nas diversas esferas da sociedade pois, apesar de estarem sendo utilizados no cenário do sistema de justiça dos Estados Unidos, é saliente que esses métodos e técnicas logo podem ser exportados e implementados nos países da América Latina, impactando o cenário do sistema de justiça e prisional desses países.
Esse trabalho pretende discutir os impactos sociais desses algoritmos de avaliação de risco no sistema de justiça criminal dos EUA. Como metodologia será utilizado análise documental de leis e relatórios dos algoritmos de avaliação de risco atualmente presentes no sistema de justiça dos EUA, revisão bibliográfica referente a utilização de algoritmos nas diversas esferas do cotidiano. Também pretende-se analisar o debate que vem se realizando na mídia referente a algoritmização dos processos e práticas do cotidiano.