Que tal ser julgado por uma máquina?

Hendrik Macedo
04/11/2016

Balança da Justiça. [1]
Balança da Justiça. [1]
Há poucos dias, a BBC publicou uma reportagem sobre um algoritmo computacional capaz de determinar o grau de periculosidade de um criminoso e que acabou sendo utilizado oficialmente pelo Estado de Wisconsin (EUA) para determinar a pena de detenção de um acusado ao cabo de seu julgamento [2]. O algoritmo avalia o quanto alguém é capaz de voltar a cometer um crime a partir das respostas fornecidas pelo próprio acusado a um questionário denominado de Correctional Offender Management Profiling for Alternative Sanctions.  Esse questionário inclui perguntas sobre passado criminal do acusado e de membros da sua família, índice de criminalidade da área onde vive, se faz parte de gangues, etc, além de questões acerca de um hipotético princípio de razoabilidade para o crime; por exemplo, se ele acha aceitável que alguém que passa fome possa roubar. Meados deste ano, outra reportagem mostrou que o Departamento de Polícia de Chicago (EUA) utiliza outro algoritmo para tentar classificar os indivíduos potencialmente envolvidos em uma troca de tiros, enquanto vítima ou criminoso. De maneira semelhante, o algoritmo leva em conta variados fatores, como histórico de crime, ligação com gangues, ferimentos à bala sofridos anteriormente ou número de prisões anteriores, para criar uma base de dados estratégica de suspeitos.

Independentemente da enorme polêmica e opiniões controversas que ambos os casos continuam gerando, o fato é que talvez estejamos vivenciando o início de uma nova grande revolução, onde as “máquinas” teriam cada vez mais influência na tomada de decisões em domínios de grande impacto para a vida e futuro dos indivíduos.

Por trás de boa parte dessa família de algoritmos, reside intensa atividade de pesquisa científica e, corroborando com a tendência acima relatada, cientistas da Computação e pesquisadores em Direito e em Psicologia de universidades do Reino Unido e dos EUA em parceria com a gigante de tecnologia Amazon.com, publicaram recentemente um trabalho onde apresentam um modelo computacional treinado para revelar padrões que conduzem a decisões judiciais [3]. A justificativa para o trabalho é de que um sistema inteligente desse tipo pode ser extremamente útil como ferramenta “auxiliar” para advogados, promotores e juízes. O modelo foi avaliado na previsão dos resultados de casos que já haviam sido julgados pela Corte Européia de Direitos Humanos (European Court of Human Rights – ECtHR), tendo alcançado uma acurácia média de 79%; ou seja, para 79 de cada 100 casos o modelo previu corretamente o resultado do julgamento.

Os autores do trabalho formularam o problema da predição como uma atividade de classificação binária: o resultado do processamento indica se houve ou não uma violação de um determinado artigo da convenção de direitos humanos. No trabalho, os autores escolheram os casos relacionados aos artigos 3, 6 e 8 da convenção, perfazendo um total de 584 casos. Trata-se obviamente de documentos de texto escritos em linguagem natural organizados em uma estrutura distintiva contendo, entre outros: trecho que descreve o procedimento, trecho que traz os fatos do caso incluindo as circunstâncias, artigos da convenção relevantes para o caso, um resumo das submissões das partes incluindo seus argumentos legais principais, méritos da decisão e o veredito. Um pedaço da solução inteligente proposta pelos autores consiste na difícil tarefa de criar automaticamente representações mais adequadas dessas informações textuais. A sub-área da Inteligência Artificial responsável por soluções para problemas com entradas textuais é o Processamento de Linguagem Natural (PLN), coisa que o nosso já famoso Watson, por exemplo, sabe fazer muito bem (veja mais sobre o Watson e PLN em “Máquinas que compreendem a linguagem humana”).

Análise empírica realizada no trabalho indicou ainda que os fatos formais de um caso, em particular as circunstâncias, são o fator preditivo mais importante para o modelo treinado. Isso é consistente com a teoria de que o processo de decisão judicial é significantemente afetado pelos fatos. Por outro lado, análise semelhante mostrou que a subseção referente aos argumentos legais usados por ambas as partes, defesa e acusação, ainda que importante para a previsão, é a que exerce menor influência no resultado.

Diante da notória complexidade de documentos legais, este é mais um grande indício de que ferramentas computacionais podem sim rivalizar com o desempenho de seres humanos. Ao me referir a ferramentas desse tipo anteriormente no texto, destaquei o termo “auxiliar” entre aspas porque talvez resida aí a grande questão que a sociedade precisará lidar no futuro (quase presente): o quanto de protagonismo nas decisões estas máquinas realmente terão? Melhor, o quanto de protagonismo nas decisões nós, seres humanos, realmente continuaremos tendo? Para os culpados de fato e incorretamente inocentados, o modelo tradicional é excelente. Para os inocentes de fato e incorretamente condenados, uma máquina poderia lhes trazer melhor sorte. Sim, na iconografia da Justiça continuará sempre havendo uma balança mas, quem sabe, esta passe a ser eletrônica, digital, e autônoma o suficiente para decidir seus próprios pesos e suas próprias medidas?

[1] Crédito da imagem: 3dman_eu (Pixabay) / Creative Commons CC0. URL: https://pixabay.com/en/horizontal-justice-right-law-1010894/.

[2] S Maybin. How maths can get you locked up. BBC News. URL: http://www.bbc.com/news/magazine-37658374. Publicado em 17 outubro (2016).

[3] N Aletras et al. Predicting judicial decisions of the European Court of Human Rights: a Natural Language Processing perspective. PeerJ Computer Science 2, e93 (2016).

Como citar este artigo: Hendrik Macedo. Que tal ser julgado por uma máquina? Saense. URL: http://www.saense.com.br/2016/11/que-tal-ser-julgado-por-uma-maquina/. Publicado em 04 de novembro (2016).

Artigos de Hendrik Macedo     Home

Publicado por

Hendrik Macedo

Hendrik Macedo

Doutor em Ciência da Computação. Professor da Universidade Federal de Sergipe. Escreve sobre Inteligência Artificial no Saense.

Deixe uma resposta

O seu endereço de e-mail não será publicado. Campos obrigatórios são marcados com *

This site uses Akismet to reduce spam. Learn how your comment data is processed.