Que tal ser julgado por uma máquina?

Hendrik Macedo
04/11/2016

Há poucos dias, a BBC publicou uma reportagem sobre um algoritmo computacional capaz de determinar o grau de periculosidade de um criminoso e que acabou sendo utilizado oficialmente pelo Estado de Wisconsin (EUA) para determinar a pena de detenção de um acusado ao cabo de seu julgamento [2]. O algoritmo avalia o quanto alguém é capaz de voltar a cometer um crime a partir das respostas fornecidas pelo próprio acusado a um questionário denominado de Correctional Offender Management Profiling for Alternative Sanctions.  Esse questionário inclui perguntas sobre passado criminal do acusado e de membros da sua família, índice de criminalidade da área onde vive, se faz parte de gangues, etc, além de questões acerca de um hipotético princípio de razoabilidade para o crime; por exemplo, se ele acha aceitável que alguém que passa fome possa roubar. Meados deste ano, outra reportagem mostrou que o Departamento de Polícia de Chicago (EUA) utiliza outro algoritmo para tentar classificar os indivíduos potencialmente envolvidos em uma troca de tiros, enquanto vítima ou criminoso. De maneira semelhante, o algoritmo leva em conta variados fatores, como histórico de crime, ligação com gangues, ferimentos à bala sofridos anteriormente ou número de prisões anteriores, para criar uma base de dados estratégica de suspeitos.

Independentemente da enorme polêmica e opiniões controversas que ambos os casos continuam gerando, o fato é que talvez estejamos vivenciando o início de uma nova grande revolução, onde as “máquinas” teriam cada vez mais influência na tomada de decisões em domínios de grande impacto para a vida e futuro dos indivíduos.

Por trás de boa parte dessa família de algoritmos, reside intensa atividade de pesquisa científica e, corroborando com a tendência acima relatada, cientistas da Computação e pesquisadores em Direito e em Psicologia de universidades do Reino Unido e dos EUA em parceria com a gigante de tecnologia Amazon.com, publicaram recentemente um trabalho onde apresentam um modelo computacional treinado para revelar padrões que conduzem a decisões judiciais [3]. A justificativa para o trabalho é de que um sistema inteligente desse tipo pode ser extremamente útil como ferramenta “auxiliar” para advogados, promotores e juízes. O modelo foi avaliado na previsão dos resultados de casos que já haviam sido julgados pela Corte Européia de Direitos Humanos (European Court of Human Rights – ECtHR), tendo alcançado uma acurácia média de 79%; ou seja, para 79 de cada 100 casos o modelo previu corretamente o resultado do julgamento.

Os autores do trabalho formularam o problema da predição como uma atividade de classificação binária: o resultado do processamento indica se houve ou não uma violação de um determinado artigo da convenção de direitos humanos. No trabalho, os autores escolheram os casos relacionados aos artigos 3, 6 e 8 da convenção, perfazendo um total de 584 casos. Trata-se obviamente de documentos de texto escritos em linguagem natural organizados em uma estrutura distintiva contendo, entre outros: trecho que descreve o procedimento, trecho que traz os fatos do caso incluindo as circunstâncias, artigos da convenção relevantes para o caso, um resumo das submissões das partes incluindo seus argumentos legais principais, méritos da decisão e o veredito. Um pedaço da solução inteligente proposta pelos autores consiste na difícil tarefa de criar automaticamente representações mais adequadas dessas informações textuais. A sub-área da Inteligência Artificial responsável por soluções para problemas com entradas textuais é o Processamento de Linguagem Natural (PLN), coisa que o nosso já famoso Watson, por exemplo, sabe fazer muito bem (veja mais sobre o Watson e PLN em “Máquinas que compreendem a linguagem humana”).

Análise empírica realizada no trabalho indicou ainda que os fatos formais de um caso, em particular as circunstâncias, são o fator preditivo mais importante para o modelo treinado. Isso é consistente com a teoria de que o processo de decisão judicial é significantemente afetado pelos fatos. Por outro lado, análise semelhante mostrou que a subseção referente aos argumentos legais usados por ambas as partes, defesa e acusação, ainda que importante para a previsão, é a que exerce menor influência no resultado.

Diante da notória complexidade de documentos legais, este é mais um grande indício de que ferramentas computacionais podem sim rivalizar com o desempenho de seres humanos. Ao me referir a ferramentas desse tipo anteriormente no texto, destaquei o termo “auxiliar” entre aspas porque talvez resida aí a grande questão que a sociedade precisará lidar no futuro (quase presente): o quanto de protagonismo nas decisões estas máquinas realmente terão? Melhor, o quanto de protagonismo nas decisões nós, seres humanos, realmente continuaremos tendo? Para os culpados de fato e incorretamente inocentados, o modelo tradicional é excelente. Para os inocentes de fato e incorretamente condenados, uma máquina poderia lhes trazer melhor sorte. Sim, na iconografia da Justiça continuará sempre havendo uma balança mas, quem sabe, esta passe a ser eletrônica, digital, e autônoma o suficiente para decidir seus próprios pesos e suas próprias medidas?

[1] Crédito da imagem: 3dman_eu (Pixabay) / Creative Commons CC0. URL: https://pixabay.com/en/horizontal-justice-right-law-1010894/.

[2] S Maybin. How maths can get you locked up. BBC News. URL: http://www.bbc.com/news/magazine-37658374. Publicado em 17 outubro (2016).

[3] N Aletras et al. Predicting judicial decisions of the European Court of Human Rights: a Natural Language Processing perspective. PeerJ Computer Science 2, e93 (2016).

Como citar este artigo: Hendrik Macedo. Que tal ser julgado por uma máquina? Saense. URL: http://www.saense.com.br/2016/11/que-tal-ser-julgado-por-uma-maquina/. Publicado em 04 de novembro (2016).

Artigos de Hendrik Macedo     Home