A polícia do Reino Unido quer prever graves crimes violentos usando inteligência artificial.
A ideia é que os indivíduos indicados pelo sistema recebam intervenções, como aconselhamento, para evitar possíveis comportamentos criminosos.
No entanto, um dos principais institutos de ciência de dados do mundo expressou sérias preocupações sobre o projeto depois de ver uma versão editada das propostas.
NDAS
O sistema, chamado de Solução Nacional de Análise de Dados (NDAS), usa uma combinação de IA e estatística para tentar avaliar o risco de alguém cometer ou se tornar vítima de um crime com arma de fogo, bem como a probabilidade de alguém ser vítima de um crime moderno, como a escravidão.
Este é o primeiro projeto desse tipo no mundo, reunindo vários conjuntos de dados de várias forças policiais para a previsão do crime. Nas fases iniciais, a equipe reuniu mais de um terabyte de dados de bancos de dados policiais locais e nacionais, incluindo registros de pessoas sendo detidas e revistadas, e os registros de crimes cometidos. Cerca de 5 milhões de pessoas foram identificáveis a partir dos dados.
Analisando esses dados, o software encontrou quase 1400 indicadores que poderiam ajudar a prever crimes. Cerca de 30 são particularmente poderosos, como o número de crimes que um indivíduo cometeu com a ajuda de outros e o número de crimes cometidos por pessoas no grupo social daquele indivíduo.
O componente de aprendizado de máquina do NDAS usará esses indicadores para prever quais indivíduos conhecidos pela polícia podem estar em uma trajetória de violência semelhante à observada em casos anteriores, mas que ainda não aumentaram sua atividade. Essas pessoas receberão uma pontuação de risco indicando a probabilidade de futuras ofensas.
A atuação da polícia
A West Midlands Police está liderando o projeto e tem até o final de março de 2019 para produzir um protótipo. Outras forças policiais também estão envolvidas, e o sistema está sendo projetado para que todas as forças policiais no Reino Unido possam usá-lo.
Ele viria suprir uma lacuna provocada pelo corte significativo no financiamento da polícia, já que os policiais poderão priorizar indivíduos que precisam de intervenções mais urgentes.
A questão que se discute melhor é o que acontecerá quando esses indivíduos forem identificados. A intenção não é prender alguém preventivamente, mas sim fornecer apoio da saúde local ou dos assistentes sociais. Aconselhamento a indivíduo com histórico de problemas de saúde mental, por exemplo, é um exemplo. Também as vítimas em potencial podem ser contatadas pelos serviços sociais.
A polícia de West Midlands espera gerar suas primeiras previsões usando o NDAS no início do próximo ano. Ele trabalhará com o órgão de fiscalização de dados do Reino Unido para garantir que o sistema não viole os regulamentos de privacidade.
Críticas ao projeto
Uma equipe do Instituto Alan Turing, em Londres, viu uma versão redigida da proposta do NDAS no ano passado e publicará seu veredicto sobre isso em um relatório. Nele, a equipe diz que há “sérios problemas éticos” com o sistema, e questiona se é de interesse público intervir preventivamente quando um indivíduo pode não ter cometido um crime ou ter a probabilidade de fazê-lo no futuro. Os pesquisadores dizem que, embora a proposta seja eticamente bem-intencionada no geral, ela não reconhece questões importantes na íntegra, e essa previsão imprecisa é uma preocupação.
Para Andrew Ferguson, da Universidade do Distrito de Columbia, ao basear as previsões em registros de detenções anteriores, ferramentas analíticas correm o risco de limitar as investigações policiais a locais bem controlados e podem reforçar o preconceito. Para ele, as prisões estão correlacionadas com o local onde a polícia está implantada e não onde está o crime, o que tende a afetar desproporcionalmente pessoas de cor e moradores de bairros pobres.
Martin Innes, diretor do Instituto de Pesquisa sobre Crime e Segurança da Universidade de Cardiff, no Reino Unido, diz que é “cético” quanto ao fato de o sistema prever com segurança as ofensas em nível individual. Para o diretor, a ferramenta provavelmente será mais útil para localizar comunidades em risco.
Sandra Wachter, do Instituto de Internet de Oxford, entende ser uma dificuldade inerente a tais sistemas saber se as previsões seriam válidas se a polícia ou outros serviços não tivessem intervindo. De acordo com ela, “como eu saberia que isso realmente toma a decisão certa? Isso é algo muito difícil de medir”.
Análise preditiva ao redor do mundo
Em todo o mundo, a polícia usa cada vez mais dados para prever crimes. O PredPol, desenvolvido na Universidade de Santa Clara, na Califórnia, tenta identificar futuros pontos críticos do crime. O sistema tem sido usado nos EUA e no Reino Unido.
A polícia de Los Angeles tem um programa que atribui uma pontuação de risco com base em características como condenações anteriores ou membros conhecidos de uma gangue. As patrulhas são ajustadas para ficar de olho nas pessoas mais “arriscadas”.
A Holanda usa outra ferramenta de software que analisa dados criminais, bem como dados sociais em áreas específicas, como idade das pessoas, suas rendas e se eles reivindicam benefícios. Isso é usado para prever onde é mais provável de ocorrer tipos específicos de crimes em uma cidade.
Algumas aplicações chegaram a condenação, no entanto. No início deste ano, a Human Rights Watch criticou as autoridades chinesas por supostamente usarem o policiamento preditivo para deter preventivamente as pessoas na província de Xinjiang. (Com informações do New Scientist.)
