Um estudo recente da Universidade de Northumbria revela que a adoção de inteligência artificial (IA) na polícia e no sistema de justiça criminal da Inglaterra e País de Gales está ocorrendo mais rapidamente do que as regulamentações que visam governar essa tecnologia. A pesquisa, a mais abrangente do tipo até o momento, identificou 70 ferramentas de IA já em uso, em fase de teste ou em desenvolvimento.

O projeto, denominado PROBabLE Futures, foi realizado em parceria com as Universidades de Glasgow, Northampton, Leicester, Newcastle e Cambridge, e financiado pela Responsible AI UK com um investimento de 4,2 milhões de libras. Durante um ano, a equipe construiu uma ferramenta interativa de mapeamento e conduziu entrevistas com policiais, autoridades governamentais, profissionais do direito, órgãos de supervisão, acadêmicos e fornecedores de tecnologia.

Ferramentas e Desafios

Das 70 ferramentas identificadas, 27 estão operando ativamente, enquanto cerca de 34 estão em fase de teste. Mais da metade, 52%, provém de fornecedores comerciais, com a maior parte da atividade concentrada nas fases de policiamento comunitário, inteligência e investigação.

O estudo evidencia que a IA já traz benefícios significativos em áreas como transcrição, análise de crimes e identificação de vulnerabilidades, mas isso se dá apenas quando as ferramentas são bem projetadas e avaliadas. O relatório alerta que a adoção de IA está superando as estruturas institucionais e de governança necessárias para seu suporte eficaz.

Recomendações e Riscos

Um ponto central do relatório é o conceito de “humano no controle”, que implica que um ser humano deve revisar e ser responsável pelos resultados gerados pela IA. No entanto, a pesquisa encontrou que esse princípio muitas vezes existe apenas nominalmente, criando uma falsa sensação de segurança.

A pesquisa também destaca um risco intrigante: à medida que as ferramentas se aproximam da precisão ideal, a tendência é que as pessoas deixem de verificar os resultados, o que pode levar a erros raros e não detectados. Essa situação se agrava quando sistemas de IA são encadeados, acumulando erros de etapas anteriores.

O autor principal, Dr. Temitope Lawal, afirmou que o projeto visa mapear o uso de IA no sistema de justiça. O relatório propõe 26 recomendações para diferentes órgãos, incluindo a avaliação independente de ferramentas de IA e a necessidade de maior transparência e coordenação na implementação da tecnologia.