A Comissão de Justiça e Assuntos Internos publica seu relatório Regras de tecnologia? O advento das novas tecnologias no sistema de justiça . O relatório explora o uso de Inteligência Artificial (IA) e outras ferramentas algorítmicas avançadas em atividades para descobrir, deter, reabilitar ou punir pessoas que violam a lei na Inglaterra e no País de Gales. O relatório reconhece o potencial dessas tecnologias, mas adverte contra o ritmo de sua implantação e a ausência de salvaguardas apropriadas.
O relatório
Quando implantadas no sistema de justiça, as tecnologias de IA podem ter sérias implicações para os direitos humanos e as liberdades civis de uma pessoa. Embora reconhecendo seus muitos benefícios potenciais, o Comitê ficou surpreso com a proliferação de ferramentas de IA sendo usadas sem supervisão adequada, principalmente pelas forças policiais em todo o país.
Onde o escrutínio informado seria essencial, o Comitê descobriu um cenário no qual novas tecnologias estão se desenvolvendo em um ritmo que a conscientização pública, o governo e a legislação não acompanharam – um novo Velho Oeste.
Para facilitar o escrutínio, o Comitê pede o estabelecimento de um registro obrigatório de algoritmos usados pela polícia e no sistema de justiça. Também recomenda a introdução de um dever de franqueza para a polícia.
Para esclarecer a governança e garantir a integridade das tecnologias que estão sendo implantadas, o Comitê pede que um órgão nacional seja estabelecido para estabelecer padrões científicos, de validade e qualidade rigorosos e para ‘marcar’ novas soluções tecnológicas em relação a esses padrões.
Para garantir o bom uso e o monitoramento próximo das novas tecnologias, o Comitê recomenda o treinamento obrigatório dos usuários de tecnologia e o desenvolvimento de comitês de ética locais nas forças policiais.
O Comitê argumenta que, como o uso de novas tecnologias está se tornando rotineiro, essas reformas propostas garantirão que maximizemos seu potencial, minimizando os riscos associados. Eles reverteriam o status quo em que uma cultura de deferência para com as novas tecnologias significa que os benefícios estão sendo minimizados e os riscos maximizados.
Comentários do presidente
A Baronesa Hamwee , Presidente do Comitê de Justiça e Assuntos Internos, disse:
“Como seria ser condenado e preso com base na IA que você não entende e que não pode desafiar?
Sem as devidas salvaguardas, as tecnologias avançadas podem afetar os direitos humanos, minar a justiça dos julgamentos, agravar as desigualdades e enfraquecer o estado de direito. As ferramentas disponíveis devem ser adequadas à finalidade e não devem ser usadas sem controle.
“Tivemos uma forte impressão de que essas novas ferramentas estão sendo usadas sem questionar se elas sempre produzem um resultado justificado. O “computador” está sempre certo? Era uma tecnologia diferente, mas veja o que aconteceu com centenas de gerentes dos Correios.
“O governo deve assumir o controle. A legislação para estabelecer princípios claros forneceria uma base para uma regulamentação mais detalhada. Um “kitemark” para certificar a qualidade e um registro de algoritmos usados em ferramentas relevantes daria confiança a todos – usuários e cidadãos.
“Congratulamo-nos com as vantagens que a IA pode trazer ao nosso sistema de justiça, mas não se não houver supervisão adequada. Os humanos devem ser os tomadores de decisão finais, sabendo como questionar as ferramentas que estão usando e como desafiar seus resultados.”
