Mundo Jurídico

ClickJus: Recomendações para o uso de IA no Judiciário (Parte II)

Essa realidade aumenta a importância quanto ao debate regulatório das soluções de IA aplicadas ao Poder Judiciário.

Por

No cenário internacional é perceptível a existência de sistemas de Inteligência Artificial (IA) com aplicações variadas associadas direta ou indiretamente aos sistemas de justiça: identificação de probabilidades êxito ou fracasso de processo perante um Tribunal; estimativas da quantia de compensação a ser recebida; suporte a decisões judiciais; avaliação das chances de reincidência de pessoa humana; mecanismos avançados de pesquisa jurisprudencial; descoberta de padrões em decisões judiciais tomadas por julgadores individuais e/ou órgãos colegiados; assistentes virtuais para informar os jurisdicionados ou apoiá-los em processos legais; elaboração de estatísticas provisórias sobre a gestão de recursos humanos e financeiros no Poder Judiciário.

Essa realidade aumenta a importância quanto ao debate regulatório das soluções de IA aplicadas ao Poder Judiciário, bem como da análise detalhada dos princípios organizados pela Comissão Europeia para a Eficiência da Justiça (CEPEJ) no documento “European Ehtical Charter on use of artificial intelligence in judicial systems”, adotado em dezembro de 2018, a fim de estruturar o significado do uso ético, confiável e responsável da IA nos sistemas de justiça, quais sejam:

(1) Respeito aos direitos fundamentais: exigência de que nas etapas de projeto e treinamento sejam inseridas nos sistemas de IA (aplicações que envolvam processamento de decisões judiciais e dados; solução de conflitos; auxílio na tomada de decisões; e orientações ao público) regras que proíbam violações diretas ao âmbito de proteção deste princípio, o qual engloba a legislação sobre direitos fundamentais e proteção de dados pessoais e os princípios de independência dos juízes e do Estado Democrático de Direito.

(2) Não-discriminação: os atores envolvidos no desenvolvimento dos sistemas de IA devem garantir a capacidade de os métodos de processamento de dados não reproduzirem ou agravarem discriminações proibidas, especialmente quando baseados direta ou indiretamente em dados sensíveis, em conjunto com a existência de medidas corretivas para mitigar ou neutralizar esses riscos, além de conscientizar as partes interessadas.

O conjunto de dados utilizado para treinamento dos sistemas de IA precisar ser suficientemente representativo quanto a dimensões diversificadas (etnia, gênero, opiniões políticas, crenças religiosas ou filosóficas, orientação sexual, entre outras), bem como conservar as informações relativas a essa fase, de modo a assegurar a avaliação por terceiros independentes e a identificação das decisões tomadas por esse tipo de tecnologia.

(3) Qualidade e segurança: recomendações para – a formação de equipes multidisciplinares, envolvendo profissionais jurídicos e pesquisadores nas áreas de direito e ciências sociais, visando a produção de modelos funcionais; o uso de fontes certificadas para acesso às decisões judiciais, as quais não podem ser modificadas até o processamento pelo sistema de IA, proporcionando transparência quanto a inexistência de alteração no conteúdo ou significado da decisão judicial que está sendo processada; e o armazenamento de modelos e algoritmos em ambiente seguro, objetivando integridade e intangibilidade do sistema.

(4) Transparência, imparcialidade e equidade: os objetivos desse princípio relacionam-se a compreensão pelos usuários dos resultados que são produzidos pela IA (em linguagem clara e familiar) e a possibilidade de auditoria dos métodos de processamento de dados. Para tanto, recomenda-se o fornecimento de subconjuntos de informações sobre o algoritmo (natureza dos serviços oferecidos, ferramentas desenvolvidas, variáveis em uso, dados de treinamento, riscos de erro); o desenvolvimento de mecanismos que reduzam o viés (atitudes discriminatórias em relação às pessoas humanas) por meio de mais diversidade nos conjuntos de dados e nas abordagens; e a priorização dos interesses da Justiça.

(5) Sob o controle do usuário: se refere ao aumento da autonomia dos usuários; importância dos profissionais do Poder Judiciário (possibilidade de revisão das decisões judiciais e dados utilizados para produzir resultados); disponibilização de informação clara e compreensível (processamento prévio por IA antes ou durante o processo judicial, com direito de rejeição; caráter vinculativo ou não das soluções baseadas em IA; diferentes opções disponíveis; direitos ao aconselhamento jurídico e acesso à justiça); e participação obrigatória dos sujeitos que integram os sistemas de justiça.

Wilson Sales Belchior – Graduado em Direito, especialista em Processo Civil e Energia Elétrica, MBA em Gestão Empresarial, Mestre em Direito e Gestão de Conflitos, Doutorando em Direito Constitucional. Advogado, palestrante, professor universitário em cursos de pós-graduação em diferentes estados e autor de diversos artigos e livros, publicados em revistas, jornais, portais de notícias e editoras de circulação nacional. Atualmente é Conselheiro Federal da OAB eleito para o triênio 2019-2021 e Presidente da Comissão Nacional de Direito Bancário.

Comentários (0)

Comentar

Destaques

ver blog →

ClickJus: Reforma Tributária e advocacia - PEC 110/2019 (Parte I)

ClickJus: Reforma tributária e advocacia – Contexto atual

ClickJus: Tecnologia e Direito bancário – tendências para o setor

ClickJus: Tecnologia e Direito bancário – PIX e pagamentos instantâneos