Inteligência artificial nas decisões judiciais: transparência, vieses e direitos fundamentais

IA como apoio, não como substituição do julgador

Sistemas de triagem, classificação e pesquisa podem reduzir tarefas repetitivas, mas a eficiência não elimina o dever constitucional de fundamentação. A decisão continua imputável à autoridade pública, que deve compreender as informações utilizadas e responder aos argumentos das partes.

Quando um modelo influencia a seleção de casos, a avaliação de risco ou a sugestão de resultado, sua atuação deixa de ser meramente administrativa. Quanto maior o impacto, maiores devem ser a auditabilidade, a documentação e a possibilidade de revisão humana.

Explicabilidade e contraditório

O contraditório exige mais do que acesso ao resultado. A parte precisa conhecer, em linguagem adequada, quais dados e critérios tiveram relevância para poder apontar erros, vieses ou inadequações.

Segredo comercial e complexidade técnica não podem transformar uma recomendação algorítmica em fundamento imune à contestação. A transparência pode ser graduada, preservando segurança e propriedade intelectual sem impedir controle jurídico.

Vieses, dados pessoais e governança

Bases históricas podem reproduzir desigualdades. Por isso, testes de impacto, métricas desagregadas, registro de versões e monitoramento contínuo são medidas de governança, não simples opções técnicas.

A LGPD acrescenta princípios de finalidade, necessidade, qualidade e segurança. O tratamento de dados pelo poder público deve possuir base jurídica, finalidade pública definida e mecanismos de responsabilização.

Agenda de pesquisa

Pesquisas futuras devem medir como usuários compreendem explicações algorítmicas, quais grupos suportam mais erros e se a automação altera padrões decisórios. Auditorias independentes e dados públicos são essenciais para transformar princípios abstratos em controle verificável.