Direito do Consumidor e Digital
Discriminação algorítmica nas relações de consumo: crédito, preço e oferta personalizada
Transparência e proteção contra decisões automatizadas injustas
Resumo
Investiga como sistemas de perfilamento podem produzir exclusão ou tratamento desigual em crédito, seguros, preços e ofertas, articulando CDC e LGPD.
Palavras-chave: discriminação algorítmica; consumidor; crédito; perfilamento; decisão automatizada.
Problema de pesquisa
Como identificar e contestar discriminação quando a decisão é produzida por um sistema automatizado?
Hipótese
A proteção exige transparência compreensível, qualidade dos dados, testes de impacto, canais de revisão e proibição de proxies que reproduzam discriminação ilícita.
Metodologia
Análise integrada do Código de Defesa do Consumidor e da LGPD, com enfoque em decisões automatizadas e dever de informação.
Perfilamento e assimetria
Empresas combinam histórico, localização, dispositivo e comportamento para estimar risco ou interesse. O consumidor raramente conhece os dados e inferências usados.
Erros cadastrais e correlações podem excluir pessoas sem relação real com sua capacidade de pagamento ou risco.
Discriminação direta e por aproximação
Mesmo sem utilizar atributo protegido, variáveis correlacionadas podem funcionar como aproximação. CEP, padrão de consumo ou aparelho podem reproduzir desigualdades.
Tratamento diferente não é sempre ilícito, mas precisa de finalidade legítima, critério adequado e respeito a direitos fundamentais.
Explicação e revisão
Uma explicação útil deve informar fatores relevantes e permitir correção de dados. Frases genéricas como “política interna” não resolvem a assimetria.
Revisão humana precisa ter autonomia e acesso aos elementos necessários, não apenas confirmar automaticamente o sistema.
Governança preventiva
Testes antes e depois da implantação, análise por grupos, documentação de variáveis e canais de recurso reduzem danos e criam evidência de conformidade.
Teses jurídicas para debate
- Variáveis aparentemente neutras podem produzir discriminação indireta.
- Dever de informação exige explicação útil, não revelação incompreensível de código.
- Revisão de decisão automatizada deve permitir correção efetiva do resultado e dos dados.
Referências e fontes primárias
- Código de Defesa do Consumidor
Presidência da República
- Lei Geral de Proteção de Dados Pessoais
Presidência da República