A decisão judicial em caixa-preta

IA generativa, fundamentação de aparência e crise de accountability

Resumen

O artigo examina criticamente os limites jurídicos do uso de inteligências artificiais generativas na fase decisória do processo judicial digital brasileiro. Parte-se do problema de saber em que medida sistemas capazes de produzir linguagem jurídica podem, sob o pretexto de eficiência, comprometer a fundamentação judicial, a segurança jurídica e a responsabilização por erros, vieses ou alucinações incorporadas ao ato decisório. A pesquisa adota abordagem qualitativa, método dedutivo e procedimentos bibliográfico e documental, com análise de doutrina sobre decisão judicial, devido processo, opacidade algorítmica e accountability, além de atos normativos nacionais e estrangeiros, especialmente a Resolução CNJ nº 615/2025, o PL nº 2.338/2023 e o AI Act europeu. Sustenta-se que a IA generativa pode auxiliar atividades de organização, pesquisa e apoio redacional, mas não pode ocupar o lugar do juízo humano responsável pela interpretação do Direito, pela valoração probatória e pela construção da razão de decidir. Conclui-se que decisões assistidas por IA somente serão legítimas se submetidas a transparência funcional, supervisão humana efetiva, rastreabilidade, auditabilidade, contestabilidade, avaliação de impacto algorítmico e clara distribuição de responsabilidades. Sem tais garantias, a tecnologia deixa de servir à jurisdição e passa a produzir uma fundamentação de aparência: formalmente sofisticada, mas juridicamente opaca, incontrolável e incompatível com o devido processo legal.