Jackie Cardoso Sodero Toledo
Professor Universitário, Pós Graduado em Direito
Mestre em Gestão e Desenvolvimento.
Sócio Proprietário ST Advogados Associados
Resumo: O avanço tecnológico impulsionou o Poder Judiciário brasileiro à vanguarda da automação processual. No entanto, a incorporação da Inteligência Artificial (IA) na prestação jurisdicional impõe uma profunda reflexão à luz dos direitos fundamentais. O presente artigo analisa a incompatibilidade constitucional da substituição do juiz humano por algoritmos decisórios, confrontando as inovações tecnológicas com as balizas normativas do Conselho Nacional de Justiça (CNJ) e a posição institucional do Tribunal de Justiça de São Paulo (TJSP), além de inventariar os riscos inerentes a erros e imprecisões de sistemas automatizados.
1. Introdução: O Juiz Natural como Garantia Inegociável
No último dia 21 de maio corrente, o universo do direito brasileiro se deparou com uma “nova malandragem na praça”. Esse era o título da matéria que trazia em sua lide “Juiz de SP flagra prompt injection em petição contra banco e cobra explicações”.
Um sintoma da nova tecnologia disruptiva que tem mexido com o universo do direito e, de algum modo, impacto significativamente no equilíbrio da relação de formas das partes perante o Juízo natural.
A questão que se coloca, neste caso e nos demais, de forma central é: todo ser humano teria direito de ser julgado por outro ser humano, primazia que se mantém a séculos? Ou estamos diante de uma nova forma de distribuir justiça, através de prompt e algoritmos? Seremos, em futuro próximo, julgados por engenheiros de algoritmos, sem qualquer preparo para as questões afetas à realidade complexa do ser humano? Estaríamos todos em marcha acelerada de um “solucionismo tecnológico”?
O princípio do juiz natural, consagrado no artigo 5º, incisos XXXVII e LIII da Constituição Federal de 1988, constitui pilar do devido processo legal e do Estado Democrático de Direito. Garante-se ao cidadão não apenas um tribunal preconstituído pela lei, mas a certeza de um julgamento emanado de um agente político dotado de garantias de independência, imparcialidade e, fundamentalmente, humanidade.
A aceleração dos modelos de inteligência artificial na última década e sua adoção em larga escala, também o Poder Judiciário brasileiro passou a incorporar essa ferramenta como meio para tentar conter um acervo que ultrapassa 84 milhões de processos.
Aqui surge, portanto, o debate ético-jurídico sobre os limites da automação e a função da jurisdição. A função de julgar demanda valoração axiológica, ponderação de princípios e empatia — atributos intrínsecos à cognição humana. A substituição do magistrado por uma inteligência computacional desvirtua o postulado do juiz natural, convertendo a equidade em mera operação estatística.
2. Riscos de Atuação da IA: Erros, Alucinações e Vieses
A aplicação de IA jurídica, em especial a IA Generativa, apresenta vulnerabilidades técnicas relevantes, já documentadas em pesquisas institucionais, operando como fatores de risco direto a direitos fundamentais, dentre elas podemos destacar:
- Alucinações e Invenções Jurídicas: Sistemas de IA generativa operam por probabilidade estatística de termos e não por compreensão lógica-jurídica. Relatórios de pesquisa registram incidentes graves de magistrados e assessores que inseriram em suas minutas decisões e teses jurisprudenciais integralmente inventadas por algoritmos (conhecidas na literatura técnica como “alucinações”), comprometendo a fidedignidade da prestação jurídica.
- Vieses Algorítmicos e Injustiças Estruturais: A IA aprende a partir de bases de dados históricas. Caso os dados de treinamento contenham discriminações implícitas, a ferramenta tende a replicar e amplificar preconceitos humanos e injustiças estruturais da sociedade de forma automatizada e oculta.
- O “Efeito Caixa-Preta” e Falta de Transparência: Muitos modelos complexos carecem de explicabilidade (explainability), impedindo que as partes compreendam o encadeamento lógico que gerou determinada sugestão de decisão. Isso esvazia o dever constitucional de fundamentação das decisões judiciais (Art. 93, IX, CF).
- Falta de Supervisão Operacional: Pesquisas do CNJ constataram que cerca de 85% dos assessores de magistrados que utilizavam ferramentas de IA generativa de texto em suas rotinas profissionais admitiram não informar a seus superiores a utilização de tais sistemas, dificultando o controle de qualidade e a necessária revisão humana técnica de conteúdo que é indistinguível da escrita humana.
3. A Posição do Conselho Nacional de Justiça (CNJ): Da Resolução 332/20 à Resolução 615/2025
A governança nacional sobre o tema evoluiu de forma incisiva, buscando as autoridades do sistema Judiciário estabelecer limites mínimos à matéria.
Inicialmente pautada pela pioneira Resolução CNJ nº 332/2020, que estabeleceu parâmetros éticos e de transparência para o uso da IA no ecossistema do Judiciário, a regulação consolidou-se na Resolução CNJ nº 615/2025.
Aprovada após profundas audiências públicas com especialistas e órgãos de controle , a Resolução 615/2025 fixou diretrizes rígidas de governança (reforçando conceitos como guardrails e redlines):
- A vedação à substituição do fator humano: A IA deve atuar estritamente como ferramenta de suporte administrativo e triagem de dados, sendo vedada a delegação do ato decisório precípuo. Como preconiza a própria presidência do CNJ, o avanço tecnológico deve ser canalizado em uma trilha estritamente ética, mantendo a minuta final sob controle humano absoluto.
- Proibição de valoração de risco: A norma acertadamente barrou o uso de ferramentas automáticas para realizar juízos de valoração ou predição de risco sobre indivíduos, salvaguardando o cidadão do determinismo algorítmico.
- Mecanismos de Emergência (Kill Switches): A regulação impõe a necessidade de travas de segurança técnicas e jurídicas capazes de interromper de forma unilateral e imediata o funcionamento de qualquer sistema de IA que demonstre comportamento anômalo ou risco iminente de violar direitos fundamentais.
4. A Posição Oficial do Tribunal de Justiça de São Paulo (TJSP)
Alinhado às diretrizes superiores, o Tribunal de Justiça de São Paulo adota postura prudente por intermédio do seu Centro de Apoio ao Direito Público (CADIP). O posicionamento do TJSP fundamenta-se nos seguintes aspectos:
- Auxílio Qualitativo, nunca Decisório: O tribunal paulista defende que o emprego da robotização de rotinas e sistemas de IA sirva exclusivamente para aperfeiçoar o atendimento ao cidadão, otimizar a gestão interna, unificar banco de dados e conferir celeridade à classificação estrutural de processos.
- Preservação da Autonomia do Magistrado: O TJSP manifesta preocupação com o fenômeno do “solucionismo tecnológico”, asseverando que os sistemas automáticos não detêm a dimensão humanística e axiológica necessária para a ponderação principiológica de conflitos complexos.
- Controle de Soluções Privadas: Há um rígido alinhamento com a corregedoria para mapear e coibir o uso indiscriminado e não comunicado de ferramentas privadas de IA por servidores, resguardando o sigilo de dados processuais e a confiabilidade institucional.
5. Conclusão
A eficiência processual proporcionada pela IA é inegável e necessária para a sobrevivência de um sistema assoberbado; no entanto, a celeridade não pode se sobrepor às garantias constitucionais.
Entretanto, eficiência processual não pode se sobrepor a eficácia do provimento jurisdicional, a que todo ser humano e cidadão tem direito.
O direito de ser julgado por um juiz natural traduz-se na prerrogativa inalienável de submeter o litígio à apreciação de uma mente humana, passível de empatia, responsabilidade e compreensão das nuances sociais e psicológicas do caso concreto.
A inteligência artificial deve permanecer na periferia da prestação jurisdicional, atuando exclusivamente como insumo de suporte. O pronunciamento jurisdicional definitivo — o ato de julgar — permanece uma prerrogativa exclusiva e intransferível do juiz humano.
Referências bibliográficas:
- O uso da inteligência artificial generativa no Poder Judiciário brasileiro: relatório de pesquisa. Brasília: CNJ, 2024.
- Resolução nº 615/2025 (Estabelece diretrizes para o desenvolvimento, utilização e governança de soluções com recursos de inteligência artificial).
- Informativo Especial CADIP: Inteligência Artificial no Poder Judiciário. 2ª edição, revista e atualizada. São Paulo: CADIP, março de 2025.
- MOZETIC, Vinicius Almada. “Inteligência artificial no Judiciário brasileiro: salvaguardas, riscos e novas fronteiras”. Revista do TRF da 3ª Região, v. 36, n. 161,
