Justiça de SP identifica fraude com IA em ações judiciais
Segundo o TJSP, os casos estão ligados a ações com indícios de litigância predatória apresentadas por um mesmo advogado, com petições padronizadas. Os magistrados encontraram comandos escritos em fonte branca sobre fundo branco, invisíveis ao leitor, orientando um suposto agente de IA a conceder justiça gratuita, tutela de urgência e a citação do réu.
Em uma das decisões, o juiz classificou a conduta como perniciosa, abusiva e inaceitável. O magistrado reconheceu fraude processual e litigância de má-fé, rejeitou os pedidos.
Juiz aplicou multa de 10 salários mínimos ao advogado. O caso foi enviado ao Ministério Público, à Corregedoria-Geral da Justiça e à OAB de São Paulo e Santa Catarina.
Tribunal afirmou que a irregularidade foi detectada durante o uso supervisionado de ferramentas de IA pelos magistrados. Esse processo segue a Resolução CNJ nº 615/25, que proíbe decisões judiciais automatizadas e exige revisão humana obrigatória.
Outra tentativa de manipulação foi descoberta na Justiça do Trabalho. Duas advogadas foram multadas por litigância de má-fé. Na decisão, o juiz do Trabalho Luiz Carlos Santos Junior, da 3ª Vara de Parauapebas (PA), afirmou que profissionais inseriram na petição uma técnica conhecida como “prompt injection”, visando manipular a inteligência artificial para que gerasse resultados favoráveis à parte autora.
Injeção de prompt acaba funcionando em IAs com poucas travas de segurança. Pessoas mal-intencionadas exploram o fato de sistemas automatizados interpretarem a solicitação como um comando legítimo. Os chatbots são modelos baseados na probabilidade, e eles muitas vezes não conseguem distinguir dados, comandos e contexto.
