STJ multa tentativa de manipular IA com texto oculto

Uma instrução escondida em uma petição judicial, escrita de forma que não pudesse ser percebida durante a leitura convencional do documento, levou o Superior Tribunal de Justiça (STJ) a aplicar multa de 10% sobre o valor da causa por litigância de má-fé. O episódio está entre os casos reunidos em um levantamento divulgado pelo tribunal no domingo (18), que apresenta suas primeiras decisões sobre o uso da inteligência artificial na Justiça e as tentativas de manipular ferramentas tecnológicas.

A punição foi aplicada em setembro pela Segunda Turma do STJ, após a identificação de um comando oculto em um recurso assinado por um procurador municipal. A mensagem orientava uma eventual ferramenta de inteligência artificial a considerar vencedora a tese apresentada e elaborar uma decisão favorável. Para dificultar sua identificação, o texto foi inserido com letras brancas sobre fundo branco e espaçamento entre caracteres.

A prática é conhecida como prompt injection e consiste na inserção de instruções destinadas a alterar o comportamento de sistemas de inteligência artificial. Para o advogado Giulio Imbroisi, presidente do Centro de Estudos das Sociedades de Advogados no Espírito Santo (CESA/ES), a gravidade está na tentativa de interferir na análise judicial por um caminho que não respeita as regras do processo.

“O advogado tem o direito de defender sua tese e utilizar todos os argumentos legítimos para convencer o julgador. O que não pode é tentar obter uma vantagem por meio de uma instrução que a outra parte sequer sabe que existe. O contraditório pressupõe transparência e possibilidade de contestação. Quando alguém procura contornar essa garantia, o problema deixa de ser apenas tecnológico e passa a comprometer a igualdade de condições entre as partes”, explica.

Além da multa, o STJ determinou a comunicação do episódio à Ordem dos Advogados do Brasil (OAB), ao Ministério Público Federal (MPF), à Polícia Federal e ao município ao qual o procurador estava vinculado. O profissional negou ter agido de forma intencional e alegou que o comando havia sido inserido por engano, durante o uso de um atalho de teclado. A justificativa, porém, não foi acolhida pelo tribunal.

Em outro julgamento realizado em setembro, a Sexta Turma identificou uma tentativa semelhante em um recurso relacionado a um processo criminal. A instrução buscava direcionar uma eventual leitura por inteligência artificial em favor dos argumentos da defesa. Nesse caso, os ministros determinaram o encaminhamento das informações à OAB e ao MPF para apuração.

Embora não haja indicação de que os comandos tenham conseguido alterar os julgamentos, os episódios trouxeram à discussão a responsabilidade dos profissionais pela integridade dos documentos apresentados à Justiça.

“Uma petição eletrônica não pode ser tratada apenas como aquilo que aparece na tela. Arquivos digitais podem conter elementos que passam despercebidos em uma leitura convencional. Isso exige novos cuidados da advocacia, porque a assinatura de uma peça processual envolve a responsabilidade por sua integridade, e não somente pela fundamentação jurídica”, afirma Giulio.

No caso que resultou na multa, o ministro Teodoro Silva Santos, relator do processo, considerou a conduta incompatível com a boa-fé processual. A penalidade foi fundamentada no artigo 81 do Código de Processo Civil, que prevê sanções para a litigância de má-fé. O tribunal também ressaltou que cabe ao advogado verificar previamente o conteúdo das peças que assina e apresenta.

A discussão ganha relevância à medida que a inteligência artificial passa a auxiliar atividades como pesquisas jurídicas, organização de documentos e elaboração de textos. No próprio levantamento, o STJ destacou que as ferramentas utilizadas pelo tribunal não produzem decisões automaticamente para posterior assinatura dos magistrados.

Na avaliação do advogado, a responsabilização por tentativas de manipulação é necessária para que o avanço tecnológico não enfraqueça as garantias de quem recorre ao Judiciário.

“O Judiciário não precisa esperar que uma tentativa de manipulação tenha sucesso para reconhecer sua gravidade. A conduta deve ser examinada pelo risco que representa à regularidade do processo. A inteligência artificial pode trazer ganhos importantes à Justiça, mas não pode criar uma espécie de território sem regras, em que práticas contrárias à lealdade processual sejam toleradas simplesmente porque utilizam uma nova tecnologia”, conclui.

Você por dentro

Receba nossas últimas notícias em primeira mão.

Escolha onde deseja receber nossas notícias em primeira mão e fique por dentro de tudo que está acontecendo!

Comentários

DEIXE UMA RESPOSTA

Por favor digite seu comentário!
Por favor, digite seu nome aqui

Mais Lidas

Notícias Relacionadas