O Superior Tribunal de Justiça decidiu nesta quarta-feira (20) instaurar um inquérito e abrir procedimento administrativo para investigar possíveis tentativas de manipulação de sistemas de inteligência artificial por meio da técnica conhecida como “prompt injection”.
A apuração busca identificar se houve tentativa de fraude processual. Advogados e escritórios de advocacia ligados aos casos deverão prestar depoimento durante a investigação.
Segundo o tribunal, a medida foi tomada após equipes técnicas detectarem diversos processos contendo comandos ocultos inseridos em documentos, prática usada para tentar influenciar o comportamento de ferramentas de IA.
Em comunicado oficial, o presidente do STJ, ministro Herman Benjamin, afirmou que o sistema de inteligência artificial da corte já possui mecanismos de proteção contra esse tipo de ação.
“O STJ Logos, plataforma de IA generativa desenvolvida pelo tribunal, conta com comandos específicos capazes de bloquear essas tentativas de manipulação. Estamos identificando todas as ocorrências de prompt injection para possibilitar a aplicação de sanções processuais e a responsabilização administrativa e criminal dos envolvidos”, declarou.
O tribunal informou ainda que, mesmo quando petições apresentam comandos ocultos, o sistema possui camadas de segurança que impedem a execução dessas instruções maliciosas.
De acordo com o STJ, atualmente existem pelo menos três níveis de proteção voltados a evitar que comandos externos interfiram nas regras centrais da plataforma utilizada pela corte.
O Conselho Nacional de Justiça também já recomendou a adoção de um banco nacional de prompts como forma de diminuir vulnerabilidades relacionadas a esse tipo de prática.