O STJ abriu, nesta quarta-feira (20/5), inquérito criminal e procedimento administrativo para apurar o uso de comandos ocultos em petições. A técnica, denominada prompt injection, visa manipular o STJ Logos, sistema de inteligência artificial do tribunal. O ministro Herman Benjamin, presidente do STJ, anunciou as investigações em nota da Presidência.
O STJ Logos neutralizou as tentativas antes que qualquer análise fosse afetada, informou a corte. O sistema tem ao menos três camadas de proteção — pré-processamento, limites de contexto e revisão de respostas — para impedir a execução de comandos externos. A Presidência não revelou quantos processos receberam petições com indícios da técnica.
Como o prompt injection tenta manipular a IA do tribunal
O prompt injection insere instruções secretas em documentos para sobrepor os comandos originais de modelos de linguagem. Trechos aparentemente inofensivos — como parágrafos em fonte branca sobre fundo branco ou caracteres especiais — carregam ordens que o modelo interpreta como legítimas. As petições identificadas pelo STJ buscavam influenciar as recomendações do Logos durante a triagem de processos, segundo o tribunal.
A técnica é documentada em pesquisas de segurança digital desde 2022. Naquele ano, pesquisadores demonstraram que instruções ocultas em documentos podiam subverter o comportamento de modelos de linguagem.
Advogados serão ouvidos; investigação mira responsabilização criminal e disciplinar
A investigação prevê a oitiva de advogados e escritórios de advocacia ligados às petições identificadas, conforme a Presidência do STJ. Nenhum nome foi divulgado pelo tribunal até a publicação desta matéria. O STJ não estabeleceu prazo para a conclusão do inquérito.
A abertura simultânea de procedimento administrativo indica que a corte apura também possíveis infrações disciplinares, informou a Presidência. Herman Benjamin, em nota da Presidência, declarou que o STJ está mapeando todas as tentativas de prompt injection detectadas. O objetivo é “permitir a aplicação de sanções processuais e a devida apuração das responsabilidades administrativa e criminal dos envolvidos”, segundo o ministro.
