O Superior Tribunal de Justiça (STJ) determinou nesta quarta-feira (20) a abertura de uma investigação para apurar o uso de IA na tentativa de burlar o sistema eletrônico de petições da Corte.
Por determinação do presidente do tribunal, ministro Herman Benjamin, foram instaurados um inquérito policial e um procedimento administrativo interno para apurar possíveis fraudes atribuídas a advogados e escritórios de advocacia.
Segundo técnicos do STJ, foram identificadas petições contendo técnicas conhecidas como prompt injection, utilizadas para tentar manipular sistemas de inteligência artificial e influenciar a análise de documentos processuais.
Esses comandos ocultos seriam inseridos nos textos com o objetivo de induzir o sistema a ignorar filtros de verificação, permitindo a entrada de peças que não cumpririam requisitos formais de admissibilidade.
O tribunal informou ainda que já possui mecanismos de segurança implementados para detectar e bloquear esse tipo de tentativa, impedindo que comandos desse tipo sejam executados pela plataforma responsável pelo recebimento das petições eletrônicas.
Receba em primeira mão nossas notícias, tendências e exclusivas.
