O Superior Tribunal de Justiça (STJ) determinou nesta quarta-feira (20) a abertura de uma investigação para apurar o uso de prompts de inteligência artificial para burlar o sistema eletrônico de petições do tribunal.
Por ordem do presidente do STJ, Herman Benjamin, um inquérito policial e um procedimento administrativo interno foram instaurados para apurar tentativas de fraudes , que teriam sido cometidas por advogados e escritórios de advocacia.
A medida foi tomada após técnicos do tribunal identificarem a entrada de petições com prompt injection , mecanismo usado para enganar modelos de IA e favorecer partes durante o andamento eletrônico de um processo.
Os comandos ocultos são inseridos em petições para tentar forçar o sistema de IA a ignorar filtros de seleção que impedem, por exemplo, a admissão de um documento que não contém os requisitos básicos de admissibilidade.
Segundo o STJ, o sistema do tribunal já tem travas contra o uso de prompts e impedem que as ordens sejam executadas pela plataforma que recebe as petições.
Justiça Procurador-geral manda reabrir investigação sobre morte de senegalês 
Justiça Moraes cobra ação do governo brasileiro para extradição de Zambelli 
Justiça STF rejeita pedido de destaque para revisão de aposentadorias do INSS 
