Projeto criminaliza manipulação de inteligência artificial em processos judiciais

Depositphotos

Alberto Fraga: "Nova forma de fraude processual"

O Projeto de Lei 2543/26 prevê como crime no Código Penal o uso de técnica conhecida como “injeção de prompt” em processos judiciais e administrativos com o objetivo de obter vantagem indevida, causar dano ou influenciar resultados automatizados. A injeção de prompt ocorre, conforme o projeto, quando alguém insere comandos, instruções, conteúdos ou sinais para enganar a inteligência artificial usada para analisar processos. Para o autor da proposta, deputado Alberto Fraga (PL-DF), essa técnica representa "nova forma de fraude processual digital”. O deputado relatou caso mencionado pelo portal Migalhas, no qual advogadas teriam inserido comandos ocultos em petição para tentar influenciar o sistema de inteligência artificial da Justiça do Trabalho a favorecer uma das partes. Pena Pela proposta, em análise na Câmara dos Deputados, a pena prevista é de reclusão de um a quatro anos e multa. A pena poderá aumentar de um terço até a metade quando o crime resultar em violação de sigilo, adulteração de decisão, interrupção relevante de serviço público, prejuízo à Justiça ou acesso a dados judiciais sensíveis. Se o autor tiver credencial profissional de acesso aos sistemas do Judiciário, a pena será aumentada pela metade. Quando a manipulação tiver como objetivo produzir efeitos em processo penal, ainda que ele não tenha sido iniciado, as penas serão aplicadas em dobro. Auditoria de processos O projeto também determina a revisão de processos judiciais e administrativos nos quais sistemas de inteligência artificial tenham sido usados para auxiliar a análise de documentos e peças apresentadas por terceiros. Os órgãos deverão auditar, no prazo de dois anos após a publicação da lei, inclusive processos com trânsito em julgado, para verificar possíveis indícios de fraude decorrente de injeção de prompt ou outra técnica de manipulação. Medidas de segurança A proposta prevê que os órgãos públicos adotem medidas mínimas para prevenir e detectar técnicas de indução a fraudes. Entre as medidas estão a validação e a limpeza dos dados inseridos nos sistemas; a separação entre instruções do sistema, dados processuais e conteúdo enviado pelos usuários; o registro das interações relevantes; o monitoramento de comportamentos anormais; a revisão humana obrigatória em processos considerados de maior risco; e o treinamento periódico dos usuários autorizados. Tribunais, conselhos do Poder Judiciário e órgãos dos Poderes Legislativo e Executivo deverão editar normas complementares sobre padrões técnicos de segurança, resposta a incidentes, responsabilização administrativa, canais de denúncia e preservação de provas digitais. Próximos passos A proposta tramita em caráter conclusivo e será analisada pelas comissões de Ciência, Tecnologia e Inovação e de Constituição e Justiça e de Cidadania. Para virar lei, precisa ser aprovada pela Câmara e pelo Senado.