O Superior Tribunal de Justiça (STJ) anunciou a abertura de uma investigação para apurar possíveis fraudes no sistema eletrônico de petições, envolvendo o uso de prompts da inteligência artificial. A determinação foi feita nesta quarta-feira (20) e inclui a instauração de um inquérito policial, bem como um procedimento administrativo interno, com o objetivo de apurar as tentativas fraudulentas que teriam sido realizadas por advogados e escritórios de advocacia.
A decisão foi comunicada pelo presidente do STJ, ministro Herman Benjamin, após a identificação de petições que apresentavam um tipo de ataque conhecido como “prompt injection”. Esse mecanismo, segundo técnicos do tribunal, é utilizado para manipular modelos de inteligência artificial a fim de beneficiar partes envolvidas em processos judiciais. O uso de comandos ocultos em petições visa, por exemplo, forçar o sistema da IA a ignorar filtros que dificultam a aceitação de documentos que não atendem aos critérios básicos de admissibilidade.
Compreendendo o prompt injection
O prompt injection consiste na inserção de instruções projetadas para confundir e manipular modelos de IA, buscando extrair respostas ou resultados favoráveis de sistemas que não foram projetados para lidar Essa técnica, se bem-sucedida, pode comprometer a integridade do processo judicial, permitindo que documentos inadequados sejam considerados valide.
Mecanismos de segurança do STJ
Em resposta a esses riscos, o STJ afirmou que seu sistema já possui medidas de segurança implementadas para detectar e bloquear o uso de prompts maliciosos. Essas travas tecnológicas têm como objetivo impedir que ordens geradas por esses comandos ocultos sejam executadas pela plataforma que recebe as petições eletrônicas. A iniciativa visa proteger os direitos processuais de todas as partes envolvidas e garantir a justiça no andamento dos casos.
Prevenção e impacto nas práticas jurídicas
A descoberta dessa prática levanta uma série de preocupações sobre a ética e a segurança na utilização de tecnologias jurídicas. A manipulação de sistemas eletrônicos não apenas compromete a credibilidade do judiciário, mas também gera desigualdade entre os advogados que utilizam práticas regulares e aqueles que buscam vantagens indevidas.
Além da investigação em curso, a situação pode levar o STJ a rever e reforçar suas diretrizes sobre o uso de inteligência artificial e adoção de técnicas que garantam a imparcialidade e a legalidade nas admissões de petições. Essa discussão é crucial, pois tecnologias avançadas estão se tornando parte integrante do cotidiano jurídico. Portanto, o ambiente legal precisa se adaptar para evitar que fraudes como essa se tornem práticas válidas.
Documentação e registro de práticas fraudulentas
Os advogados e profissionais da área jurídica devem estar cientes desse fenômeno e ter um entendimento profundo sobre os limites éticos e legais ao utilizar tecnologias em suas práticas. O STJ recomenda que todos os envolvidos observem rigorosamente as normas estabelecidas e relatem qualquer atividade suspeita às autoridades competentes. A integridade do sistema judiciário depende da responsabilidade dos praticantes e do comprometimento em manter altos padrões éticos.
A investigação do STJ serve como um alerta para a comunidade jurídica e destaca a necessidade de vigilância contínua em relação ao uso de inovações tecnológicas no ambiente legal. O tribunal reforça a importância de adotar práticas que respeitem a legislação vigente e promovam a justiça de forma equânime, sem apelos à manipulação ou má-fé.
Fonte: agenciabrasil.ebc.com.br
