Uma recente tentativa de fraude no Judiciário brasileiro foi frustrada graças a um avançado sistema de inteligência artificial desenvolvido pelo Tribunal Regional do Trabalho da 4ª Região (TRT4). Batizada de Galileu, essa tecnologia foi projetada para identificar e neutralizar manipulações em processos judiciais, desempenhando um papel crucial na detecção de um 'código secreto' utilizado por advogadas em Parauapebas, no Pará.
Inovação e Segurança: O Que é o Galileu?
O Galileu é uma ferramenta de inteligência artificial concebida para auxiliar juízes na elaboração de minutas de sentenças, sumarizando pedidos, sugerindo estruturas e buscando fundamentações em bancos de dados controlados. Desenvolvido em 2023 pelo TRT-4 e lançado em 2024, ele se destaca por sua abordagem de 'segurança por desenho', capaz de detectar tentativas de manipulação, como a técnica conhecida como 'prompt injection'.
Como Funciona o Sistema de Detecção de Fraudes
O Galileu opera em três etapas para garantir a segurança dos processos. Inicialmente, ele processa documentos para identificar trechos ocultos com possíveis instruções maliciosas. Em seguida, emite alertas para o juiz, destacando a ocorrência técnica, e impede o processamento de comandos maliciosos. Importante destacar que a ferramenta não toma decisões finais; ela apenas relata fatos técnicos, deixando a decisão para os seres humanos.
Primeiro Caso de 'Prompt Injection'
O caso em Parauapebas foi o primeiro a ser confirmado como uma tentativa de 'prompt injection'. Embora o sistema já tivesse sinalizado outros conteúdos suspeitos, estes foram considerados falsos positivos após revisão humana. Esse evento destaca a importância de ferramentas como o Galileu para manter a integridade dos processos judiciais.
Protocolos de Segurança Rigorosos
Desde sua concepção, o Galileu foi desenvolvido com foco em segurança, adotando protocolos rigorosos para identificar riscos e alertar usuários sobre possíveis usos maliciosos. A possibilidade de manipulação por terceiros foi prevista durante o desenvolvimento, levando à incorporação de mecanismos para detectar textos ocultos e adulterações nos documentos.
Impacto e Futuro do Galileu
O sistema Galileu não apenas auxilia juízes na elaboração de sentenças, mas também libera tempo para atividades mais complexas, como análise de provas e valoração de depoimentos. Ao seguir diretrizes internacionais de segurança para IA, o Galileu reflete o compromisso do Judiciário brasileiro com a inovação e a segurança, servindo como modelo para futuros desenvolvimentos tecnológicos na área.
Em conclusão, o Galileu representa um marco na utilização de inteligência artificial no Judiciário, garantindo a segurança e a integridade dos processos judiciais, enquanto promove eficiência e inovação.
Fonte: https://g1.globo.com