Anais EnAJUS 2025
ISSN 2674-8401
Riscos cibernéticos de uso de Inteligência Artificial Generativa no Processo Judicial
Autoria: Luciana Muniz Costa, Marcus Aurélio Carvalho Georg, Virgínia de Melo Dantas Trinks, Jorilson da Silva Rodrigues, Rafael Rabelo Nunes
Informações
Sessão 5 - 25/11/2025, 14:00
Mediação: Guilherme Gomes Vieira
Resumo
O Poder Judiciário brasileiro tem incorporado o uso de inteligência artificial em diferentes etapas de sua atuação. A chegada da inteligência artificial generativa (IA-G) amplia tanto as possibilidades quanto os riscos, sobretudo quando aplicada à elaboração de ementas, despachos e decisões judiciais. No contexto jurídico, o emprego dessa tecnologia em tarefas como análise de casos, previsão de resultados e redação de documentos demanda configuração e monitoramento rigorosos, sob pena de introduzir vulnerabilidades relevantes ao processo judicial. O objetivo deste estudo é propor uma metodologia para avaliação de riscos associados ao uso da IA-G na elaboração de despachos e decisões judiciais. Para isso, adotaram-se duas referências principais: um estudo que identifica riscos de negócio relacionados a essa etapa do processo e um framework que sistematiza riscos de IA-G. A metodologia consistiu em aplicar a técnica bow-tie para correlacionar os riscos de negócio com os riscos de IA Generativas, permitindo estabelecer conexões entre vulnerabilidades e consequências potenciais. Os resultados indicaram que essa correlação possibilita a identificação de pontos críticos de exposição, bem como a priorização de controles específicos a serem implementados. Como contribuição, o estudo apresenta uma metodologia que pode servir de referência para gestores do Judiciário na seleção de controles prioritários, promovendo maior segurança na adoção da IA-G em atividades sensíveis do processo judicial brasileiro, além de poder ser replicado em outros contextos além do Judiciário.
Palavras-chave
inteligência artificial generativa, judiciário, riscos cibernéticos, riscos de inteligência artificial generativa.PDF Todos os trabalhos desta edição