Ministro do STJ vê 'alucinação' de IA em petição e determina ofício à OAB
Rogerio Schietti Cruz, do Superior Tribunal de Justiça, identificou erros graves, com indícios de uso de inteligência artificial, em pedido de habeas corpus
compartilhe
SIGA
O ministro do STJ Rogerio Schietti Cruz determinou a expedição de um ofício à OAB após identificar erros graves, com indícios de uso de IA, em um habeas corpus apresentado pela defesa de um homem investigado por tráfico de drogas.
Leia Mais
Schietti negou pedido para revogar a prisão e disse ter ficado "surpreso e preocupado" com a qualidade do documento. Ele apontou indícios de uso de IA sem checagem adequada, com referências erradas a precedentes e trechos de julgados que não existem.
Após ouvir o advogado, o ministro determinou o envio de ofício à OAB para que a entidade tome ciência do caso. A orientação é para que o órgão adote as providências que considerar cabíveis diante do episódio.
"O uso de inteligência artificial na prática jurídica não é, em si, censurável. Trata-se de recurso que, quando bem empregado, pode qualificar o trabalho advocatício e racionalizar o esforço judicial. O problema está na ausência de verificação humana do conteúdo gerado. A tecnologia serve ao profissional, mas não o substitui nem o desobriga de conferir o que assina", disse Rogerio Schietti Cruz, ministro do STJ.
O ministro pediu esclarecimentos sobre a elaboração do documento. O defensor confirmou uso "eventual" da tecnologia e disse que revisou o conteúdo, mas Schietti afirmou que "os elementos dos autos contradizem essa afirmação de forma categórica".
Segundo o relator, as citações usadas na petição trazem erros em série. Ele disse que a peça se apoia quase só em decisões de tribunais superiores, mas os 16 julgados citados têm problemas de relatoria, órgão julgador ou tipo de decisão, além de reproduzirem trechos que não aparecem nas ementas nem no inteiro teor das decisões mencionadas.
Fenômeno
Para Schietti, o caso não é apenas "um simples erro de referência", mas um fenômeno conhecido como "alucinação". Isso acontece quando a ferramenta de IA gera informações aparentemente plausíveis, mas falsas em seu conteúdo.
O ministro disse ainda que a petição "não apresentou raciocínio jurídico próprio". "O dano não é apenas institucional: é também do próprio cliente, que confia ao seu procurador a defesa de algo tão grave quanto sua liberdade e merece uma peça que reflita análise real do seu caso", afirmou.
Siga nosso canal no WhatsApp e receba notícias relevantes para o seu dia
Mesmo com as falhas apontadas, Schietti analisou os fundamentos da prisão preventiva e da decisão que a manteve. Ele concluiu que a Justiça de origem justificou adequadamente a custódia, o que, segundo o ministro, impede a concessão da liminar para soltar o investigado.
