Justiça dos EUA avalia regra inédita para provas com deepfake

Inteligência Artificial

Discussão sobre novas normas para uso de deepfakes em provas judiciais nos Estados Unidos.

Leia também: EUA ordenam remoção da IA chinesa DeepSeek de sistemas federais

Executivos da OpenAI e da Meta alertaram, em reunião da Conferência Judicial dos EUA, que deepfakes estão se tornando tão realistas e baratos de produzir que a Justiça corre o risco de não conseguir mais confiar em vídeos e áudios apresentados como prova em processos, o que pressiona tribunais a mudar as regras de admissibilidade desse tipo de evidência.

Justiça estuda inverter ônus da prova em casos de deepfake

Em encontro recente em Boston (Massachusetts), o comitê consultivo da Conferência Judicial passou a avaliar uma nova regra para a Justiça federal que pode inverter o ônus da prova quando há suspeita de deepfake. Pela proposta, se uma parte apresentar elementos razoáveis de que um vídeo ou áudio pode ter sido fabricado ou alterado com inteligência artificial, caberá à parte que levou o material ao processo comprovar sua autenticidade.

Hoje, o padrão é bem mais brando: basta o depoimento de uma testemunha dizendo que a gravação reflete o que aconteceu para que ela, em geral, seja admitida. A mudança obrigaria advogados a apresentar cadeias de custódia digital, metadados, perícia técnica ou outras evidências sólidas para convencer o juiz de que aquela prova é, nas palavras do comitê, “mais provável do que improvável” que seja verdadeira.

Na prática, o juiz passaria a fazer um filtro muito mais rígido antes de o material chegar ao júri. Se a parte que contesta não conseguir demonstrar de forma mínima que pode haver manipulação por IA, o processo seguiria com as regras tradicionais. Se conseguir, a parte que apresentou o vídeo ou o áudio teria de superar um exame técnico e probatório mais duro — sob pena de ver a prova totalmente excluída.

Explosão de deepfakes pressiona sistema jurídico

O pano de fundo da discussão é o salto no volume e na qualidade dos deepfakes. Conteúdos que exigiam orçamento de estúdio e especialistas hoje podem ser gerados por qualquer usuário com conexão à internet. “Antigamente, criar vídeos ou áudios falsos, de alta qualidade, exigia um orçamento digno de Hollywood, softwares de edição avançados e um enorme conhecimento técnico. Hoje, qualquer pessoa com acesso à internet pode utilizar ferramentas de inteligência artificial para gerar provas falsas extremamente convincentes, em questão de minutos, e a um custo irrisório — ou sem custos”, disse Davin Norder, diretor de gestão de produtos na Meta.

Esses conteúdos falsos cresceram de cerca de 500 mil para aproximadamente 8 milhões em apenas dois anos recentes, um aumento de quase 900%. Para juízes e advogados, isso torna inviável examinar minuciosamente cada arquivo digital e escancara a fragilidade de um sistema que ainda se apoia fortemente na confiança visual e sonora.

Segundo executivos de IA que falaram ao comitê, modelos atuais conseguem clonar rostos e vozes com poucos segundos de amostra, reproduzindo entonação, ritmo, emoção e até sons de respiração. Nos vídeos, a tecnologia já imita microexpressões, sombras e movimentos da boca de forma tão natural que elimina muitos dos sinais que, até pouco tempo atrás, entregavam uma montagem grosseira.

“Não existe solução mágica tecnológica”, diz OpenAI

Para a consultora jurídica de políticas da OpenAI, Shira Anderson, apostar apenas em softwares de detecção seria ilusório. “Não existe — e provavelmente não haverá no futuro — um método científico totalmente capaz de detectar imagens geradas por IA, porque elas estão próximas da perfeição. Não existe uma solução mágica, no âmbito da tecnologia, para isso. Portanto, os tribunais não podem simplesmente depender de software para resolver o problema”, afirmou.

Ela também ressaltou a corrida desigual entre quem cria e quem tenta detectar falsificações. “Os modelos de IA usados para criar deepfakes são desenvolvidos muito mais rapidamente do que as ferramentas projetadas para os detectar. Uma ferramenta de detecção que funciona hoje pode ser totalmente obsoleta no mês seguinte”, disse Anderson.

Empresas de tecnologia, incluindo OpenAI e Meta, testam marcas d’água digitais e assinaturas criptográficas para identificar automaticamente conteúdos gerados por IA. Mas, sem padrão universal, esses sinais podem ser removidos ou adulterados por usuários mais sofisticados, o que limita seu valor como prova jurídica isolada.

Entenda o contexto

O avanço dos deepfakes atinge em cheio o coração do sistema jurídico: a confiança nas provas. Se qualquer pessoa consegue fabricar um vídeo que parece autêntico, a Justiça passa a lidar com dois riscos simultâneos. De um lado, o de aceitar conteúdos falsos como se fossem reais, condenando ou absolvendo com base em uma encenação digital. De outro, o de ver provas genuínas descartadas porque a parte interessada insiste que se trata de IA, explorando o que especialistas já chamam de “dividendo do mentiroso”.

Esse cenário afeta diretamente magistrados, advogados, peritos e órgãos reguladores. Tribunais precisam de novos critérios de admissibilidade; a advocacia se vê obrigada a dominar conceitos de IA jurídica para advogados e a investir em perícia digital; e laboratórios forenses e empresas de segurança correm para desenvolver ferramentas que consigam, ao menos, acompanhar o ritmo da fraude.

Ao mesmo tempo, legisladores em estados americanos já começam a adaptar códigos penais para enquadrar de forma explícita a fabricação de provas com auxílio de algoritmos, indo além das figuras tradicionais de falso testemunho e falsificação de documentos.

Juíza defende métodos tradicionais de autenticação

Diante do ceticismo em relação à tecnologia, a juíza federal Valerie Caproni defendeu, durante a Conferência Judicial, que a saída imediata está em reforçar ferramentas antigas, não abandonar o que já existe. “Os juízes devem confiar nos métodos tradicionais de autenticação de provas, os que vêm usando desde Caim e Abel”, afirmou.

Na prática, isso significa olhar com mais atenção para quem produziu o conteúdo, em que circunstâncias, como ele foi armazenado, quem teve acesso, se há registros paralelos (como mensagens, documentos, dados de localização) que corroboram o material digital. Em vez de apenas rodar um detector automático, a orientação é reconstruir a história daquela prova com a mesma cautela aplicada, por exemplo, a um documento físico contestado.

Enquanto a nova regra federal sobre deepfakes leva forma e passa pelo longo processo de aprovação, parte dos tribunais já começa a adotar, na prática, uma postura mais desconfiada com relação a áudios e vídeos — sinal de que a segurança jurídica dependerá, cada vez mais, de combinar perícia técnica, prudência judicial e uma atualização constante das normas.

Fonte: matéria original