Anthropic lança FlashProve para provar respostas reais de IA

Inteligência Artificial

Nova ferramenta open-source da Anthropic utiliza provas criptográficas para validar respostas geradas por IA, aumentando a confiança no sistema.

Leia também: Hackers roubam US$ 6,34 bi da Binance em ataque de 20 minutos

A Anthropic anunciou nesta semana o FlashProve, um sistema open-source que usa provas criptográficas para confirmar que uma resposta foi realmente gerada por um modelo específico de inteligência artificial, permitindo detectar fraudes como a troca silenciosa de modelos por versões mais baratas ou menos potentes.

O que é o sistema que a Anthropic está desenvolvendo para provar a identidade de modelos de IA?

O FlashProve é um mecanismo de “prova matemática” que associa cada modelo de IA a uma espécie de impressão digital criptográfica, capaz de atestar a autoria das respostas sem revelar o funcionamento interno do modelo. Na prática, ele funciona de forma parecida com assinaturas digitais em e-mails: quem recebe uma saída de IA pode verificar se ela realmente veio do modelo declarado.

Para isso, os laboratórios precisam publicar uma fingerprint para cada modelo que lançarem. Essa impressão digital é usada depois para checar, localmente, se um determinado texto, análise ou decisão automatizada foi produzida pelo modelo correto. O código e as especificações técnicas foram liberados em repositório público no GitHub, sob licença aberta, para que a comunidade possa testar e adaptar o sistema.

Segundo os pesquisadores envolvidos, o objetivo é construir o que eles chamam de “provable inference” — em tradução livre, inferência comprovável: uma garantia matemática de que a saída corresponde exatamente ao modelo de origem, mesmo quando o modelo é fechado e proprietário.

Como a Anthropic pretende garantir a autenticidade dos modelos de inteligência artificial?

A autenticação proposta pela Anthropic se baseia em três pilares: impressão digital de cada modelo, verificação criptográfica das saídas e preservação da propriedade intelectual. As fingerprints permitem checar a identidade do modelo sem expor os pesos — os parâmetros internos que definem como ele responde —, que seguem protegidos.

Com essa arquitetura, um usuário corporativo poderia, por exemplo, exigir que cada relatório de riscos, parecer jurídico automatizado ou varredura de código por vulnerabilidades venha acompanhado de uma prova FlashProve. A verificação poderia ser feita em um dispositivo local, sem depender da boa-fé do provedor de IA nem de acesso direto ao modelo em si.

Um dos focos do projeto é justamente impedir que empresas de IA substituam um modelo de forma invisível — trocando por outro mais barato para cortar custos ou, ao contrário, alegando o uso de um modelo mais avançado para inflar resultados de desempenho. O mesmo mecanismo permitiria checar alegações de terceiros, como startups que afirmem ter usado um modelo de ponta para analisar bibliotecas de software ou aprovar planos de negócios.

Entenda o contexto

O avanço rápido da inteligência artificial vem acompanhado de uma crescente dependência de sistemas opacos, operados por poucos grandes laboratórios. Hoje, usuários e clientes costumam confiar na palavra das empresas quando elas dizem qual modelo está por trás de um produto ou serviço.

Essa assimetria abre espaço para práticas difíceis de auditar, desde a troca silenciosa de modelos até o uso indevido do nome de sistemas mais avançados em materiais de marketing. Em setores regulados, como segurança da informação, finanças ou saúde, a impossibilidade de provar a origem de uma decisão automatizada é um problema direto de conformidade e responsabilidade.

Ao propor um padrão técnico aberto para autenticação, a Anthropic sinaliza que a prova de origem das respostas de IA pode se tornar requisito básico em cenários críticos — e não apenas uma promessa contratual.

Impacto e próximos passos do FlashProve

A iniciativa tende a afetar principalmente empresas que já operam grandes modelos de IA, que precisarão se adaptar à publicação de impressões digitais e à integração de verificadores em seus fluxos de desenvolvimento e auditoria. Isso pode exigir investimento em infraestrutura, governança e processos internos de segurança.

Por outro lado, setores que dependem fortemente de resultados confiáveis produzidos por IA, como auditoria tecnológica, segurança cibernética, desenvolvimento de software e consultorias baseadas em modelos generativos, ganham uma ferramenta objetiva para validar alegações de uso de determinados modelos.

O sistema também é desenhado para proteger a propriedade intelectual dos desenvolvedores: como as fingerprints não expõem pesos nem detalhes sensíveis dos modelos, laboratórios comerciais podem aderir sem abrir mão de seus ativos mais valiosos.

A Anthropic enfatiza que o FlashProve ainda está em fase intermediária de pesquisa, sem plano de implantação comercial imediata. “This research post is meant to share intermediate progress, and not a completed research agenda. We are sharing this explicitly with the goal that others look at what we have done, take it, and improve it”, dizem os pesquisadores da empresa em texto que acompanha o anúncio.

Ao liberar o projeto como open-source e convidar outras equipes a testar, criticar e evoluir o mecanismo, a empresa sinaliza que espera a formação de um ecossistema de padrões de autenticação, com possíveis iniciativas concorrentes ou complementares. A médio e longo prazo, soluções como o FlashProve podem influenciar regulamentações e regras de mercado, aumentando a pressão por transparência e rastreabilidade no uso de modelos de inteligência artificial.