Ex-Deepmind cria IA que prova cada resposta e reduz erros

Inteligência Artificial

Sistema inovador verifica respostas com evidências para minimizar erros e garantir precisão nas conclusões.

Leia também: Sondas da NASA em Marte operam há 20 anos e redefinem missões

O pesquisador alemão Thore Graepel, ex-Deepmind e fundador da startup Metis Reasoning, apresentou nesta semana, na conferência GTC da Nvidia em Berlim, uma proposta para criar sistemas de inteligência artificial que monitoram o que sabem e checam cada conclusão com base em evidências, numa tentativa de praticamente zerar as chamadas alucinações de modelos de linguagem.

Como funciona o ‘registro explícito de conhecimento’

Graepel se inspira na arquitetura do AlphaGo, sistema que combinou uma rede neural preditiva com uma busca sistemática para encontrar jogadas improváveis — como o célebre lance 37, estimado à época como tendo chance de uma em 10 mil de ser escolhido por um humano. Segundo a Metis, os modelos atuais de linguagem seriam apenas a parte preditiva dessa arquitetura, que sugere saídas plausíveis, mas não passa por uma verificação rigorosa de consequências.

A proposta é acrescentar a esse tipo de modelo um “registro explícito de conhecimento”, comparado a um tabuleiro de jogo, no qual a IA anota tudo o que afirma saber, o nível de confiança em cada item e quais perguntas seguem sem resposta. “O sistema registra o que sabe, seu nível de confiança e as perguntas em aberto, reavaliando conclusões quando premissas mudam”, descreve a Metis Reasoning.

Esse registro não fica escondido nos pesos do modelo; ele é manipulado por um módulo separado, responsável por conferir cada nova informação com cálculos, provas formais ou evidências empíricas, como dados experimentais ou consultas a bases externas. Quando uma premissa cai por terra, o módulo dispara uma reanálise de todas as conclusões que dependiam dela.

As “jogadas” desse sistema podem ser perguntas adicionais, experimentos, buscas por dados ou desafios a suposições já registradas. Dois modelos neurais atuam como em AlphaGo: um sugere ações, outro avalia qual passo tem mais chance de reduzir a incerteza sobre a questão original. Nenhum deles, porém, pode driblar as regras de verificação.

Com isso, a Metis afirma que “a abordagem deve produzir menos alucinações, explicações com citações de fontes e conhecimento que pode ser alterado sem retreinamento”. Em vez de uma resposta categórica, o sistema também poderá oferecer uma abstenção justificada, quando não houver evidência suficiente.

Entenda o contexto

A crítica central de Graepel é que mais dados e mais capacidade computacional não consertam o problema estrutural dos modelos atuais. “Os modelos fabricam respostas plausíveis em vez de verdadeiras e suas cadeias de raciocínio não podem ser verificadas”, diz a Metis Reasoning.

Na prática, o conhecimento fica encapsulado nos pesos das redes neurais. Se uma informação está errada ou desatualizada, não há como simplesmente “apagá-la”: é preciso retreinar ou ajustar finamente o modelo, com custos altos e resultados nem sempre previsíveis. A equipe argumenta que esse desenho limita o impacto econômico da IA em setores onde erros têm consequências graves.

“IA precisa ser verificável do zero para ter impacto em medicina, finanças, design de chips e robótica”, afirma a Metis Reasoning. Nesses campos, empresas e reguladores tendem a exigir rastreabilidade: saber de onde veio cada afirmação, quais dados a sustentam e como uma decisão foi tomada.

Aplicações em robótica e dispositivos de borda

A proposta também dialoga com a agenda da própria Nvidia, que usa a GTC em Berlim para reforçar sua plataforma de robótica e “IA física”. A ideia é que robôs, veículos autônomos e sistemas embarcados possam tomar decisões baseadas em raciocínio verificável, mesmo com recursos limitados de processamento.

Como o método da Metis divide o raciocínio em muitos passos pequenos, em vez de depender de uma única inferência gigante, abre-se espaço para usar modelos menores, capazes de rodar em dispositivos de borda. A Nvidia sintetiza essa aposta ao dizer que está “transformando o problema de dados da robótica em um problema de computação” — isto é, investindo em arquiteturas e chips capazes de simular, testar e checar cenários em escala.

Nesse arranjo, o registro explícito de conhecimento poderia atuar como uma espécie de diário de bordo: o robô registra o que observou, quais hipóteses levantou, que testes fez e que conclusões conseguiu sustentar. Esse histórico pode ser auditado depois por engenheiros, reguladores e usuários.

Desafios técnicos e limites da proposta

A Metis reconhece que, fora do tabuleiro bem definido de um jogo, o mundo real é mais bagunçado. Evidências podem ser caras ou demoradas de obter, muitos dados são parciais ou ambíguos e algumas perguntas simplesmente não têm resposta objetiva. Esse cenário torna mais difícil construir e manter um registro de conhecimento confiável em domínios pouco estruturados.

Há também o desafio clássico da IA simbólica: sistemas anteriores que tentaram representar o conhecimento explicitamente fracassaram em grande escala justamente porque dependiam de alimentação manual de regras e fatos. A aposta de Graepel é que, ao combinar modelos neurais com uma camada de verificação automatizada, seja possível escapar desse gargalo.

Por enquanto, a iniciativa está em fase de pesquisa. O white paper da Metis descreve o programa conceitual, mas não há ainda um sistema operacional completo, benchmarks públicos ou comparações diretas com os modelos de raciocínio mais avançados em uso.

Startup nasce em meio à saída de talentos da Deepmind

Graepel é uma das figuras centrais da geração que ajudou a tornar a Deepmind referência em IA. Com doutorado em machine learning obtido em Berlim, ele participou de projetos como AlphaGo, AlphaZero e MuZero e integrou, mais recentemente, o grupo interno voltado a cenários pós-AGI no Google Deepmind. Paralelamente, é professor de machine learning na University College London.

Agora, ele se junta à leva de ex-pesquisadores que deixam a empresa para fundar startups independentes, em meio a relatos de perda de autonomia da Deepmind dentro do Google e dificuldades de acesso interno a infraestrutura avançada de chips. Esse movimento já produziu empresas que captaram rodadas volumosas e disputam talentos com as gigantes de tecnologia.

No caso da Metis, o plano de financiamento é ambicioso. “Estamos levantando uma rodada inicial na casa de dezenas de milhões de dólares, com uma rodada subsequente de centenas de milhões planejada”, afirma Thore Graepel. O interesse de investidores, segundo ele, vem principalmente da possibilidade de levar IA confiável a setores regulados, onde hoje as alucinações dos modelos são um impeditivo direto de adoção.

Se a abordagem do registro explícito de conhecimento se provar viável em testes práticos, a expectativa é que ela ajude a redefinir padrões de confiabilidade e explicabilidade em IA, com impacto tanto em regras regulatórias quanto em novos produtos em áreas como saúde, finanças, robótica e design de chips.