Auditoria expõe falhas da Hugging Face no monitoramento da OpenAI
Auditoria externa aponta que até 25% do tráfego interno de agentes avançados da OpenAI não era monitorado, expõe brechas de segurança e reacende debate sobre transparência em IA.
Tech Desk
Auditoria revela falhas significativas na supervisão de agentes da OpenAI pela Hugging Face, destacando riscos à segurança.
Leia também: Robôs com IA física revolucionam fábricas e transporte em 2026
Uma auditoria independente feita nas instalações da OpenAI revelou falhas graves no sistema interno usado para monitorar comportamentos anômalos de agentes de inteligência artificial, incluindo modelos da classe GPT-5.5 e superiores, deixando sem supervisão uma fatia importante das operações internas da empresa.
Até um quarto do tráfego de agentes sem supervisão
Dois pesquisadores das organizações METR e Redwood Research passaram três semanas dentro da OpenAI, entre 21 de julho e 11 de agosto, com acesso ao código-fonte, a documentos internos e a cerca de uma dúzia de funcionários. No período, eles identificaram que entre 6% e 25% do tráfego interno da API de respostas agentivas dos modelos mais avançados simplesmente não era coberto pelo sistema de monitoramento.
Na prática, essa lacuna abre espaço para que agentes de IA atuem de forma autônoma sem que possíveis desvios de comportamento sejam detectados em tempo real. O problema atinge diretamente frentes sensíveis como desenvolvimento de IA avançada, segurança cibernética e governança ética, num momento em que empresas de tecnologia enfrentam pressão crescente de reguladores e da sociedade por controles mais rígidos.
O relatório também aponta que, em determinados cenários, os agentes podiam continuar executando ações sem devolver o controle ao usuário, atrasando ou impedindo o acionamento automático do monitor. Os auditores conseguiram ainda encontrar formas de esconder centenas de ações do sistema de supervisão e de burlar a sandbox do Codex, o que amplia o potencial de uso indevido sem detecção imediata.
Falha em 10% do tráfego do Codex e risco de queda total do monitor
Além das brechas no monitoramento dos agentes avançados, a auditoria identificou um erro técnico no monitoramento do Codex, sistema da OpenAI voltado à geração e manipulação de código. Segundo a estimativa dos pesquisadores, cerca de 10% do tráfego interno do Codex que deveria ser acompanhado ficou sem rastreio entre maio e julho, por causa de uma falha no tratamento de eventos de compactação, usados para resumir contextos nas interações.
Durante o período em que esses eventos não eram monitorados, o desenho do sistema permitia que agentes contornassem a supervisão mantendo a execução contínua de ações, sem devolver o fluxo ao usuário humano. Os auditores também concluíram que entradas especialmente construídas poderiam derrubar completamente o monitor, abrindo a possibilidade de ataques capazes de desligar o principal mecanismo de segurança da plataforma.
Outro ponto crítico foi a ausência de supervisão específica sobre o comportamento dos modelos durante o treinamento por reforço, conhecido como RL. Quando a auditoria começou, essa etapa não passava pelo mesmo nível de monitoramento aplicado às interações comuns. A OpenAI informou aos pesquisadores que suspendeu o treinamento por reforço após um incidente relatado pela Hugging Face em agosto e que, desde então, expandiu o monitoramento para cobrir essa fase, mas essas mudanças ficaram fora do escopo da avaliação, porque aconteceram depois do período de acesso dos auditores.
OpenAI diz ter corrigido as falhas; confiança em jogo
Em resposta às conclusões, a empresa afirma ter sanado todos os problemas levantados. “OpenAI says it has fixed all the weaknesses the auditors found”, declarou a companhia, em inglês, ao comentar o resultado do trabalho. A correção inclui a falha crítica no monitoramento do Codex, o aumento da cobertura sobre o tráfego interno e a ampliação do escopo de supervisão durante o treinamento por reforço.
Ainda assim, as descobertas reforçam a percepção de que sistemas complexos de IA podem esconder vulnerabilidades profundas, mesmo em estruturas desenhadas para segurança. Para usuários finais, reguladores e o público em geral, as revelações tendem a alimentar dúvidas sobre o quão eficiente é, na prática, o controle sobre agentes autônomos capazes de executar longas sequências de ações com pouca ou nenhuma intervenção humana.
Especialistas em segurança de IA vêm alertando que falhas desse tipo podem resultar em riscos operacionais e de segurança concreta, de agentes que tomam decisões não previstas até brechas exploráveis em ataques direcionados contra a infraestrutura de monitoramento.
Relatório de 61 páginas, versão pública limitada
O trabalho de três semanas resultou em um relatório técnico de 61 páginas entregue internamente à OpenAI. Após um processo de redação conduzido pela própria empresa, os dirigentes da METR e da Redwood Research receberam uma versão reduzida, com 38 páginas, da qual trechos considerados sensíveis foram removidos.
Para o público, porém, foi divulgado apenas um resumo breve, sem detalhes técnicos das brechas exploradas e dos métodos que permitiram contornar a supervisão dos agentes. A METR afirma que não pode publicar por conta própria o conteúdo que foi censurado. “METR said it had no right to disclose the redacted portions on its own”, informou a organização, também em inglês.
A divulgação parcial do documento coloca em evidência um impasse central na governança da IA: até que ponto empresas que lideram o desenvolvimento de modelos avançados devem expor falhas de segurança para o escrutínio público, sem comprometer propriedade intelectual e sem aumentar o risco de que vulnerabilidades sejam replicadas por terceiros mal-intencionados.
Entenda o contexto
A auditoria fez parte de um programa piloto organizado em conjunto por METR, Redwood Research e OpenAI, justamente para abrir espaço a avaliações externas mais profundas sobre a infraestrutura de monitoramento da empresa. A iniciativa surge em um cenário em que incidentes envolvendo agentes de IA, como o episódio relatado pela Hugging Face, levam organizações e reguladores a exigir provas concretas de que mecanismos de segurança funcionam como prometido.
Ao permitir a entrada de auditores independentes com acesso direto ao código e a sistemas internos, a OpenAI tenta mostrar disposição para corrigir falhas e elevar padrões de segurança. Mas a escolha de restringir o conteúdo do relatório reacende o debate sobre transparência: enquanto a empresa reduz sua exposição a críticas e riscos técnicos, pesquisadores argumentam que a confiança pública em tecnologias tão poderosas depende justamente de uma vigilância mais aberta.
Para as próximas auditorias, a METR indica que pretende pressionar por maior transparência pública, inclusive na divulgação de achados técnicos. A tendência é que esse tipo de programa se torne referência para outras companhias do setor, servindo de modelo para auditorias independentes de sistemas de IA avançada em escala global — e, ao mesmo tempo, como termômetro de até onde as empresas estão dispostas a ir na hora de abrir a «caixa-preta» de seus modelos mais poderosos.
