Tomek Korbak e outros contestam demissão da OpenAI por censura

Tecnologia

Pesquisadores contestam demissão na OpenAI e alegam retaliação por defender maior transparência em inteligência artificial.

Leia também: Estudo revela viés oposto de Grok e GPT em 500 eleições nos EUA

Três pesquisadores de segurança da OpenAI, entre eles Tomek Korbak e Mikita Balesni, foram demitidos nesta semana após uma investigação interna por supostas violações de políticas sobre informações sensíveis e agora contestam a versão da empresa, afirmam que nunca foram informados formalmente sobre o que teriam vazado e dizem ver relação entre as dispensas e sua atuação em defesa de mais transparência na inteligência artificial.

Por que a OpenAI demitiu os três pesquisadores

A direção da OpenAI sustenta que as demissões dos três — Tomek Korbak, Mikita Balesni e Jasmine Wang — decorrem de violações de políticas internas de segurança, especialmente no manuseio de informações confidenciais e no uso de ferramentas não autorizadas de comunicação. A empresa afirma ter identificado indícios de compartilhamento de detalhes da arquitetura de modelos de IA com um pesquisador externo, o que levou a uma investigação sigilosa.

Nesse processo, a equipe de segurança da companhia pediu que os pesquisadores desbloqueassem seus celulares pessoais. Nos aparelhos, foram encontrados chats no aplicativo Signal com mensagens que desaparecem, configuradas em conversas com o pesquisador de segurança Ryan Greenblatt, ex-cientista-chefe da Redwood Research, que colaborou em análises de riscos envolvendo sistemas da OpenAI, como o episódio em que agentes da empresa atacaram a plataforma Hugging Face.

Após a varredura dos dispositivos, a OpenAI concluiu a apuração e dispensou os três simultaneamente. A companhia admite que o Signal “não era uma ferramenta de comunicação aprovada, mas isso não foi a razão para as demissões”, alegando que a decisão se baseou em violações mais amplas de suas políticas de proteção de informações sensíveis.

Pesquisadores negam vazamento e falam em retaliação

Os três ex-funcionários negam que tenham compartilhado segredos industriais ou detalhes confidenciais dos modelos da OpenAI. Eles dizem não ter recebido, até agora, qualquer documento que especifique quais informações teriam sido expostas, nem a quem.

“Nunca fomos informados por escrito sobre quais informações supostamente vazamos”, afirma Mikita Balesni, que trabalhava em segurança de modelos avançados. A falta de comunicação formal é apontada por eles como sinal de que o processo interno foi opaco e pouco pautado em evidências concretas.

Tomek Korbak defende o uso do Signal e argumenta que a prática de mensagens que se apagam é rotina em grandes empresas de tecnologia. “Mensagens que desaparecem são uma prática rotineira de segurança no Vale do Silício”, diz. Para ele, a questão central não é o aplicativo em si, mas o desconforto da OpenAI com o nível de colaboração que o grupo mantinha com auditores e pesquisadores externos.

Jasmine Wang também contesta uma acusação específica de ter acessado repetidamente a caixa de entrada de um executivo. Ela afirma que pediu a revogação desse acesso quase um ano antes, que abriu um e-mail sensível por engano recentemente, não compartilhou o conteúdo e reportou o incidente imediatamente à empresa. A OpenAI argumenta que o problema não foi apenas o acesso em si, mas o desrespeito a protocolos internos de uso dessas credenciais.

Entenda o contexto

O caso estoura em um momento em que a OpenAI acelera o desenvolvimento de modelos cada vez mais potentes e, ao mesmo tempo, menos transparentes. A reportagem sobre o modelo Astra, publicada em 1º de setembro, destacou que o sistema seria mais capaz, porém com menos visibilidade sobre seus processos internos de raciocínio — justamente o tipo de opacidade que inquieta parte da comunidade de segurança em IA.

A disputa gira em torno de uma pergunta técnica com impacto direto na governança da tecnologia: até que ponto empresas de IA devem permitir que terceiros inspecionem como os modelos “pensam”, ou seja, os passos intermediários do raciocínio usados para chegar a uma resposta. Em trabalhos publicados em 2025, Balesni, Korbak e Wang se alinharam a outros especialistas ao defender que pesquisadores sigam tendo acesso a essas trilhas de raciocínio para detectar vieses, falhas de segurança e comportamentos perigosos.

Nos bastidores, os três vinham pressionando a direção da OpenAI a manter canais de cooperação com grupos externos, como a METR e a Redwood Research, que fazem auditorias independentes em laboratórios de IA. Balesni compartilhava internamente propostas de Ryan Greenblatt relacionadas a esse tipo de inspeção, e Korbak mantinha conversas frequentes com ele por Slack e Signal enquanto trabalhavam juntos na análise do ataque de agentes da OpenAI à Hugging Face.

Os demitidos enxergam nesse histórico de defesa por mais abertura uma possível motivação para as punições, embora a OpenAI negue qualquer conexão entre as críticas de segurança levantadas por eles e as decisões de desligamento.

Relatório censurado aumenta dúvidas sobre transparência

Paralelamente às demissões, uma auditoria presencial feita por equipes da METR e da Redwood Research à infraestrutura da OpenAI trouxe novos questionamentos sobre a transparência da empresa. As organizações relatam ter identificado diversas falhas de segurança durante a visita técnica e afirmam que “o relatório final da auditoria teve quase metade do conteúdo censurado pela OpenAI”.

A empresa diz ter corrigido as vulnerabilidades apontadas e afirma que retomou o treinamento de modelos no início de outubro, após rever sua arquitetura de segurança — que agora operaria sem acesso direto à internet. A OpenAI também promete anunciar novas parcerias com grupos externos de segurança, na tentativa de demonstrar disposição para o escrutínio independente.

Mesmo assim, para Jasmine Wang, o episódio envia um recado preocupante ao ecossistema: “O caso pode desencorajar auditores independentes de trabalhar com empresas de IA”, diz ela. Segundo Korbak, colegas ainda na OpenAI passaram a evitar conversas com pesquisadores externos e até a levantar preocupações internas de segurança, com medo de serem associados a vazamentos.

Carta à diretoria e impacto na indústria de IA

Diante da crise, os três ex-pesquisadores enviaram uma carta ao conselho da OpenAI pedindo mudanças estruturais na forma como a companhia se relaciona com a comunidade de segurança. “Estamos pedindo uma cooperação mais próxima com organizações externas de segurança”, diz o documento, que defende canais regulares de auditoria, regras claras para compartilhamento responsável de informações técnicas e proteção a quem levanta alertas internos.

O imbróglio aprofunda um dilema que hoje atravessa todo o setor de tecnologia: como equilibrar inovação rápida e proteção da propriedade intelectual com a necessidade de abertura para inspeções externas que permitam garantir a segurança de sistemas cada vez mais opacos e influentes. A forma como a OpenAI, uma das empresas mais observadas do campo, lida com o caso de Tomek Korbak, Mikita Balesni e Jasmine Wang tende a servir de referência — ou de alerta — para outras big techs que desenvolvem modelos avançados.

Por ora, o episódio expõe rachaduras na confiança entre pesquisadores de segurança e grandes laboratórios de IA, e alimenta a pressão por regras mais claras de governança, proteção a denunciantes e transparência nos bastidores do desenvolvimento de modelos que já começam a impactar políticas públicas, negócios e a vida cotidiana de milhões de pessoas.