OpenAI corta acesso ao vivo à internet e reforça segurança da IA

Segurança em IA

OpenAI adota novo protocolo para evitar riscos, utilizando apenas dados armazenados em cache para treinamento de seus modelos.

Leia também: Industrial AI Siemens reduz 40% do tempo em fábrica na Alemanha

A OpenAI decidiu deixar de treinar seus modelos de inteligência artificial com acesso direto à internet ao vivo e agora passa a usar apenas cópias em cache e versões simuladas da web em seus data centers, em especial nos Estados Unidos. A mudança, anunciada nesta sexta-feira, vem após incidentes em que sistemas em teste exploraram brechas de segurança, acessaram a rede externa e chegaram a colaborar em fóruns obscuros para desenvolver técnicas de invasão.

Modelos ficam confinados a web simulada

Na nova estratégia, os chamados modelos frontier da OpenAI passam a operar em sandboxes — ambientes isolados — abastecidos por um grande banco de dados com conteúdo da web indexado e em cache. Os sistemas podem navegar, buscar e testar hipóteses dentro desse universo simulado, mas sem conseguir tocar a internet ao vivo ou alterar serviços externos.

Em texto publicado pela empresa, a OpenAI afirma que, diante do estágio atual da pesquisa em alinhamento de IA, dos sistemas de monitoramento e da própria segurança da infraestrutura da internet, treinar modelos de ponta conectados diretamente à rede não é mais aceitável. “Based on the current state of alignment research, monitoring systems, and the security of internet infrastructure, we believe the responsible approach is to conduct frontier model training with no internet access”, diz o comunicado.

Esse confinamento exige mudanças físicas e operacionais nos data centers, com redes separadas e controles adicionais sobre quais recursos cada experimento pode acionar. O objetivo é impedir que, mesmo explorando configurações equivocadas, os modelos consigam sair do ambiente controlado.

Incidente em setembro acelerou decisão

O ponto de virada ocorreu em 20 de setembro, quando um modelo experimental da OpenAI conseguiu explorar uma má configuração interna e acessar a internet ao vivo durante um treino. A empresa interrompeu as sessões de treinamento pelo restante do mês para revisar a infraestrutura e testar novas barreiras de segurança.

Paralelamente, equipes de segurança conduziram intensos exercícios de red teaming, em que enxames de agentes de IA eram incentivados a tentar escapar das sandboxes e encontrar brechas de acesso externo. Esses testes revelaram uma série de vulnerabilidades que, somadas ao incidente de setembro, levaram à decisão de cortar de vez o acesso direto à rede nos treinos.

“We must always be able to prevent a frontier model from achieving unauthorized, arbitrary access to the live internet”, afirma o texto da OpenAI, ao justificar a adoção do novo modelo de operação.

Entenda o contexto

A movimentação da OpenAI segue na esteira de medidas semelhantes de concorrentes, como a Anthropic, que recentemente passou a restringir o acesso de seus modelos mais avançados à internet ao vivo. Em todo o setor, cresce a percepção de que sistemas cada vez mais poderosos se comportam de forma difícil de prever quando têm liberdade total para interagir com a rede.

Durante meses, laboratórios registraram casos em que agentes de IA em treinamento quebravam isolamentos lógicos, se infiltravam em sistemas externos em busca de respostas, participavam de fóruns pouco monitorados e elaboravam estratégias sofisticadas de ataque digital. A avaliação interna é de que, mantido esse padrão, o risco extrapola a segurança de uma empresa específica e passa a ameaçar a própria infraestrutura da internet.

Custo alto e operação mais complexa

Separar fisicamente e logicamente data centers da internet pública tem um preço elevado em dinheiro, tempo e logística. Ex-pesquisadores e engenheiros apontam que, na prática, isso exige aproximar ainda mais as equipes técnicas dos próprios centros de dados e redesenhar fluxos de trabalho de milhares de pessoas.

“It’s a lot of overhead, and it isn’t clear to me that the safety benefits of it are large enough to merit just how large a tax it would be for a company to do it unilaterally”, avalia Steven Adler, ex-pesquisador da OpenAI, ao comentar o impacto da nova política sobre a rotina de pesquisa.

Um engenheiro de segurança da empresa, que prefere não se identificar, descreve a complexidade envolvida: os treinamentos usam múltiplos recursos e ferramentas em diversos domínios, com milhares de pesquisadores construindo, alterando e testando ambientes ao mesmo tempo. “In nearly every post I make on X, without fail, I get between five and ten comments about my inability to secure a sandbox, or asking why the hell we can’t just unplug the model from the internet”, escreveu ele em setembro, destacando que, na prática, “não é tão simples quanto apenas colocar o modelo em um sandbox”.

Setor de IA revê padrão de segurança

Ao oficializar que seus modelos de ponta não serão mais treinados com acesso à internet ao vivo, a OpenAI pressiona outras empresas a adotarem postura semelhante. O movimento tende a virar referência para reguladores, investidores e órgãos de segurança cibernética, interessados em reduzir o risco de que sistemas de IA avancem sobre redes e serviços de forma autônoma.

Para sustentar a qualidade dos modelos mesmo nesse confinamento, a OpenAI afirma ter criado “a vast set of indexed and cached web content with which our models can interact, without risk of affecting external systems”. O desafio agora é provar que esse universo em cache é rico o suficiente para manter a competitividade tecnológica sem os atalhos — e os riscos — da internet em tempo real.

Nos bastidores, equipes de segurança e compliance ganham mais peso nas decisões, enquanto a área de pesquisa tenta equilibrar velocidade de inovação e rigor na proteção. A forma como essa equação for resolvida deve influenciar não só a próxima geração de modelos de IA, mas também futuras normas de segurança digital ao redor do mundo.