Tencent alerta para risco biológico da IA e lança modelo híbrido

Inteligência Artificial

Tencent destaca perigos da IA na biotecnologia e apresenta modelo híbrido com foco em segurança.

O cientista-chefe de inteligência artificial da Tencent, Vinces Yao Shunyu, alertou que sistemas de IA estão perto de conseguir ajudar no desenvolvimento de armas biológicas e defendeu um caminho intermediário entre modelos abertos e fechados, enquanto a empresa chinesa se prepara para lançar o modelo Hy4 com pesos abertos e medidas de segurança reforçadas.

Alerta sobre bioterrorismo e disputa aberta x fechada

Yao, que já trabalhou na OpenAI, afirma que nem a estratégia de liberar totalmente os modelos nem a de mantê-los sob sigilo absoluto é suficiente para lidar com o risco crescente no campo biológico. Segundo ele, a diferença de capacidade entre modelos chineses e americanos hoje é pequena, o que aumenta a pressão por regras de segurança comuns e mais cautela na corrida tecnológica.

O pesquisador reconhece os argumentos de empresas dos Estados Unidos que restringem o acesso a seus modelos mais avançados, mas critica a ideia de fechar tudo como solução única. “Anthropic e outras empresas americanas fizeram argumentos fortes para modelos fechados, mas também vejo vantagens claras nos abertos”, afirma Yao.

Para o executivo, modelos abertos podem ser decisivos em cenários de defesa cibernética e resposta rápida a incidentes, mas o mesmo grau de abertura, quando aplicado à biotecnologia, tende a embaralhar fronteiras entre uso ofensivo e defensivo — por exemplo, entre estudar um patógeno para criar vacinas ou para torná-lo mais letal.

Entenda o contexto

O debate sobre modelos abertos e fechados ganhou força à medida que grandes modelos de linguagem passaram a responder a perguntas complexas de biologia e segurança digital. Empresas como OpenAI e Anthropic migraram para um modelo mais fechado, compartilhando seus sistemas de ponta apenas com parceiros selecionados e sob forte filtragem de conteúdo.

Ao mesmo tempo, ecossistemas abertos — que liberam pesos de modelos para download — se multiplicaram. Isso ampliou o acesso para pesquisadores, governos e desenvolvedores independentes, mas também facilitou que pessoas com más intenções adaptem esses sistemas, retirando travas e filtros de segurança.

Incidente de hacking expõe forças e limites da abertura

Como exemplo das vantagens de modelos abertos para defesa, Yao cita um ataque cibernético contra a plataforma de código aberto Hugging Face. Na ocasião, modelos fechados dos EUA, como o Claude, da Anthropic, recusaram-se a analisar comandos suspeitos registrados nos logs por causa dos filtros de segurança.

Para contornar o bloqueio, a equipe recorreu ao modelo chinês aberto GLM-5.2, capaz de processar os registros e ajudar na análise forense. O episódio reforçou, para Yao, que ter ao menos alguns modelos abertos robustos pode ser crucial em respostas de emergência.

O próprio relatório técnico sobre o ataque, porém, mostra os limites dessa abordagem. O modelo aberto foi usado apenas na etapa de investigação; a contenção do ataque se deu por métodos tradicionais de segurança, como correção da vulnerabilidade explorada, reconstrução de servidores afetados e troca de credenciais de acesso.

Especialistas envolvidos no caso também ressaltaram que o incidente não deve ser interpretado como argumento contra filtros de segurança em modelos hospedados na nuvem, mas como indicação de que diferentes graus de abertura podem ter papéis complementares.

Técnica Abliteration fragiliza filtros em modelos abertos

No outro lado do debate, o CEO da Anthropic, Dario Amodei, insiste que a abertura irrestrita é um fator de risco adicional. “Modelos abertos são potencialmente mais arriscados porque mecanismos de segurança são difíceis de aplicar e pesos publicados não podem ser retirados”, afirma.

Um dos exemplos mais citados é a técnica conhecida como Abliteration. Com acesso aos pesos de um modelo, pesquisadores mostraram ser possível remover de forma cirúrgica os comportamentos de recusa ensinados durante o treinamento — justamente aqueles que impedem a máquina de responder a pedidos sobre, por exemplo, construção de armas biológicas ou invasão de sistemas.

Milhares de variantes de modelos modificados dessa forma já circulam em repositórios públicos, e uma startup oferece comercialmente uma versão sem filtros do modelo GLM-5.3. Estudos apontam que contramedidas atuais tornam esse tipo de modificação mais difícil, mas não o impedem.

Diante dessa fragilidade, especialistas de diferentes países defendem que a solução mais robusta é atuar antes: evitar que conhecimento considerado perigoso entre no conjunto de dados usado para treinar modelos avançados, em vez de confiar apenas em bloqueios aplicados depois, na etapa de uso.

Tencent prepara lançamento do Hy4 com pesos abertos

É nesse cenário de tensão entre transparência e segurança que a Tencent anuncia o lançamento iminente do Hy4, descrito pela empresa como um modelo de pesos abertos acompanhado de um relatório de segurança detalhado.

De acordo com a Tencent, o Hy4 passa por uma avaliação específica na área de biologia. “Hy4 tem capacidades biológicas abaixo do limiar de alto risco”, afirma a companhia, em referência aos testes internos que buscam medir até onde o sistema consegue oferecer instruções potencialmente perigosas.

Para reduzir ameaças no campo cibernético, a Tencent diz ter removido as capacidades de hacking na raiz, por meio da filtragem dos dados de treinamento. A aposta é que, se o modelo não aprende a executar ou explicar certos ataques, técnicas como a Abliteration não conseguirão ressuscitar esse tipo de habilidade apenas mexendo nos pesos.

Pesquisadores próximos ao projeto avaliam que essa abordagem — focada em controlar o que o modelo aprende, e não só em aplicar filtros na etapa de uso — oferece maior resistência a ataques que removem salvaguardas e pode servir de referência para outros desenvolvedores que optarem por pesos abertos.

Reguladores chineses avançam em padrões de segurança

Na China, o órgão de padronização TC260, responsável por normas de segurança da informação, reconhece publicamente que “filtros de segurança em modelos abertos podem ser removidos ou contornados”. O grupo trabalha em padrões específicos para IA aberta, com foco em governança de riscos e critérios mínimos de proteção.

Um rascunho de marco regulatório chinês para controle de exportação inclui modelos especialmente grandes, mas isenta aqueles de pesos abertos que já tenham sido liberados. Na prática, isso mantém a porta aberta para a circulação internacional de muitos modelos já publicados, enquanto regula com mais rigor futuras versões de ponta.

Nem China nem Estados Unidos estabeleceram, até agora, um limite vinculante de capacidade técnica a partir do qual um grande modelo não poderia mais ser lançado em formato aberto. A indefinição aumenta a pressão sobre empresas para autoimpor critérios de segurança — como o relatório que deve acompanhar o Hy4 — e sobre reguladores, que tentam correr atrás da velocidade da inovação.

Como grandes laboratórios dos EUA estão reagindo

Nos Estados Unidos, a Anthropic e a OpenAI restringem o acesso aos modelos mais avançados em cibersegurança e biologia a parceiros selecionados, por meio de programas específicos. Além disso, passaram a adotar filtros mais agressivos para consultas sobre temas sensíveis.

Desde a versão conhecida como Claude Fable 5, as consultas consideradas suspeitas na área de cibersegurança e biologia são redirecionadas automaticamente para um modelo mais fraco, o Opus 4.8. Levantamento independente indicou que, no início, entre 8% e 9% das tarefas submetidas sofreram esse redirecionamento, gerando queixas de usuários.

Houve inclusive relatos de tarefas médicas legítimas, como análise de imagens de ressonância magnética, sendo bloqueadas por engano e classificadas como potenciais pedidos de bioterrorismo. A Anthropic reconheceu que os filtros estavam excessivamente restritivos e passou a calibrá-los.

O episódio ilustra um dos dilemas centrais da linha mais fechada: aumentar a segurança pode, ao mesmo tempo, prejudicar o uso em aplicações médicas, científicas e empresariais de baixo risco, reduzindo o valor prático da tecnologia para quem segue a lei.

Disputa que define o rumo da IA crítica

As posições contrastantes de Yao e Amodei ajudam a desenhar os blocos em disputa em torno da próxima geração de modelos de IA, em especial aqueles com impacto direto sobre biotecnologia, saúde pública, defesa e cibersegurança.

Enquanto a Tencent tenta construir um modelo híbrido — pesos abertos, mas treinamento filtrado e relatório de risco —, laboratórios americanos continuam apostando em acesso restrito e forte controle na camada de uso. No meio desse confronto, reguladores chineses e americanos ainda buscam padrões mínimos que não travem a inovação, mas reduzam a chance de que a próxima grande descoberta em IA ajude mais terroristas e criminosos do que médicos e investigadores.