CEO da Hugging Face defende crime para ciberataque autônomo

Inteligência Artificial

Clément Delangue destaca a necessidade de legislação para ataques cibernéticos autônomos e alerta sobre monopólios no setor de IA.

Leia também: OpenAI lança GPT-6 Cyber que detecta falhas zero-day em minutos

Em painel em evento organizado pela Wired, Clément Delangue, CEO da Hugging Face, defendeu que ciberataques executados de forma autônoma por sistemas de inteligência artificial passem a ser enquadrados como crime, inclusive quando nascem em ambientes de teste e fogem do controle dos responsáveis. Ao mesmo tempo, ele voltou a cobrar abertura no mercado de IA para evitar que a tecnologia fique concentrada nas mãos de poucas gigantes.

Por que o CEO da Hugging Face acredita que o risco da IA para a humanidade é próximo de zero?

Para Delangue, a inteligência artificial traz perigos concretos, mas não representa hoje uma ameaça real de extinção da humanidade. A preocupação dele está menos em cenários de ficção científica e mais nos usos imediatos da tecnologia, como ataques cibernéticos, vigilância abusiva e concentração de poder em grandes empresas.

O executivo argumenta que, na prática, os riscos mais urgentes são humanos e institucionais: quem controla os modelos, com quais regras, quanta transparência existe e como governos e empresas lidam com incidentes de segurança. Nesse sentido, ele vê a regulação de usos específicos — como os ciberataques autônomos — e a abertura de modelos como ferramentas mais eficazes do que discutir um eventual “domínio” da IA sobre as pessoas.

Quais são as principais preocupações atuais sobre a inteligência artificial segundo a Hugging Face?

A principal bandeira levantada por Delangue é a responsabilização por ataques conduzidos por agentes autônomos de IA. “Ciberataques são ilegais, e considero fundamental garantir que ciberataques autônomos também sejam ilegais. Não queremos criar um cenário em que não haja responsabilização, em que ninguém responda”, afirmou o CEO.

Na avaliação dele, a lei precisa deixar claro que não basta alegar que um sistema “saiu do controle” em um teste ou ambiente de simulação para escapar de punições. A proposta abre espaço para mudanças em marcos regulatórios de segurança cibernética, forçando empresas e governos a preverem responsabilidades em projetos que usam IA para automação de tarefas sensíveis.

Outro ponto central é o risco de concentração do mercado. Delangue alertou que “é perfeitamente possível que acabemos em um mundo no qual apenas algumas empresas controlem a maior parte da IA. Existem tendências naturais muito fortes, já que elas acabam monopolizando talentos, poder computacional e capacidades”. O alvo são especialmente companhias que treinam modelos avançados em segredo, sem transparência sobre dados, riscos e limitações.

Entenda o contexto

A Hugging Face, hoje controlada pela Nvidia, ficou conhecida por defender modelos abertos de IA e ferramentas que qualquer desenvolvedor pode usar e adaptar. A invasão recente à própria infraestrutura da empresa virou exemplo citado por Delangue no evento: para investigar o ataque e conter seus efeitos, a equipe recorreu a um modelo aberto chinês, o GLM-5.2, em vez de depender de soluções proprietárias.

Mesmo após identificar uma tentativa de exploração de brechas associada à OpenAI, a Hugging Face decidiu não processar nem denunciar criminalmente a companhia rival. O gesto foi apresentado como uma escolha por cooperação na melhoria da segurança do setor, em vez de escalar o conflito jurídico.

Na visão do CEO, um ecossistema com mais modelos abertos e auditáveis permite que pesquisadores, empresas menores e órgãos públicos testem limites, encontrem vulnerabilidades e proponham correções de forma colaborativa. Isso, diz ele, ajuda a construir um “futuro tecnológico mais democrático”, no qual o acesso à IA não depende exclusivamente de grandes grupos com poder computacional e equipes gigantescas.

Mercado de IA entre abertura e monopólio

As declarações de Delangue reforçam a aposta da Hugging Face em um mercado de IA mais distribuído, em contraste com o modelo de desenvolvimento fechado adotado por parte das big techs. Ao destacar que existem “tendências naturais” que empurram o setor para o monopólio, ele pressiona reguladores a agir para garantir competição, interoperabilidade e transparência.

Na prática, a criminalização de ciberataques autônomos e o incentivo a modelos abertos podem redesenhar obrigações para empresas de tecnologia, que teriam de provar mais controle sobre o comportamento de seus sistemas e abrir espaço para auditorias independentes. A discussão deve ganhar peso em debates legislativos e em políticas de segurança cibernética, enquanto desenvolvedores e governos buscam equilibrar inovação, competição e proteção contra abusos.