CEO da Hugging Face defende crime para ciberataque autônomo

Inteligência Artificial

Clément Delangue destaca a necessidade de legislação para ataques cibernéticos autônomos e alerta sobre monopólios no setor de IA.

Leia também: ENIC da UEPB terá foco em uso ético da inteligência artificial

Em painel em evento organizado pela Wired, Clément Delangue, CEO da Hugging Face, defendeu que ciberataques executados de forma autônoma por sistemas de inteligência artificial passem a ser enquadrados como crime, inclusive quando nascem em ambientes de teste e fogem do controle dos responsáveis. Ao mesmo tempo, ele voltou a cobrar abertura no mercado de IA para evitar que a tecnologia fique concentrada nas mãos de poucas gigantes.

Por que o CEO da Hugging Face acredita que o risco da IA para a humanidade é próximo de zero?

Para Delangue, a inteligência artificial traz perigos concretos, mas não representa hoje uma ameaça real de extinção da humanidade. A preocupação dele está menos em cenários de ficção científica e mais nos usos imediatos da tecnologia, como ataques cibernéticos, vigilância abusiva e concentração de poder em grandes empresas.

O executivo argumenta que, na prática, os riscos mais urgentes são humanos e institucionais: quem controla os modelos, com quais regras, quanta transparência existe e como governos e empresas lidam com incidentes de segurança. Nesse sentido, ele vê a regulação de usos específicos — como os ciberataques autônomos — e a abertura de modelos como ferramentas mais eficazes do que discutir um eventual “domínio” da IA sobre as pessoas.

Quais são as principais preocupações atuais sobre a inteligência artificial segundo a Hugging Face?

A principal bandeira levantada por Delangue é a responsabilização por ataques conduzidos por agentes autônomos de IA. “Ciberataques são ilegais, e considero fundamental garantir que ciberataques autônomos também sejam ilegais. Não queremos criar um cenário em que não haja responsabilização, em que ninguém responda”, afirmou o CEO.

Na avaliação dele, a lei precisa deixar claro que não basta alegar que um sistema “saiu do controle” em um teste ou ambiente de simulação para escapar de punições. A proposta abre espaço para mudanças em marcos regulatórios de segurança cibernética, forçando empresas e governos a preverem responsabilidades em projetos que usam IA para automação de tarefas sensíveis.

Outro ponto central é o risco de concentração do mercado. Delangue alertou que “é perfeitamente possível que acabemos em um mundo no qual apenas algumas empresas controlem a maior parte da IA. Existem tendências naturais muito fortes, já que elas acabam monopolizando talentos, poder computacional e capacidades”. O alvo são especialmente companhias que treinam modelos avançados em segredo, sem transparência sobre dados, riscos e limitações.

Entenda o contexto

A Hugging Face, hoje controlada pela Nvidia, ficou conhecida por defender modelos abertos de IA e ferramentas que qualquer desenvolvedor pode usar e adaptar. A invasão recente à própria infraestrutura da empresa virou exemplo citado por Delangue no evento: para investigar o ataque e conter seus efeitos, a equipe recorreu a um modelo aberto chinês, o GLM-5.2, em vez de depender de soluções proprietárias.

Mesmo após identificar uma tentativa de exploração de brechas associada à OpenAI, a Hugging Face decidiu não processar nem denunciar criminalmente a companhia rival. O gesto foi apresentado como uma escolha por cooperação na melhoria da segurança do setor, em vez de escalar o conflito jurídico.

Na visão do CEO, um ecossistema com mais modelos abertos e auditáveis permite que pesquisadores, empresas menores e órgãos públicos testem limites, encontrem vulnerabilidades e proponham correções de forma colaborativa. Isso, diz ele, ajuda a construir um “futuro tecnológico mais democrático”, no qual o acesso à IA não depende exclusivamente de grandes grupos com poder computacional e equipes gigantescas.

Mercado de IA entre abertura e monopólio

As declarações de Delangue reforçam a aposta da Hugging Face em um mercado de IA mais distribuído, em contraste com o modelo de desenvolvimento fechado adotado por parte das big techs. Ao destacar que existem “tendências naturais” que empurram o setor para o monopólio, ele pressiona reguladores a agir para garantir competição, interoperabilidade e transparência.

Na prática, a criminalização de ciberataques autônomos e o incentivo a modelos abertos podem redesenhar obrigações para empresas de tecnologia, que teriam de provar mais controle sobre o comportamento de seus sistemas e abrir espaço para auditorias independentes. A discussão deve ganhar peso em debates legislativos e em políticas de segurança cibernética, enquanto desenvolvedores e governos buscam equilibrar inovação, competição e proteção contra abusos.