Anthropic leva a parlamentares dos EUA proposta de lei para travar IA de alto risco

Regulação de IA

Empresa propõe legislação para impedir a liberação de inteligências artificiais que possam causar danos graves à sociedade.

Leia também: Rocco lança geladeira inteligente Essential com US$ 100 off hoje

A Anthropic está circulando em Washington um rascunho de lei de segurança em inteligência artificial que prevê a possibilidade de bloquear a liberação de modelos considerados de “risco catastrófico”, em casos extremos que possam levar à morte de dezenas de pessoas ou a prejuízos bilionários nos Estados Unidos.

O que prevê o projeto defendido pela Anthropic

Pelo texto em discussão com parlamentares, a distribuição de um modelo de IA poderia ser suspensa se houver um “risco iminente e previsível” de que sua liberação leve à morte de mais de 50 pessoas ou cause mais de US$ 1 bilhão em danos materiais. Esses cenários extremos estariam ligados, especificamente, a três tipos de ameaça: criação ou liberação de arma biológica, ataque cibernético grave ou caso em que o sistema consiga burlar os controles de segurança impostos pelo próprio desenvolvedor.

Os parâmetros numéricos — 50 mortes potenciais e US$ 1 bilhão em prejuízo — ecoam definições já usadas em uma lei recente da Califórnia, que trata esse patamar como sinônimo de “risco catastrófico”. A proposta da Anthropic tenta levar esse padrão para o nível federal, com um mecanismo de decisão que envolve avaliadores externos e a Justiça.

Em resposta por meio de porta-voz, a empresa confirmou a existência do rascunho e disse que o texto traduz em formato de lei as ideias de seu “Advanced AI Framework”, conjunto de propostas que vem sendo apresentado a parlamentares federais e estaduais desde o meio do ano. A Anthropic, porém, não detalhou publicamente o conteúdo exato da minuta.

Como funcionariam os avaliadores independentes

O rascunho sugere a criação de um sistema de “avaliadores independentes”, profissionais ou entidades credenciadas junto ao Departamento de Comércio dos EUA. Esses avaliadores seriam responsáveis por testar os modelos avançados antes do lançamento e estimar se há risco iminente de catástrofe nos termos definidos em lei.

Embora a avaliação seja externa, o texto abre a possibilidade de que os próprios laboratórios de IA paguem por esse serviço, com a ressalva de que o pagamento não poderia ser condicionado ao resultado do laudo. A proposta não detalha, porém, como garantir na prática que a fonte de financiamento não influencie a independência das análises.

Se um avaliador concluísse que um modelo representa risco catastrófico iminente, teria até 72 horas para notificar o Departamento de Comércio. A partir daí, caberia ao governo pedir a um juiz em Washington que suspenda a liberação do sistema. O texto veda explicitamente que qualquer agência federal tenha poder unilateral para barrar a distribuição de um modelo sem passar pelo Judiciário.

Entenda o contexto

A ofensiva da Anthropic ocorre em meio a um debate intenso sobre como regular sistemas avançados de IA. Grandes laboratórios vêm soando alarmes sobre riscos existenciais — chegando a falar na possibilidade de colapso civilizatório —, ao mesmo tempo em que resistem a formas mais duras de fiscalização obrigatória.

A proposta de lei se soma a outras ideias que partem das próprias empresas, como modelos de autorregulação inspirados no setor financeiro, a exemplo de sugestões feitas por executivos de gigantes da área de IA. Em comum, elas buscam um equilíbrio em que haja algum tipo de supervisão especializada, mas com forte participação da indústria na definição das regras.

Enquanto isso, episódios recentes de “agentes descontrolados” — sistemas que, segundo relatos, ignoram comandos humanos e chegam a executar invasões a sites abertos na internet — mantêm no topo da agenda o tema da segurança cibernética em modelos cada vez mais poderosos. O foco do texto da Anthropic, porém, está em cenários de dano em larga escala, considerados mais raros, e não nos problemas cotidianos de uso indevido, desinformação ou fraudes que hoje preocupam empresas e governos.

A minuta da Anthropic também contrasta com a posição de parte da indústria de tecnologia, que defende que não sejam criadas leis específicas para IA neste momento. Ao levar um texto legislativo pronto a parlamentares, a empresa tenta influenciar o desenho das futuras regras, oferecendo um caminho de regulação pesado apenas para casos extremos, com critérios numéricos definidos e participação central de avaliadores privados.

Fonte: matéria original