DRCF alerta: empresas são responsáveis por erros de IA autônoma

Regulação de IA

Órgão britânico reforça a responsabilidade das empresas sobre falhas e transparência em agentes autônomos de inteligência artificial.

Leia também: Computadores dominam análise em nuvem e mudam equipes de TI

O Digital Regulation Cooperation Forum (DRCF), que reúne quatro reguladores do Reino Unido, afirmou nesta semana que empresas que desenvolvem ou utilizam agentes pessoais de inteligência artificial continuam integralmente responsáveis por erros, decisões e uso de dados dessas ferramentas, e não podem culpar a autonomia da IA para escapar de obrigações legais.

Reguladores deixam claro: lei atual vale para agentes de IA

No comunicado conjunto, o DRCF enfatiza que as estruturas legais em vigor se aplicam diretamente aos agentes pessoais de IA, usados para tarefas como fazer compras, interagir com serviços digitais e se comunicar com empresas em nome dos usuários.

“Nós queremos ser explícitos ao afirmar que os marcos legais e regulatórios existentes se aplicam a agentes pessoais de IA, incluindo leis de concorrência, proteção ao consumidor e proteção de dados, exigências de segurança online, serviços financeiros, pagamentos e cibersegurança”, diz o fórum, em inglês: “We want to be explicit that existing legal and regulatory frameworks apply to personal AI agents, including competition, consumer and data protection law, online safety, financial services, payments and cyber security requirements”.

O DRCF é formado pela autoridade de concorrência (Competition and Markets Authority), pelo regulador financeiro (Financial Conduct Authority), pelo órgão de proteção de dados (Information Commissioner’s Office) e pela agência de comunicações (Ofcom. Ao agir em conjunto, o grupo busca dar um recado unificado ao mercado de tecnologia e aos grandes provedores de serviços digitais.

Empresas seguem responsáveis, mesmo com IA autônoma

O ponto central do documento é afastar a tese de que decisões tomadas por sistemas autônomos poderiam reduzir a responsabilidade das empresas que os criam ou operam. “A autonomia de um agente de IA não diminui a responsabilidade das organizações que o implantam de cumprir a legislação e regulamentação aplicáveis”, afirma o fórum: “An AI agent’s autonomy does not diminish the responsibility of organisations that deploy it to comply with applicable law and relevant regulation”.

Na prática, isso significa que bancos, fintechs, varejistas online, operadoras de telecomunicações e grandes plataformas digitais que adotem agentes pessoais de IA para lidar com clientes precisarão responder por qualquer dano causado por decisões erradas ou abusivas dessas tecnologias.

O DRCF também reforça que as empresas devem deixar claro como esses agentes funcionam, quando estão agindo em nome do usuário, de que maneira a autorização é concedida e como os dados pessoais são coletados, tratados e compartilhados. A orientação é que desenvolvedores e operadores “pensem cuidadosamente” sobre a transparência oferecida ao consumidor.

Entenda o contexto

Agentes pessoais de IA são sistemas que atuam como “assistentes autônomos”, capazes de tomar decisões e executar ações em nome dos usuários, muitas vezes sem supervisão direta a cada passo. Eles podem, por exemplo, comparar ofertas, fechar contratos simples, negociar com empresas ou gerenciar pagamentos dentro de aplicativos e plataformas.

Para o DRCF, esse tipo de tecnologia tem potencial de mudar o uso de serviços digitais e estimular novos modelos de negócios. “Ao agir em nome dos usuários, como fazer compras e se comunicar com empresas, esses agentes podem transformar a forma como as pessoas usam serviços digitais, interagem com mercados e destravam uma inovação mais ampla”, diz o comunicado, em inglês: “By taking action on behalf of users, such as making purchases and communicating with businesses, these agents could transform how people use digital services, engage with markets and unlock wider innovation”.

Ao mesmo tempo, cresce a incerteza jurídica sobre quem responde por uma decisão equivocada tomada por um agente autônomo, sobretudo em áreas sensíveis como concessão de crédito, investimentos, seguros ou ofertas personalizadas de produtos e serviços. Especialistas em governança de IA vêm alertando para esse “vazio” regulatório, que o DRCF tenta reduzir ao reafirmar a força das regras já existentes.

Impacto para empresas e consumidores

O recado dos reguladores obriga empresas que apostam em agentes de IA a reforçar controles internos, governança de dados e políticas de compliance. Será necessário explicar ao usuário, de forma acessível, o que o agente faz, quais decisões pode tomar, quais limites existem e como é possível revisar ou contestar essas decisões.

Organizações que não se adaptarem correm maior risco de sofrer sanções em áreas como defesa da concorrência, defesa do consumidor, proteção de dados pessoais e segurança online, além de enfrentar disputas judiciais por decisões automatizadas que causem prejuízos.

Para o consumidor, a mensagem é de proteção adicional. Ao reiterar que as empresas continuam sendo o “endereço” da responsabilidade, o DRCF busca garantir mais segurança jurídica e transparência em um momento em que interações com agentes de IA passam a fazer parte da rotina em aplicativos bancários, serviços de streaming, comércio eletrônico e atendimento digital.

Consulta pública e próximos passos

O comunicado integra um movimento mais amplo de coordenação entre os reguladores britânicos em temas de tecnologia e dados. Recentemente, o DRCF abriu uma consulta pública para ajudar a construir seu plano de trabalho 2027-27, com o objetivo de harmonizar os diferentes regimes regulatórios sob sua supervisão e reduzir sobreposições e zonas cinzentas.

O fórum indica que seguirá monitorando de perto a adoção de agentes pessoais de IA e poderá avançar em novas orientações ou ações regulatórias conforme o mercado evoluir. A posição firme do Reino Unido tende a servir de referência para outros países que discutem como enquadrar juridicamente sistemas de IA cada vez mais autônomos, buscando um equilíbrio entre estímulo à inovação e proteção efetiva dos direitos dos usuários.