Inspetor avalia investigar uso de IA do Home Office em asilos

Tecnologia

Órgão fiscalizador considera investigar ferramentas de IA do Home Office após denúncias de erros e falta de transparência em processos de asilo.

Leia também: Ex-Deepmind cria IA que prova cada resposta e reduz erros

O Escritório do Interior do Reino Unido (Home Office) pode passar por uma investigação formal sobre o uso de ferramentas de inteligência artificial generativa em processos de asilo, após denúncias de erros graves e falta de transparência no sistema que ajuda a decidir o futuro de solicitantes que fogem de perseguição.

Órgão de fiscalização avalia abrir investigação

O Inspetor Chefe Independente de Fronteiras e Imigração (ICIBI), responsável por monitorar a atuação do Home Office em fronteiras e imigração, pediu informações adicionais ao grupo de direitos digitais Open Rights Group (ORG) enquanto define o plano de inspeções do próximo ano. O ORG concluiu uma investigação de seis meses sobre as ferramentas usadas em casos de asilo, apontando falhas técnicas e opacidade do governo.

Segundo o grupo, o trabalho envolveu 11 perguntas parlamentares, duas cartas ministeriais e dez pedidos de acesso a registros públicos para tentar detalhar o funcionamento das soluções adotadas pelo Home Office — informações que vêm sendo tratadas com sigilo pelo governo. O ICIBI afirma estar ciente das preocupações com o uso de IA em imigração, mas só deve confirmar se o tema entrará oficialmente na agenda quando divulgar suas prioridades anuais de inspeção.

Como o Home Office usa IA em casos de asilo

O Home Office utiliza duas ferramentas baseadas no modelo GPT‑4 da OpenAI, rodando na plataforma Microsoft Foundry: o Asylum Case Summarisation (ACS) e o Asylum Policy Search (APS). Na prática, o objetivo é acelerar a análise de um acúmulo de cerca de 100 mil casos de asilo pendentes e dar conta de milhares de novos pedidos por ano.

O ACS serve para resumir transcrições de entrevistas nas quais solicitantes relatam perseguições e os motivos pelos quais temem voltar a seus países de origem. Já o APS funciona como buscador e sintetizador de informações sobre políticas e condições nos países de origem, ajudando a determinar se a pessoa corre risco real de dano ao regressar.

Estimativas internas apontam que o uso combinado das duas ferramentas pode economizar cerca de uma hora de trabalho por caso, ao reduzir o tempo gasto por servidores na leitura de longas entrevistas e na consulta a documentos de política externa e direitos humanos.

Taxa de erro e vieses preocupam especialistas

Para pesquisadores e entidades de direitos digitais, o ganho de velocidade não compensa os riscos de imprecisão em decisões que podem definir se alguém será enviado de volta a um lugar onde teme perseguição. O ORG afirma que a porcentagem de resumos gerados pelo ACS considerados impróprios para uso — por conterem erros factuais ou distorções — é significativamente maior do que a taxa de erro de 9% divulgada na avaliação piloto do governo.

Outro ponto levantado é que não há controle de qualidade sistemático para os resumos sobre políticas de países produzidos pelo APS, apesar de eles influenciarem diretamente a conclusão sobre se o país é considerado seguro para o retorno do solicitante. Em um caso recente, um juiz britânico criticou o Home Office por ter usado um documento descrito como “alucinado” pela IA ao negar o pedido de asilo de uma mulher marroquina e de seu filho, com base na avaliação equivocada de que o país de origem seria seguro para o retorno.

Organizações como o ORG e o Public Law Project também alertam para o risco de viés cultural nos modelos GPT, que podem não captar nuances de linguagem, contexto político ou referências culturais presentes nos depoimentos e relatórios sobre determinados países. Isso, segundo as entidades, pode levar a interpretações erradas, barreiras linguísticas adicionais e, em última instância, decisões discriminatórias.

Críticas no Parlamento e na sociedade civil

No Parlamento britânico, o uso de IA em um cenário tão sensível também vem sendo contestado. “Estamos lidando com vidas humanas. Estamos falando de pessoas que enfrentaram algumas das piores circunstâncias, e deveríamos estar tomando decisões com base em fatos e na compreensão do dano”, afirmou a deputada trabalhista Bell Ribeiro-Addy. “Eu simplesmente não acho apropriado que máquinas façam isso”, completou.

Grupos de direitos humanos e advogados de imigração argumentam que, mesmo quando a decisão final é tomada por um servidor, a dependência de resumos e buscas automatizadas influencia fortemente o resultado do processo. O temor é que relatórios gerados pela IA, com erros sutis ou vieses não detectados, acabem naturalizados na rotina de trabalho e raramente sejam questionados.

O que diz o governo britânico

O Home Office sustenta que as ferramentas de IA são apenas auxiliares e que a responsabilidade pela decisão segue com funcionários treinados. “As decisões de asilo são tomadas por analistas capacitados, com ferramentas de IA usadas apenas para auxiliar na navegação por registros de entrevistas e informações de política. Elas não podem ser usadas isoladamente e não tomam decisões sobre os pedidos”, afirmou um porta-voz do órgão.

Em outra declaração, o mesmo porta-voz reforçou que “o uso de inteligência artificial é apenas uma das ferramentas à nossa disposição para proteger nossas fronteiras, e não substitui nem automatiza o papel de tomadores de decisão humanos”. O Home Office diz ainda monitorar continuamente o desempenho das ferramentas, dentro de processos já estabelecidos de garantia de qualidade, e promete publicar avaliações atualizadas sobre a expansão do sistema.

Transparência em xeque e possível violação de direitos

Apesar das garantias oficiais, o caso reacende um debate mais amplo sobre transparência e controle público de algoritmos usados pelo Estado em decisões que afetam diretamente direitos fundamentais. No Reino Unido, um guia interno conhecido como “AI Playbook” exige que departamentos divulguem as ferramentas algorítmicas empregadas em processos decisórios, mantendo um repositório público com essas informações.

Segundo o ORG e o Public Law Project, porém, as ferramentas ACS e APS não aparecem nessa lista, apesar de serem classificadas pelos pesquisadores como sistemas de alto risco. Levantamento do Public Law Project identifica pelo menos 11 sistemas de IA dessa natureza em uso em diferentes áreas do governo que não constam do repositório oficial, o que levanta suspeitas de subnotificação e falta de supervisão independente.

Outro ponto sensível é que solicitantes de asilo não são informados de que suas entrevistas e dados podem estar sendo processados por sistemas de IA. Advogados consultados pelo ORG avaliam que a impossibilidade de contestar um resumo incorreto gerado por essas ferramentas pode violar leis de proteção de dados, que garantem aos cidadãos o direito de saber como suas informações pessoais são usadas e de questionar decisões automatizadas.

Os achados foram enviados ao órgão regulador de dados do Reino Unido, que já investiga a recusa do Home Office em detalhar como servidores usam e foram treinados para operar as duas ferramentas de IA, e agora também podem embasar uma eventual inspeção formal pelo ICIBI.

Entenda o contexto

As críticas ao Home Office surgem em meio a uma ofensiva do governo britânico para acelerar a análise de pedidos de asilo, após anos de acúmulo. Em doze meses até meados deste ano, o número de pessoas à espera de uma decisão inicial foi reduzido pela metade, mas, ao mesmo tempo, os recursos contra negativas aumentaram de forma expressiva, indicando possível deterioração na qualidade de parte das decisões.

A OpenAI, desenvolvedora do modelo GPT‑4 que serve de base às ferramentas usadas pelo governo, reconhece limitações na precisão de seus sistemas e afirma trabalhar em melhorias contínuas, além de planejar a aposentadoria do modelo atual em breve. A empresa defende que, mesmo com avanços, modelos de linguagem ainda podem apresentar erros factuais e vieses, o que reforça a necessidade de supervisão humana robusta e de critérios éticos claros para uso em contextos de alto impacto.

Se o ICIBI confirmar a investigação, a expectativa de organizações de direitos humanos e de especialistas em tecnologia é que o órgão recomende regras mais rígidas de transparência, auditorias independentes e mecanismos que garantam que nenhum sistema automatizado possa comprometer, sem contestação adequada, o direito à proteção de pessoas que buscam refúgio no país.