ADP amplia governança de IA com supervisão humana rigorosa

Governança de IA

ADP reforça práticas para garantir transparência e segurança em suas soluções de inteligência artificial.

Leia também: Startup de IA ASI capta US$ 325 mi e vale US$ 3 bi

A ADP, gigante global de gestão de capital humano e folha de pagamento que paga um em cada seis trabalhadores nos Estados Unidos, vem reforçando seus princípios de governança de inteligência artificial para garantir que o uso da tecnologia seja transparente, seguro e sempre sujeito à supervisão humana efetiva, tanto em processos internos quanto em produtos com IA incorporada, como o ADP Assist.

Supervisão humana além do “checklist”

No centro da estratégia está a ideia de que decisões sensíveis não podem ser deixadas apenas aos algoritmos. Helena Almeida, vice-presidente, managing counsel e AI legal officer da ADP, afirma que a empresa mantém um programa estruturado de IA responsável e princípios de ética em IA e dados desde 2018, que orientam o desenvolvimento e a implantação de soluções.

“ADP’s been using different versions of AI and machine learning for years. We have had a responsible AI program for a long time. We have had a set of ADP AI and data ethics since 2018 that govern how we develop and deploy AI”, diz Almeida.

Com a popularização da IA generativa, esses princípios foram atualizados e ganharam ainda mais peso. A premissa, segundo a executiva, é que decisões que impactam salário, emprego ou direitos legais precisam de momentos claros de interação humana, com condições reais para questionar o que a máquina propõe.

“We really need a meaningful opportunity for a human to participate. We need to make sure that the person understands the rules of AI and has enough context to figure out when there are unusual or questionable results”, afirma. “We cannot have it be a ceremonial checkbox.”

Como a IA entra nas rotinas de RH e folha

A ADP usa IA em tarefas internas de tecnologia, como apoio a desenvolvimento de código e geração de imagens e vídeos, e também em produtos voltados a clientes. Um dos principais é o ADP Assist, suíte de agentes de IA que opera em diferentes fluxos de trabalho de recursos humanos e de folha de pagamento, automatizando atividades administrativas de baixo risco e aliviando a carga das equipes.

Esses agentes podem, por exemplo, ajudar na triagem de demandas de funcionários, na consolidação de informações de folha e em consultas rotineiras, liberando o time de RH para se concentrar em decisões estratégicas ou casos complexos. Nessas frentes automatizadas, a avaliação da ADP é que a intervenção humana constante não é necessária.

Já nos pontos em que a tecnologia influencia diretamente remuneração, contratação, desligamento ou outros direitos, o desenho dos sistemas prevê revisões humanas estruturadas, com alertas para resultados atípicos. A empresa também busca mitigar o chamado “viés de automação”, quando usuários tendem a aceitar automaticamente a resposta dada pela IA.

Entenda o contexto

Para sustentar essa governança, a ADP mantém desde 2018 um conselho de ética em IA e dados com especialistas internos e externos em direito, privacidade, ética, RH e desenvolvimento de produtos. Esse grupo revisa casos de uso, avalia riscos e orienta ajustes de processos conforme surgem novas aplicações de IA e novas regras ao redor do mundo.

A companhia atua em um ambiente regulatório fragmentado, especialmente nos Estados Unidos, onde diferentes estados avançam com normas próprias para sistemas automatizados de decisão. Ao mesmo tempo, outras regiões, como Europa e partes da Ásia, também adotam legislação específica sobre IA.

Almeida destaca que, apesar das diferenças, há um núcleo comum: transparência para o usuário, explicabilidade dos modelos, gestão de riscos, proteção de privacidade, segurança e monitoramento contínuo. É sobre esses pilares que a ADP construí seus processos, o que, na avaliação da empresa, ajuda a atravessar ondas sucessivas de mudanças regulatórias.

Padrão elevado para o mercado de tecnologia em RH

A exigência de supervisão humana significativa tem efeitos diretos sobre a operação da ADP. A companhia precisa formar equipes multidisciplinares, treinar usuários internos e clientes para entender limites e capacidades da IA e manter programas de monitoramento para identificar falhas, vieses ou usos indevidos.

Esse esforço vem sendo visto como referência em um momento de maior preocupação pública com riscos da IA. Na prática, a abordagem cria uma camada adicional de proteção para trabalhadores — reduzindo a chance de erros em folha de pagamento ou decisões automatizadas injustas — e dá às empresas clientes mais segurança jurídica ao adotar ferramentas avançadas em processos sensíveis.

A ADP também afirma que não participa de aplicações de IA proibidas por legislações que as considerem inseguras para usuários finais, reforçando o recorte voltado a usos compatíveis com direitos dos trabalhadores e com leis locais.

“We pay one out of six workers [in the US]. These workers have personal experience with ADP and receive their paychecks from ADP”, lembra Helena Almeida, ao destacar que o alcance da empresa aumenta a responsabilidade sobre qualquer decisão apoiada por IA.

Os próximos passos incluem seguir atualizando políticas internas, modelos e treinamentos à medida que a IA generativa se torna mais sofisticada e que novas normas surgem em diferentes mercados, em uma tentativa de equilibrar ganhos de eficiência com a proteção de dados sensíveis e de direitos trabalhistas.

Fonte: matéria original