Big techs consultam líderes religiosos para ética da IA até 2027

Ética em IA

Empresas de tecnologia buscam orientação religiosa para incorporar valores morais em inteligência artificial até 2027.

Leia também: Brasil fica de fora do acordo EUA para energia de IA em Itaipu

Empresas como Anthropic e OpenAI intensificam, nesta semana, encontros com líderes religiosos e filósofos para tentar embutir princípios morais em sistemas de inteligência artificial, numa tentativa de fazer com que chatbots e outros modelos de IA consigam distinguir o certo do errado em decisões do dia a dia.

A movimentação passa por reuniões com representantes de mais de 15 grupos religiosos e interculturais e inclui apresentações em eventos no Vaticano, num momento em que gigantes de tecnologia admitem que não têm sozinhas as respostas para os dilemas éticos trazidos pela IA.

Por que empresas estão usando a religião para ensinar ética à inteligência artificial?

Empresas de IA recorrem à religião porque veem nas tradições de fé um acúmulo milenar de debates morais que laboratórios de tecnologia não conseguem reproduzir. A aposta é que esse repertório ajude a estabelecer limites e critérios éticos para modelos que já tomam decisões com impacto direto na vida das pessoas.

“Essas não são perguntas que um laboratório possa responder”, disse o cofundador da Anthropic, Chris Olah, em uma apresentação no Vaticano sobre inteligência artificial. Segundo ele, questões como dignidade humana, responsabilidade e justiça vêm sendo discutidas há séculos por comunidades religiosas.

Sam Altman, CEO da OpenAI, defende que produtos como o ChatGPT não expressem apenas a visão de mundo de engenheiros do Vale do Silício. “O que eu acho que o ChatGPT deveria fazer é refletir essa média ponderada, ou algo assim, da visão moral da humanidade”, afirmou.

Ao convidar religiosos e filósofos para a mesa, as empresas também buscam responder à pressão pública por mais responsabilidade no uso da IA, em meio a temores de desinformação em massa, discriminação algorítmica e automação de decisões sensíveis, como concessão de crédito ou acesso a serviços públicos.

Como essas conversas funcionam na prática

Na Anthropic, fabricante do chatbot Claude, encontros recentes reuniram acadêmicos, clérigos, filósofos e especialistas em ética de mais de 15 grupos religiosos e interculturais. A empresa afirma que pretende ampliar esse leque.

Participante de uma dessas reuniões, a filósofa da religião Meghan Sullivan, da Universidade de Notre Dame, conta que o diálogo foi dividido em duas partes. Primeiro, engenheiros explicaram “em termos simples” como funcionam os modelos de IA. Depois, líderes religiosos discutiram implicações morais da tecnologia.

“A cultura dentro da empresa é semelhante à de um bom campus universitário, no sentido de que há um grupo de pessoas muito curiosas intelectualmente”, disse Sullivan. “Essas reuniões são bem nerds — não sei se essa é a melhor maneira de descrever —, no bom sentido.”

Entre os temas debatidos, estavam desde perguntas filosóficas clássicas — “os humanos têm alma?” — até dilemas concretos, como se crianças em alfabetização deveriam usar chatbots em sala de aula.

Além de Anthropic e OpenAI, outras gigantes de tecnologia têm enviado representantes a encontros com membros do Vaticano e lideranças de diferentes crenças, enquanto empresas como a Microsoft intensificam iniciativas com comunidades religiosas em vários países.

Quais são os desafios de aplicar princípios religiosos na ética da inteligência artificial?

O principal desafio é que as religiões não formam um manual único de regras que possa ser traduzido em código. Tradições de fé carregam doutrinas, rituais, hierarquias, histórias de opressão e resistência, além de se relacionar de forma diferente com temas como gênero, poder político e liberdade individual.

“Existe uma maneira muito convencional de pensar na religião como um livro de regras”, afirma o antropólogo Webb Keane, da Universidade de Michigan. Ele alerta, porém, que essa visão ignora a maneira “complicada, prática e improvisada” como os fiéis vivem sua fé.

Na prática, isso significa que tentar extrair um conjunto neutro de princípios religiosos para treinar IAs pode acabar privilegiando algumas tradições em detrimento de outras — sobretudo as mais parecidas com sistemas éticos ocidentais baseados em textos escritos e códigos morais explícitos.

Há ainda o risco de que, ao misturar múltiplas doutrinas em busca de uma espécie de consenso moral, os sistemas acabem apagando particularidades. Especialistas temem uma homogeneização em que diferenças profundas entre modos de vida religiosos se tornem um conjunto genérico de valores “aceitáveis”, muitas vezes mais próximos da cultura dominante no setor de tecnologia.

Entenda o contexto

Os grandes modelos de linguagem que movem chatbots funcionam prevendo, palavra a palavra, o que provavelmente vem em seguida em um texto, com base em padrões aprendidos em enormes quantidades de dados produzidos por humanos — incluindo conteúdos religiosos.

Empresas como a Anthropic dizem querer ir além desse aprendizado bruto. Em texto recente, a companhia afirmou buscar, nas conversas com religiosos e pensadores, “reflexão cuidadosa e acumulada sobre como o bom caráter realmente se forma”, sem alinhar seus modelos a uma tradição específica.

Para juristas e estudiosos da religião, no entanto, essa ambição esbarra em limitações técnicas e filosóficas. O advogado Paolo Carozza, especialista em pensamento social católico e tecnologia, alerta que sistemas de IA tendem a “misturar tudo, desorganizar tudo e, assim, acabar não dando sentido a nada” quando combinam visões muito diferentes sem o processo orgânico de debate interno que existe em cada tradição.

A discussão coloca pressão extra sobre as big techs: quanto mais a IA é usada em escolas, empresas, governos e na vida cotidiana, maior a cobrança para que decisões automatizadas reflitam não apenas o que é mais frequente nos dados, mas também valores que sociedades consideram justos e aceitáveis.

O resultado dessa aproximação entre fé e tecnologia ainda é incerto. Por enquanto, o que se vê é um experimento em andamento, em que engenheiros, padres, pastores, rabinos, monges, filósofos e acadêmicos dividem a mesma mesa para tentar responder a uma pergunta que até ontem parecia exclusiva dos humanos: que tipo de caráter queremos ver nas máquinas que estamos criando?