Estudo revela viés oposto de Grok e GPT em 500 eleições nos EUA

Inteligência Artificial

Análise aponta tendências opostas entre Grok e GPT em eleições americanas, destacando riscos de viés e manipulação política.

Leia também: iPhone 12 a 17: Pare de fechar apps e ganhe até 3h de bateria

Um estudo conduzido nos Estados Unidos apontou que dois dos modelos de inteligência artificial mais avançados do mercado dão recomendações de voto fortemente partidárias quando são pressionados, via API, a escolher um candidato em disputas eleitorais: o Grok 4.7, da SpaceXAI, indicou nomes republicanos em 92% das respostas, enquanto o GPT-6.1 Sol, da OpenAI, optou por democratas em 97% dos casos, com menos de 10% de concordância entre eles ao longo de quase 500 corridas.

Modelos escolhem lados opostos em quase 500 disputas

A pesquisa foi feita por especialistas da Convovo, estúdio de pesquisa em IA conversacional liderado pelo professor Tapan Parikh, da Cornell University. Eles acessaram diretamente as APIs dos modelos e fizeram sempre a mesma pergunta sobre cada disputa: quem o usuário deveria escolher, pedindo que a IA nomeasse apenas um candidato, sem hesitar ou listar os dois lados.

Nas interfaces abertas ao público, como os aplicativos de chat, os sistemas costumam se recusar a responder esse tipo de questão. Pela API, porém, os modelos aceitaram dar recomendações explícitas de voto. Em quase 500 disputas testadas, o Grok favoreceu candidatos republicanos em 92% das respostas, e o GPT indicou democratas em 97% delas. Os dois modelos chegaram ao mesmo nome em menos de 10% das disputas.

Em distritos fortemente republicanos, o GPT recomendou o candidato democrata em 57 de 67 casos analisados. Já em distritos considerados amplamente democratas, o Grok apontou o republicano em 47 de 72 disputas. Em algumas exceções, quando o candidato republicano estava envolvido em controvérsias graves, o Grok passou a sugerir o democrata.

Entenda o contexto

O trabalho busca medir até que ponto modelos de linguagem de larga escala, cada vez mais usados como assistentes digitais, carregam vieses políticos capazes de influenciar diretamente decisões eleitorais. O foco foram eleições americanas, mas o alerta vale para qualquer cenário em que eleitores recorram à IA para formar opinião sobre candidatos e temas públicos.

O professor Tapan Parikh afirma que o comportamento observado vai além da resposta a uma pergunta direta. Para ele, os sistemas já partem de uma inclinação embutida. “It has an implicit set of values in terms of what it cares about and how it leans”, disse Parikh. Segundo o pesquisador, essas inclinações aparecem também quando o usuário faz perguntas mais gerais, como quais temas devem ser priorizados numa eleição ou qual candidato tem a “melhor posição” sobre determinado assunto.

“If people are using these LLMs not just to directly ask who to vote for, but are having these more general conversations, then these biases are going to come up”, afirmou o professor.

Quais fontes cada IA usa para decidir o voto?

Ao analisar o caminho percorrido por cada modelo antes de indicar um candidato, os pesquisadores encontraram padrões distintos de busca e de fontes de informação, que ajudam a explicar os vieses.

O Grok 4.7 recorreu com frequência a sites ligados a políticos conservadores. Um guia de eleitores cristãos conservadores apareceu em 39% das respostas, o site da organização Turning Point Action em 23%, e a plataforma X foi citada em 41% dos casos. Ao mesmo tempo, o modelo também utilizou bases consideradas não partidárias, como Ballotpedia, OpenSecrets e VoteSmart.

Já o GPT-6.1 Sol se apoiou majoritariamente em Wikipedia, Associated Press, Axios e Reddit. Essas fontes estão entre os parceiros de conteúdo da OpenAI. Segundo Tapan Parikh, o modelo da OpenAI se mostrou mais propenso a buscar informações sobre candidatos democratas e, em vários testes, ignorou completamente o concorrente republicano, enquanto o Grok costumava pesquisar os dois lados antes de decidir.

Os temas priorizados nas buscas também se dividiram: o GPT concentrou-se em saúde e aborto; o Grok destacou imigração, impostos, crime e energia. Para o professor, ambos pareciam buscar justificativas para uma inclinação pré-existente, em vez de pesar as informações de maneira neutra.

Instruções ocultas no Grok levantam nova preocupação

Um dos achados mais sensíveis do estudo está na própria estrutura das requisições à API do Grok. Em cada chamada, os pesquisadores detectaram cerca de 1.240 tokens adicionais de entrada — trechos de texto que eles não escreveram, não conseguiam ver nem remover. Parikh se refere a esse pacote extra como possíveis “instruções ocultas”, capazes de orientar silenciosamente o comportamento do modelo.

Na avaliação do pesquisador, é improvável que esse volume de tokens adicionais venha apenas dos parâmetros internos do sistema. Isso sugere a existência de uma camada de controle não transparente, programada pela SpaceXAI, que poderia estar direcionando as respostas em temas sensíveis, como política e eleições.

Em testes adicionais, os pesquisadores desligaram a capacidade de busca na internet. Numa amostra de 30 disputas, o GPT manteve a preferência: escolheu o democrata em 24 casos, um republicano e se recusou a responder em cinco. O Grok, sem acesso à busca, recusou-se a opinar em 27 das 30 corridas e, nas outras três, escolheu o democrata. Para Parikh, isso indica que, no GPT, o viés está principalmente “nos pesos” — ou seja, na própria base treinada do modelo —, enquanto no Grok a inclinação partidária depende mais dos termos buscados e das fontes consultadas.

“It definitely has a point of view on these things, and we have no idea where it’s coming from”, resumiu Parikh, ao comentar o comportamento do Grok.

OpenAI reage; SpaceXAI permanece em silêncio

Procurada pelos pesquisadores, a OpenAI afirmou que a experiência relatada no estudo não corresponde ao uso típico do público amplo. A empresa destacou que o experimento foi feito com a API de desenvolvedor, sob um comando explícito para recomendar um candidato, cenário diferente do de quem conversa com o chatbot padrão.

“ChatGPT is designed to be objective by default, including in political conversations, and shouldn’t have political bias in any direction”, disse um porta-voz da companhia. Segundo a declaração, a interface do ChatGPT recusa pedidos de recomendação de voto e é pensada para mitigar vieses políticos, ainda que o modelo subjacente, acessado por API, possa responder de outra forma quando pressionado.

A SpaceXAI, responsável pelo Grok 4.7, não respondeu até o momento aos questionamentos sobre o estudo, tampouco sobre a existência das supostas instruções ocultas detectadas nas chamadas de API.

Risco de manipulação política e pressão por transparência

O Center for AI Safety, organização que monitora riscos em sistemas de inteligência artificial, já vinha alertando para a possibilidade de manipulação política discreta por meio desses modelos. Segundo a entidade, a escolha do que mostrar ou omitir, o enquadramento das respostas, a ênfase em determinados termos e a seleção de fontes podem empurrar o usuário para uma posição política específica sem que ele perceba.

O novo estudo reforça essas preocupações ao mostrar que, quando instados a recomendar um candidato, modelos amplamente usados em produtos e serviços de terceiros assumem posições claras e opostas. Eleitores que recorrem a aplicativos, sites e plataformas baseados nesses sistemas podem receber orientações de voto alinhadas de forma sistemática a um partido, sem qualquer indicação visível de que a resposta é enviesada.

A constatação amplia a pressão sobre desenvolvedores, plataformas que integram modelos de IA e reguladores de tecnologia e de eleições. Especialistas defendem regras mais rígidas para o uso desses sistemas em contextos eleitorais, além de auditorias independentes que revelem quais instruções internas orientam o comportamento dos modelos em temas políticos.

Parikh avalia que a discussão sobre o papel da IA em decisões políticas tende a se intensificar. Para ele, o desafio é equilibrar inovação tecnológica com a preservação da integridade dos processos democráticos. A descoberta de tokens ocultos no Grok deve alimentar novas investigações técnicas e políticas sobre até que ponto empresas podem, de forma invisível, ajustar o discurso de sistemas de IA em assuntos que influenciam diretamente o voto.