Anthropic contrata advogados para treinar IA que negocia por você

Inteligência Artificial

Empresa busca garantir ética e eficiência ao desenvolver IA capaz de negociar e tomar decisões complexas.

Leia também: Meta recua e exclui cláusula polêmica sobre dados para IA hoje

A Anthropic começou a consultar escritórios de advocacia e a contratar advogados especializados para definir como agentes de inteligência artificial poderão negociar em nome de usuários, da disputa de preços à revisão de contratos, sem aprofundar desigualdades entre quem tem acesso a modelos mais poderosos e quem fica para trás.

IA que pechincha por você

O plano da empresa é desenvolver agentes de IA capazes de conduzir negociações cotidianas, como desconto em serviços, resolução de reclamações com empresas e melhoria de cláusulas contratuais, representando diretamente o interesse do usuário. Para isso, a Anthropic está ouvindo bancas jurídicas na criação de normas de negociação consideradas justas, que estabeleçam limites e parâmetros de conduta para essas máquinas.

Experimentos internos mostraram que modelos de IA mais fortes tendem a conseguir acordos melhores. O resultado acende um alerta na própria Anthropic: se cada lado de uma negociação usar sistemas com capacidades muito diferentes, quem tiver o modelo mais avançado sai na frente, com potencial para ampliar desigualdades econômicas e de acesso a direitos.

As normas em discussão miram justamente esse risco, buscando formas de equilibrar o jogo quando agentes automatizados passarem a atuar em massa em setores como comércio, atendimento ao consumidor e até mediação de conflitos.

Entenda o contexto

A movimentação acontece em um momento em que grandes modelos de linguagem começam a sair da função de simples assistentes de texto para assumir tarefas mais autônomas, como interagir com sites, enviar e-mails e tomar decisões dentro de parâmetros definidos pelo usuário. Aplicados a negociações, esses sistemas podem lidar com grande volume de dados, lembrar todos os detalhes de um contrato e simular cenários, o que tende a tornar as conversas mais eficientes.

O ganho de eficiência, porém, vem acompanhado de dilemas éticos e regulatórios: quem é responsável se um agente de IA aceita um mau acordo? Como garantir que a máquina não explore brechas em excesso em benefício de um lado só? E o que acontece quando parte das pessoas não tem acesso à mesma tecnologia para se defender?

Como a Anthropic quer testar o Claude em direito e humanas

Para enfrentar essas perguntas, a Anthropic está abrindo vagas para advogados atuarem como Conceptual Reasoning Fellows, um programa de quatro meses dedicado a testar o modelo Claude em questões de julgamento complexo em direito, filosofia, ciência cognitiva, economia e ciência política.

Esses profissionais vão receber entre US$ 100.000 e US$ 167.000 pelo período, numa indicação de que a empresa decidiu investir pesado em expertise humana para calibrar o comportamento do sistema nas chamadas ciências humanas, onde as respostas raramente são preto no branco.

Na prática, os fellows devem construir casos de teste, cenários e critérios de avaliação para situações em que não há um gabarito objetivo, como a interpretação de uma cláusula ambígua, o equilíbrio de interesses em um litígio ou a aplicação de princípios de justiça em uma negociação automática.

Justin Curl, pesquisador de direito, instituições e IA na Anthropic, resume o desafio no campo jurídico: segundo ele, no direito é “notoriamente difícil definir qualidade”. Sem um padrão claro do que é uma boa resposta, melhorar o desempenho do modelo depende diretamente de especialistas que consigam traduzir intuições e práticas da área em avaliações consistentes.

Por que humanas são o calcanhar de Aquiles da IA

Ao contrário de matemática e programação, onde é relativamente simples gerar grandes volumes de dados verificáveis — certo ou errado, compila ou não compila —, áreas como direito, filosofia e política trabalham com dúvidas, interpretações concorrentes e valores em disputa. A Anthropic admite que essa falta de dados objetivos é um dos principais gargalos para treinar modelos capazes de raciocinar bem sobre o mundo real.

Ao trazer advogados e outros especialistas para perto, a empresa tenta construir uma espécie de “laboratório de julgamento humano”, no qual o Claude é confrontado com dilemas delicados e avaliado por gente que vive esses problemas na prática. A expectativa é que, a partir daí, surjam métricas e padrões que permitam melhorar o sistema de forma mais confiável nessas áreas.

Impacto para o direito, a economia e a tecnologia

A iniciativa da Anthropic tende a repercutir diretamente em escritórios de advocacia, departamentos jurídicos empresariais e órgãos reguladores, que veem se aproximar um cenário em que partes de negociações e disputas cotidianas poderão ser conduzidas por máquinas. Ao envolver bancas desde o início, a empresa abre espaço para que o próprio setor jurídico ajude a desenhar as regras desse novo mercado.

Na economia real, o efeito pode ir de atendimentos automatizados realmente úteis — que revisam faturas, contestam cobranças indevidas e negociam tarifas melhores — a discussões sobre equilíbrio de poder entre consumidores e grandes corporações. O ponto sensível é garantir que a tecnologia não vire apenas mais uma ferramenta para quem já está em posição de vantagem.

No ecossistema de tecnologia, o movimento coloca pressão sobre outras desenvolvedoras de IA generativa. Ao sinalizar que normas de justiça e testes robustos em ciências humanas são parte central do produto, a Anthropic ajuda a estabelecer um padrão de responsabilidade que tende a ser cobrado também de concorrentes, especialmente à medida que agentes de IA passarem a atuar diretamente em dinheiro, contratos e direitos das pessoas.

Fonte: matéria original