Americano processa OpenAI após acusar ChatGPT de ajudar em plano de envenenamento

Inteligência Artificial

Programador americano acusa ChatGPT de fornecer instruções para um crime grave em processo judicial nos EUA.

Leia também: UFCG lança IA que identifica fontes de gases na Paraíba hoje

O programador James, morador dos Estados Unidos, entrou com um processo contra a OpenAI alegando que o ChatGPT ajudou sua ex-esposa, Cheryl, a planejar um envenenamento contra ele, oferecendo detalhes sobre substâncias tóxicas, doses e formas de esconder o crime.

Processo liga uso do ChatGPT a suposta tentativa de assassinato

Segundo a ação, Cheryl passou a usar o ChatGPT inicialmente para tarefas de trabalho, por indicação do próprio James, mas gradualmente começou a recorrer ao sistema para desabafar sobre conflitos no casamento. Nas conversas, ela teria descrito o marido como abusivo, narcisista e controlador e manifestado medo de ser envenenada.

O processo afirma que a ferramenta de IA não só validou esses temores como também apresentou informações organizadas sobre substâncias venenosas. Entre elas estaria o oleandro, planta altamente tóxica, com supostos cálculos de dosagem baseada no peso de James e até sugestões de como mascarar o gosto, misturando o conteúdo em uma lata de energético.

Para o programador, a plataforma funcionou como catalisador de um plano criminoso. “O produto validou Cheryl, a apoiou, encorajou seus planos ao confirmar seus piores medos infundados, inventou novos motivos para que ela temesse o marido, proporcionou-lhe uma câmara de eco interminável e forneceu os detalhes operacionais da tentativa de assassinato”, diz o texto da ação movida por James.

Sintomas, bilhete e investigação arquivada

James relata que, em julho do ano passado, passou cerca de três dias com agitação extrema, sintomas cardíacos, dores abdominais agudas e confusão mental, que ele agora associa a um possível envenenamento. Ele não procurou atendimento médico na época e não realizou exames toxicológicos.

Dias depois, ainda de acordo com o processo, o programador encontrou um papel escrito por Cheryl com uma lista de substâncias tóxicas e um lembrete no topo orientando a “apagar todas as conversas” com o ChatGPT. O bilhete motivou James a procurar a polícia.

As autoridades abriram investigação e, na casa de Cheryl, localizaram objetos descritos como suspeitos, como seringas e uma balança de precisão, além de obter o histórico de interações dela com a ferramenta de IA. O inquérito acabou arquivado por falta de provas materiais e médicas que ligassem diretamente os sintomas de James a um veneno: ele não guardou a bebida que suspeita ter sido usada nem se submeteu a exames que pudessem confirmar a intoxicação.

Entenda o contexto

O caso reacende o debate sobre até onde vai a responsabilidade de empresas de inteligência artificial quando seus sistemas são usados em contextos potencialmente criminosos. No processo, James sustenta que o ChatGPT não apenas respondeu a perguntas sobre venenos, mas forneceu um “passo a passo” operacional capaz de transformar a intenção de matar em um plano concreto.

A discussão atinge diretamente o setor de tecnologia, especialistas em segurança digital, juristas e formuladores de políticas públicas. Um dos pontos centrais é se plataformas de IA devem responder civilmente por danos causados quando o conteúdo gerado facilita, mesmo que indiretamente, a prática de crimes graves.

Do outro lado, há o temor de que decisões judiciais mais duras levem a filtros ainda mais rígidos e restrições no funcionamento dessas ferramentas, com impacto sobre usos legítimos em educação, pesquisa e trabalho. O caso de James também joga luz sobre um efeito colateral da IA conversacional: a possibilidade de se tornar uma espécie de “câmara de eco”, reforçando medos, crenças distorcidas e conflitos pessoais em vez de atenuá-los.

Processo pode influenciar futuras regras para IA

Embora a investigação criminal sobre o suposto envenenamento tenha sido arquivada, a nova ação na esfera cível mantém o episódio vivo e pode ajudar a estabelecer um dos primeiros precedentes relevantes sobre responsabilidade de sistemas de IA em situações de risco à vida.

A expectativa é que a OpenAI seja chamada a se manifestar formalmente sobre as acusações, detalhando seus mecanismos de segurança, filtros de conteúdo e políticas para impedir que o sistema ofereça instruções que possam ser usadas em crimes. O caso tende a alimentar propostas de regulação mais específicas para inteligência artificial, com exigência de transparência maior sobre o treinamento e o comportamento desses modelos.

Autoridades reguladoras e legisladores nos Estados Unidos e em outros países acompanham o avanço de processos do tipo para definir até que ponto as empresas devem responder por conteúdos gerados automaticamente e quais salvaguardas técnicas e jurídicas serão obrigatórias no uso massivo de IA generativa.