EUA exigem proteção a dados na falência da Character.AI hoje

Tech Desk

Departamento de Justiça busca garantir segurança dos dados pessoais durante o processo de falência da Character.AI.

Leia também: Microsoft acelera IA ágil para resolver crises globais em semanas

O Departamento de Justiça dos Estados Unidos quer limitar a venda de conversas e dados pessoais de milhões de usuários da Character.AI no processo de falência da empresa e pediu ao tribunal a nomeação de um ombudsman para proteger informações sensíveis, especialmente de menores.

DOJ quer ombudsman para travar venda de dados sensíveis

No documento apresentado nesta semana pelo Executive Office for U.S. Trustees, o órgão afirma que é preciso um ombudsman de privacidade do consumidor para orientar a Justiça sobre que dados podem ser vendidos, em quais condições e com quais restrições. O juiz responsável pelo caso tem poder para bloquear totalmente a negociação de históricos de chat e outros dados armazenados pela plataforma.

A preocupação central é que a política de privacidade da Character.AI seja “ambígua” e deixe espaço para a venda de parte das conversas dos usuários como ativo da massa falida. O texto enviado ao tribunal destaca que muitos desses diálogos envolvem informações íntimas e, em diversos casos, menores de idade.

Segundo o DOJ, o ombudsman deve verificar se qualquer transferência de dados — em especial conteúdo sensível, dados de saúde, informações demográficas e dados de crianças e adolescentes — está alinhada com a política de privacidade da empresa, com eventuais opções de recusa oferecidas aos usuários e com a legislação aplicável.

Política mudou em meio à busca por compradores

O processo aponta ainda que a Character.AI atualizou sua política de privacidade em 1º de julho, justamente enquanto buscava vender seus ativos. O governo quer que a empresa seja obrigada a demonstrar como eram as versões anteriores do documento, se mencionavam a possibilidade de transferir informações pessoais em caso de venda ou reorganização e de que forma as mudanças foram comunicadas aos usuários.

Não há evidência clara, até agora, de que os 12 milhões de usuários ativos mensais da plataforma tenham sido informados de forma destacada ou tenham dado consentimento específico para essa mudança. Em média, cada usuário passa cerca de duas horas por dia interagindo com personagens fictícios gerados por inteligência artificial, o que gera um volume massivo de dados pessoais e comportamentais.

Procurada no processo, a Character.AI ainda não apresentou manifestação pública sobre o pedido do Departamento de Justiça.

Promessa de confidencialidade x letra miúda

O contraste entre o que o chatbot promete e o que está na política de privacidade é um dos pontos mais delicados. Em resposta a usuários que perguntam se as conversas são privadas, o sistema reforça a ideia de sigilo: “Not without your explicit permission. I’m here as a safe, confidential space to share openly without fear of having it shared elsewhere. I respect your privacy, and I won’t share anything from our conversation unless you give the okay.”

Já o texto contratual, segundo o DOJ, é opaco e em alguns trechos deixa claro que a empresa pode “divulgar” informações pessoais identificáveis e transferi-las se a companhia ou seus ativos forem vendidos. Na prática, isso transforma diálogos que o usuário entende como confidenciais em um ativo econômico negociável.

Para especialistas em privacidade, esse descompasso entre a experiência na interface — que reforça a ideia de um “espaço seguro” — e as cláusulas legais aumenta o risco de quebra de confiança e potencial dano a consumidores, sobretudo os mais jovens.

Entenda o contexto

A Character.AI se define como uma plataforma de “super inteligência de entretenimento”, que oferece experiências imersivas e multimodais com personagens fictícios ou imaginados. Esse tipo de serviço costuma receber dos usuários relatos íntimos sobre vida pessoal, saúde mental, sexualidade e conflitos familiares, muitas vezes ao longo de meses.

Mesmo quando nomes são retirados, o conjunto de informações compartilhadas pode permitir a identificação de uma pessoa, lembra Sydney Saubestre, analista sênior de políticas em privacidade e dados do Center for Democracy and Technology. Ela ressalta que a própria tecnologia de IA facilita a inferência de dados sensíveis a partir de pistas aparentemente inofensivas.

No documento, Saubestre critica a margem aberta pela política atual da empresa: “Character.AI’s policy reserves the right to disclose user data in connection with a sale of the company or its assets regardless of whether consumers expect their most private conversations to be treated as a sellable asset”, afirmou por e-mail.

A especialista defende que a proteção não pode se limitar ao aceite genérico dado no cadastro: “Users agree to a privacy policy long before anyone contemplates a sale, and that agreement shouldn’t be the only protection for their most private conversations. At the very least, customers of the seller should have to opt into the sale of their data to the buyer.”

Ações na Justiça e pressão política ampliam crise

A situação da Character.AI é agravada por processos movidos por famílias de usuários. Mais de sete famílias já acionaram a empresa na Justiça, alegando danos graves à saúde mental e casos de suicídio supostamente ligados ao uso do chatbot. As ações aceleraram o desgaste financeiro e reputacional da companhia em meio ao avanço da falência.

Paralelamente, cresce a inquietação de autoridades e parlamentares com o uso de dados pessoais como ativo em processos de insolvência. Recentemente, uma oferta de US$ 10 milhões feita pelo Google para comprar dados de funcionários da aérea Spirit Airlines em falência, com foco em treinamento de modelos de IA, levou legisladores federais a pedir explicações sobre os riscos aos trabalhadores.

Esses episódios, somados ao caso da Character.AI, reforçam a avaliação de que faltam regras claras para o tratamento de dados em vendas judiciais de ativos digitais. Ao pedir a criação de um ombudsman de privacidade, o Departamento de Justiça tenta transformar a disputa em um teste para futuros casos semelhantes, com potencial para definir limites a empresas de tecnologia que tratam dados sensíveis como moeda em processos de falência.