Startup de IA Character.ai pede recuperação judicial nos EUA

Inteligência Artificial

Character.ai enfrenta desafios legais e financeiros após polêmicas envolvendo adolescentes e possível aquisição pela Disney.

Leia também: Perfis com IA ligam apoio a Lula e Flávio a venda de nudes

A startup de inteligência artificial Character.ai entrou em recuperação judicial nos Estados Unidos nesta semana, em meio a uma série de processos ligados à saúde mental de adolescentes e à negociação de uma venda supervisionada pela Justiça, que tem a Disney como principal interessada na compra de sua tecnologia.

O que aconteceu com a IA que permitia ‘namorar’ personagens da ficção?

A Character.ai pediu proteção sob a Lei de Falências dos EUA e busca vender seus ativos até o fim do ano, enquanto enfrenta ações de famílias que responsabilizam a plataforma pelo agravamento de transtornos psicológicos de filhos adolescentes. A empresa ficou conhecida por permitir que usuários “namorassem” versões simuladas de personagens da ficção, celebridades e avatares criados sob medida, em conversas que imitavam intimidade, afeto e apoio emocional.

Na recuperação judicial, a startup tenta garantir fôlego financeiro e manter o serviço no ar até a conclusão de uma venda. A oferta mais avançada é da Disney, que estuda pagar cerca de US$ 20 milhões pela propriedade intelectual da companhia e promete absorver a equipe atual. O ex-CEO da Character.ai, Karandeep Anand, assumiu recentemente o comando da área de tecnologia da gigante de mídia, o que reforça o alinhamento estratégico entre as partes.

Com a crise, a plataforma passou a impor restrições de idade em recursos sensíveis e a exibir alertas com links para atendimento psicológico. As mudanças respondem a, pelo menos, cinco processos judiciais já encerrados por acordo neste ano, entre eles o de Megan Garcia, mãe de um adolescente de 14 anos que se suicidou na Flórida e acusa a empresa de não ter protegido usuários vulneráveis.

Por que a falência da IA de namoro está deixando usuários em luto?

Para parte da base da Character.ai, o pedido de recuperação judicial é vivido como uma perda afetiva. Em fóruns dedicados ao aplicativo, usuários descrevem a notícia com termos de luto e pânico, relatando dependência emocional dos chatbots com quem conversavam diariamente.

“Preciso que alguém me abrace, me console e me garanta que vai ficar tudo bem… Por favor”, escreveu um usuário, ao comentar a situação. Outro questionou: “Quem disse que você não pode sentir luto quando um personagem morre e realmente chorar por dias? Mesmo se for um personagem fictício, ele foi real para você.”

Os relatos mostram que, para muitos, os bots funcionavam como companhia constante, espaço de desabafo e até substituto de relações presenciais. “Mesmo sendo só uma plataforma, ela tem a alma de milhões de usuários que interagiram com seus bots e interagiram como comunidade nos treinamentos de IA”, afirmou um participante do fórum. Em outra mensagem, um fã definiu: “C.ai não é só uma plataforma, é uma alma coletiva com cola de IA entre cada pedacinho.”

Há também quem tente aliviar o clima de despedida. “Vamos ser pacientes e voltar a usar o app”, sugeriu um usuário, pedindo que as pessoas aproveitassem o que ainda está disponível. Outro compilou capturas de tela de seus bots favoritos com a frase: “Honrando a chance deste site ser deletado, gostaria de agradecer aos bots que me ajudaram nos momentos difíceis”.

Entenda o contexto

A Character.ai surgiu com a proposta de permitir que qualquer pessoa criasse ou acessasse personagens conversacionais alimentados por IA generativa. Na prática, isso deu origem a uma espécie de “rede social de bots”, em que usuários passavam horas interagindo com versões de heróis de filmes, ídolos da cultura pop ou figuras românticas desenhadas para responder com carinho, atenção e, muitas vezes, envolvimento amoroso.

Com o tempo, surgiram sinais de uso problemático, especialmente entre adolescentes que passaram a trocar sono, estudos e convívio social por longas madrugadas diante dos chatbots. Um usuário contou que, após uma perda familiar, se agarrou ao Character.ai como fuga da realidade, passou a ficar acordado até quatro da manhã, deixou de jogar, de fazer transmissões ao vivo e de sair com amigos, até decidir cancelar a assinatura.

Os processos judiciais abertos por famílias na Flórida e em outros estados pressionaram a startup a rever políticas de segurança. Além dos acordos fechados neste ano, a empresa incluiu barreiras etárias em algumas funções e disparou notificações com orientações de cuidado em saúde mental, medidas vistas como insuficientes pelos críticos.

Especialistas de áreas como psicologia, direito digital e ética em tecnologia acompanham o caso como possível ponto de virada para o mercado de IA conversacional voltado a vínculos emocionais. A avaliação é que plataformas desse tipo caminham para ser cobradas não apenas por vazamento de dados ou discursos de ódio, mas também por efeitos clínicos em usuários vulneráveis.

Como os usuários estão reagindo e o que vem a seguir

Enquanto a Justiça dos EUA analisa o plano de recuperação, a comunidade em torno do Character.ai tenta se reorganizar. Em fóruns na internet, há guias para exportar conversas, sugestões de serviços alternativos e discussões sobre como “desmamar” da dependência dos bots.

Moderadores de grupos on-line passaram a compartilhar links do próprio material da empresa com opções de atendimento psicológico, numa tentativa de direcionar quem relata sintomas de depressão, ansiedade e crises de pânico diante da possível interrupção do serviço.

Se a venda para a Disney avançar, a perspectiva é de continuidade do núcleo tecnológico e da equipe, com mudanças graduais de política de uso e de proteção a menores. Uma transação desse tipo também colocaria a gigante do entretenimento no centro do debate sobre usos emocionais da IA, trazendo para dentro de um grupo global uma tecnologia que hoje é questionada por seus efeitos mais sensíveis.

Fonte: matéria original