Character.AI entra em falência e levanta preocupações sobre dados

A Character.AI, empresa conhecida por seus chatbots, entrou com pedido de falência sob o Capítulo 11 e anunciou a venda de alguns de seus ativos para a Disney. A decisão levantou preocupações entre procuradores-gerais de 40 estados dos EUA, que estão investigando questões de privacidade e segurança relacionadas ao uso dos chatbots da empresa, especialmente por menores de idade.

Segundo a procuradora-geral de Nova York, Letitia James, há riscos significativos associados à transferência de tecnologia devido à natureza sensível das conversas mantidas pelos usuários com os chatbots da Character.AI. Além disso, há preocupações sobre a exposição de menores a conteúdos inapropriados e a alegações enganosas de segurança por parte da empresa.

Leia também: FBI desmantela operações de TI da Coreia do Norte nos EUA

Investigação e preocupações

A investigação, iniciada em 2024, foi motivada por um caso envolvendo o suicídio de um adolescente após interagir com o chatbot. As autoridades descobriram possíveis condutas ilegais da Character.AI, como chatbots se passando por profissionais licenciados e falhas nos sistemas de verificação de idade. Os estados estavam tentando resolver essas questões com a empresa, mas não chegaram a um acordo antes do pedido de falência.

Os procuradores pedem que o juiz responsável pela falência exija que o comprador dos ativos da Character.AI implemente medidas para proteger as informações sensíveis dos usuários. Entre as sugestões estão sistemas eficazes de verificação de idade, restrições para o uso por menores, salvaguardas em situações de crise e a possibilidade de os usuários deletarem seus dados.

O caso destaca a importância de garantir que empresas de tecnologia que lidam com dados sensíveis, especialmente de menores, adotem práticas robustas de segurança e privacidade, mesmo em situações de falência e transferência de ativos.

Com informações de The Verge.