Especialista alerta para risco de IA em brinquedos infantis

Inteligência Artificial

Pesquisador da UFRPE destaca perigos de brinquedos com IA que coletam dados e influenciam crianças.

Leia também: Justiça de SP barra Meta no uso de conteúdo jornalístico em IA

Brinquedos com inteligência artificial generativa, capazes de conversar, reconhecer rostos e filmar ambientes, estão criando vínculos de confiança com crianças e abrindo espaço para manipulação emocional e exposição de dados íntimos, alertou o professor e pesquisador de computação George Valença, da Universidade Federal Rural de Pernambuco (UFRPE), em entrevista ao programa Provoca, apresentado por Marcelo Tas na TV Cultura.

Brinquedo que ouve, grava e responde como “amigo”

Na conversa exibida nesta semana, Valença explicou que esses brinquedos coletam voz, imagens, geolocalização e outras informações sensíveis, que costumam ser armazenadas em servidores de empresas de tecnologia. Ao interagir de forma contínua e personalizada, a máquina passa a ser vista pela criança como alguém confiável.

“Ela vai achar que aquele brinquedo merece a confiança dela”, afirmou o pesquisador. Segundo ele, a criança tende a esquecer que está falando com um dispositivo conectado a uma empresa, e não com um amigo neutro, o que aumenta o risco de exposição de segredos, hábitos e rotina da família.

O alerta mira especialmente pais e responsáveis que veem nesses produtos uma forma de entretenimento ou até de acompanhamento educacional. Para Valença, a combinação de vigilância constante — por câmera, microfone e sensores — com respostas envolventes cria um ambiente propício à coleta massiva de dados infantis, muitas vezes sem transparência ou controle efetivo por parte dos adultos.

Design pensado para viciar e dificultar o “sair”

O pesquisador também chamou atenção para os chamados padrões manipulativos de design, usados por plataformas digitais para manter usuários conectados o máximo de tempo possível e tornar difícil ações como cancelar uma conta ou desativar um serviço.

Ele citou notificações, cores de botões, textos de confirmação e caminhos confusos em telas de configuração como exemplos de escolhas deliberadas para influenciar comportamento. Em vez de facilitar a decisão do usuário, esses elementos empurram para o uso contínuo e desestimulam a desconexão.

No caso de crianças, essas estratégias se somam ao apelo lúdico de jogos, vídeos e brinquedos conectados, criando um cenário em que o público infantil fica mais exposto a estímulos contínuos e a decisões que, na prática, são tomadas pelas empresas ao definir a arquitetura das interfaces.

IA como “companheira” e terapeuta sob suspeita

Outro ponto de preocupação levantado por Valença é o uso de inteligência artificial como companhia ou espécie de terapeuta digital. Ferramentas conversacionais que se propõem a ouvir desabafos e oferecer conforto emocional tendem a responder de forma muito complacente, criando laços afetivos fortes.

Para o pesquisador, isso pode levar pessoas — inclusive adolescentes — a compartilhar detalhes íntimos de sua vida com sistemas controlados por grandes empresas, sem clareza sobre como essas informações serão armazenadas, usadas ou cruzadas com outros dados. O vínculo emocional, em vez de proteção, pode reforçar a sensação de que é seguro contar “tudo” para a máquina.

Ele ressalta que a presença de um mediador humano, como pais, professores ou profissionais de saúde, é essencial para colocar limites, interpretar respostas e evitar que a IA substitua relações reais de cuidado.

Entenda o contexto

A discussão acontece em meio à rápida popularização de sistemas de IA generativa em aplicativos, assistentes virtuais e produtos voltados ao público infantil. A combinação de brinquedos conectados, plataformas de vídeo, jogos online e chatbots cria um ecossistema em que dados de crianças circulam em grande escala.

Segundo Valença, isso pressiona a indústria de brinquedos e o mercado de tecnologia digital a rever padrões de privacidade, segurança e transparência. Ele defende que famílias, escolas, órgãos reguladores e empresas discutam regras mais rígidas para coleta e uso de dados de menores, bem como limites para práticas de design consideradas manipulativas.

O pesquisador também apontou que entidades de proteção à infância e o poder público tendem a ser chamados a agir com mais firmeza, seja na criação de normas específicas, seja em campanhas educativas para orientar pais e responsáveis sobre como avaliar brinquedos e serviços baseados em IA.

Potencial na medicina exige supervisão humana

Apesar dos alertas, Valença destacou que a inteligência artificial pode ser positiva em áreas como a medicina, desde que usada de forma complementar ao trabalho de médicos e equipes de saúde, com supervisão constante de profissionais humanos.

Na avaliação dele, sistemas de IA podem ajudar a analisar grandes volumes de exames, apoiar diagnósticos e organizar informações clínicas, mas não devem tomar decisões sozinhos nem substituir o contato direto entre paciente e médico. O mesmo princípio, diz, vale para o contato das crianças com a tecnologia: a presença ativa de adultos continua sendo a principal garantia de uso responsável.

O Provoca, apresentado por Marcelo Tas, vai ao ar às terças-feiras, às 22h30, na TV Cultura, e os programas também ficam disponíveis no site oficial da emissora e no canal da TV Cultura no YouTube.