OpenAI lança detector gratuito de abuso infantil para policiais
OpenAI lançou em 16 de novembro de 2026 um classificador de imagens que identifica possível abuso sexual infantil, inclusive conteúdo gerado por IA, e será oferecido grátis a instituições selecionadas via API.
Inteligência Artificial
Ferramenta inovadora da OpenAI auxilia forças policiais na identificação de abuso sexual infantil, incluindo imagens geradas por IA.
Leia também: Brasileiros aumentam uso de IA para apoio em saúde mental 24h
A OpenAI lançou em 16 de novembro de 2026 um novo classificador de imagens capaz de identificar sinais visuais de possível abuso sexual infantil, inclusive quando o conteúdo é gerado por inteligência artificial, e vai oferecer a tecnologia gratuitamente para forças policiais e organizações de proteção à infância selecionadas no mundo todo via API.
Ferramenta mira também conteúdo gerado por IA
Desenvolvida em parceria com o Centro Nacional para Crianças Desaparecidas e Exploradas (NCMEC), a ferramenta analisa imagens em busca de indícios de material de abuso sexual infantil (CSAM) e atribui uma pontuação que ajuda moderadores humanos a priorizar o que precisa de revisão urgente. Segundo a empresa, é o primeiro classificador amplamente disponível que traz um sinal específico para detectar conteúdo abusivo criado por IA.
O sistema foi treinado e avaliado com apoio do NCMEC para uso em cenários reais de investigação. A promessa é reduzir o volume de falsos positivos que chega aos times de revisão, liberando tempo e recursos para os casos com maior probabilidade de representar abuso real.
A ferramenta será acessível por meio da API da OpenAI a instituições verificadas, como unidades de polícia especializadas em crimes contra crianças e entidades de segurança infantil. O uso não terá custo para essas organizações.
Entenda o contexto
O avanço ocorre em um momento em que a disseminação de imagens geradas por IA dificulta a identificação de material ilícito e abre brechas para a criação de conteúdo abusivo hiper-realista. Ao incorporar um sinal específico para detectar imagens produzidas por modelos generativos, o classificador tenta responder a esse desafio mais recente da exploração infantil online.
A iniciativa faz parte do Child Safety Blueprint da OpenAI, um programa interno que organiza as ações da companhia para detectar, bloquear e relatar abusos envolvendo crianças, além de apoiar pais com tecnologias voltadas à segurança.
Medidas contra usuários que buscam conteúdo abusivo
Junto com o classificador, a OpenAI anunciou novas camadas de segurança no gerador de imagens do ChatGPT. Se um usuário tentar criar imagens de teor abusivo envolvendo crianças, a plataforma exibirá um alerta. “Se um usuário tentar gerar imagens abusivas na plataforma, receberá um aviso com orientação de especialistas para buscar ajuda”, informou a empresa.
Na primeira tentativa de gerar esse tipo de conteúdo, a punição será a suspensão temporária: “Na primeira ocorrência, a conta ficará suspensa por 24 horas, mantendo o suporte disponível para que a pessoa procure auxílio”, destacou a OpenAI. A companhia afirma ainda que “novas tentativas podem resultar em suspensões mais longas e até mesmo no banimento do perfil, assim como em denúncia às autoridades”.
Essas medidas se somam às salvaguardas já existentes, como o bloqueio automático de pedidos que peçam material de abuso infantil e o encerramento de contas que violem de forma grave ou reiterada as políticas de uso.
Parcerias e troca de informações entre plataformas
A OpenAI reforçou que o combate à exploração infantil digital depende de colaboração entre empresas de tecnologia, entidades especializadas e autoridades. A companhia mantém parcerias com organizações como a Tech Coalition e a ROOST e participa do programa Lantern, que promove troca de sinais e informações sobre exploração infantil entre diferentes plataformas.
Além de abrir acesso ao próprio classificador, a empresa diz apoiar ferramentas complementares desenvolvidas por terceiros, citando, por exemplo, um sistema de detecção de CSAM mantido pela organização Thorn, usado por outras companhias do setor.
Para desenvolvedores que utilizam seus modelos, a OpenAI publicou guias atualizados com orientações sobre como prevenir, detectar e reagir a conteúdos prejudiciais envolvendo crianças. A empresa também promete oferecer ferramentas e treinamentos específicos para investigadores de polícia que atuam na proteção infantil, com foco em uso prático do classificador em rotinas de triagem e investigação.
Impacto para segurança pública e indústria de tecnologia
A nova ferramenta tem potencial para acelerar investigações e ampliar a detecção precoce de casos de abuso ao permitir que equipes de segurança priorizem rapidamente o que é mais urgente entre grandes volumes de imagens. Ao mesmo tempo, o endurecimento de punições contra tentativas de gerar ou acessar conteúdo abusivo tende a criar barreiras adicionais para usuários mal-intencionados.
Na prática, a iniciativa pressiona outras empresas de tecnologia a reforçarem seus próprios mecanismos de segurança infantil, num momento em que a OpenAI reportou faturamento de US$ 10 bilhões em seu último trimestre, apesar de prejuízo operacional. Ao colocar o classificador à disposição de instituições especializadas sem cobrar pelo uso, a companhia tenta sinalizar que a proteção de crianças continua no centro de suas prioridades, mesmo em meio à expansão comercial rápida.


