Apple endurece regras da App Store contra abusos com IA
Apple atualiza diretrizes da App Store, proíbe apps que geram conteúdo ofensivo ou pornográfico por IA, veta funções ocultas e exige moderação rígida de conteúdo de usuários.
Inteligência Artificial
Novas diretrizes da Apple visam coibir abusos e garantir segurança na App Store com regras mais rígidas para apps de IA.
Leia também: Sea lança Sea Cloud de IA e confirma IPO da Monee em 2026
A Apple atualizou as diretrizes da App Store para proibir aplicativos que usam inteligência artificial para gerar conteúdo ofensivo ou material pornográfico com imagens não consensuais, vetar funções ocultas em apps e exigir moderação mais rígida de tudo o que é criado por usuários dentro da loja.
Quais são as novas regras da Apple para aplicativos que geram imagens íntimas por IA?
As novas regras da Apple barram diretamente aplicativos que usam IA para criar imagens íntimas, especialmente quando envolvem pessoas sem consentimento, e obrigam os desenvolvedores a filtrar e remover esse tipo de conteúdo antes que ele circule.
Segundo a atualização das Diretrizes de Avaliação de Apps, softwares que produzem ou hospedam material sexual explícito, incluindo imagens íntimas fabricadas por ferramentas generativas, ficam sujeitos a remoção da App Store e ao banimento das contas de desenvolvedor.
Apps que permitem conteúdo gerado por usuários precisam implementar filtros proativos para bloquear material pornográfico, discurso de ódio, violência extrema e qualquer forma de exploração, além de mecanismos claros para denúncia e bloqueio de perfis abusivos.
A Apple também reforça que é responsabilidade do desenvolvedor impedir a circulação de imagens não consensuais, como nudes falsos criados por IA, com processos de revisão, ferramentas automáticas de detecção e reação rápida a denúncias.
Regras mais duras para funções ocultas e mudanças pós-aprovação
A empresa passou a proibir explicitamente aplicativos com funcionalidades ocultas ou não documentadas, como recursos que só aparecem depois que o app é aprovado ou que são ativados remotamente sem passar pela análise da App Store.
Os apps não podem alterar de forma relevante seu comportamento após a aprovação, incluindo a adição de funções que não estavam presentes na versão enviada para revisão. Se isso ocorrer, o aplicativo pode ser removido da loja, e o desenvolvedor pode ser excluído do Programa de Desenvolvedores da Apple.
Também estão vetados aplicativos que facilitem crimes graves, como tráfico de pessoas e exploração infantil, incluindo qualquer forma de material de abuso sexual infantil. A Apple afirma que violações desse tipo serão tratadas com máxima severidade.
Entenda o contexto
No comunicado em que anuncia as mudanças, a Apple diz que a atualização busca responder ao avanço rápido da IA generativa e ao aumento de tentativas de fraude e abuso na plataforma.
De acordo com números divulgados pela companhia, mais de 150 mil aplicativos foram barrados por problemas de segurança e mais de 193 mil contas de desenvolvedores foram encerradas por fraudes e abusos em 2025, o que ajuda a explicar o endurecimento agora.
“Queremos que os melhores apps e os desenvolvedores por trás deles tenham sucesso na App Store e, à medida que novos riscos e novas experiências de usuário surgem, aprimoramos nossas Diretrizes de Avaliação de Apps para manter a confiança tanto dos usuários quanto dos desenvolvedores”, afirma a Apple.
Como as mudanças da Apple impactam os desenvolvedores de aplicativos de IA?
As novas regras aumentam a pressão sobre empresas e profissionais que trabalham com IA generativa, exigindo mais investimento em moderação, segurança e transparência para continuar na App Store.
Desenvolvedores de apps que geram texto, imagem, áudio ou vídeo por IA terão de reforçar filtros automáticos, revisar fluxos de denúncia e adaptar termos de uso para garantir que conteúdos ofensivos, pornográficos ou ilegais sejam bloqueados e removidos com rapidez.
Quem não implementar salvaguardas adequadas ou deixar de corrigir violações após ser notificado pode ter o aplicativo removido por ferir o Código de Conduta do Desenvolvedor e perder o acesso ao ecossistema da Apple.
Na prática, a mudança pode levar a uma revisão em massa de apps já disponíveis, com risco de queda temporária na oferta de determinados serviços, mas tende a favorecer, no médio prazo, ferramentas de IA focadas em segurança e conformidade.
Para os usuários, a expectativa é de redução na exposição a conteúdos nocivos, golpes e apps de baixa qualidade, fortalecendo a imagem da App Store como ambiente mais controlado e pressionando outras plataformas a seguir caminho semelhante.
Fonte: matéria original
