Apple bane apps de IA que criam nudez falsa e reforça punições

Tecnologia

Apple reforça regras para impedir apps de IA que produzem imagens inapropriadas, garantindo mais segurança na App Store.

Leia também: 15 white elephant gifts everyone will fight for in 2026

A Apple atualiza neste fim de semana as diretrizes da App Store para proibir aplicativos que usam inteligência artificial para gerar conteúdo ofensivo e nudez falsa, e endurece a punição contra apps que escondem funcionalidades prejudiciais — como recursos de “nudify” — para driblar a revisão da loja.

Como a Apple está atualizando suas diretrizes para banir apps de nudez disfarçados?

Segundo o novo texto das regras para desenvolvedores, qualquer app que hospede conteúdo gerado por usuários passa a ser obrigado a ter filtros de material ofensivo, ferramentas de denúncia e mecanismos para bloquear contas abusivas. Sem isso, não entra — ou será removido — da App Store.

A Apple também deixa explícito que não aceitará aplicativos com funções ocultas ou não documentadas, incluindo aqueles que se apresentam como inofensivos na análise inicial e, depois de aprovados, liberam recursos de “nudificação” ou outros abusos. A empresa descreve essa manobra como tática de “bait-and-switch”, em que o verdadeiro propósito só aparece após a aprovação.

“Apps que hospedam conteúdo gerado por usuários são obrigados a filtrar material ofensivo, dar aos usuários uma forma de denunciar conteúdo ofensivo e permitir que bloqueiem contas abusivas. Apps contendo funcionalidades ocultas ou não documentadas também são proibidos na App Store, incluindo apps que deturpam seu propósito durante a revisão e só revelam capacidades prejudiciais — como ‘nudificação’ — após aprovação, uma tática conhecida como bait-and-switch”, afirma a companhia em comunicado oficial aos desenvolvedores.

A empresa avisa ainda que removerá aplicativos que adicionarem, em atualizações posteriores, recursos que não estavam presentes na versão enviada para a revisão. Ou seja, não basta passar pelo filtro uma vez: qualquer mudança relevante terá de ser transparente para a Apple.

Entenda o contexto

A movimentação ocorre em meio à pressão de autoridades e de organizações de direitos digitais contra aplicativos de “nudify” — que usam IA para criar imagens falsas de nudez a partir de fotos de pessoas vestidas, muitas vezes sem consentimento.

Em julho, a procuradoria da cidade de San Francisco determinou que Apple e Google removessem esses apps de suas lojas, acusando as empresas de lucrar com esse mercado por meio das taxas cobradas de desenvolvedores. O City Attorney David Chiu tem cobrado medidas mais duras e permanentes para impedir a volta desse tipo de aplicativo.

Antes disso, um relatório do Tech Transparency Project já havia apontado que as lojas das duas gigantes hospedavam vários apps de “nudify”, alguns inclusive classificados como apropriados para menores, o que acendeu o alerta entre autoridades e organizações de proteção à infância.

A Apple também reforça na área jurídica de suas diretrizes que continua barrando aplicativos que promovam tráfico humano e exploração infantil, num esforço declarado de se distanciar de qualquer ferramenta que facilite abuso e violência, especialmente contra crianças e adolescentes.

Impacto para desenvolvedores e usuários

A nova redação das regras muda o patamar de exigência para quem desenvolve apps com IA e conteúdo gerado por usuários. Além dos filtros automáticos, passa a ser indispensável oferecer sistemas de denúncia eficientes, resposta a essas queixas e capacidade de bloquear rapidamente contas que insistem em violar as normas.

Na prática, desenvolvedores que vinham explorando brechas — escondendo funções, liberando “packs” extras de nudez falsa após a aprovação ou trocando totalmente o comportamento do app por atualização — tendem a perder espaço na App Store. Eles podem ter seus aplicativos removidos e, em casos mais graves, ver suas contas banidas.

A Apple lembra que, apenas no ano passado, o processo de revisão bloqueou mais de 150.000 apps antes que chegassem aos usuários e levou à remoção de 193.000 contas de desenvolvedores por fraude e abuso. A expectativa no mercado é que esses números cresçam com a fiscalização mais rígida sobre IA generativa e táticas de bait-and-switch.

Para usuários de iPhone e iPad, a promessa é de uma experiência mais segura, com menos exposição a conteúdo sexualizado sem aviso, golpes envolvendo imagens manipuladas e abusos direcionados a menores. Ao mesmo tempo, alguns aplicativos que hoje oferecem recursos agressivos de edição de imagem, filtros de corpo ou geração de fotos poderão ser obrigados a rever funcionalidades para continuar na loja.

Quais são os riscos dos apps de nudez mascarados para os usuários do iPhone?

Apps de nudez mascarados representam risco direto à privacidade, à reputação e, em muitos casos, à segurança física dos usuários. Ao gerar imagens falsas de nudez, essas ferramentas facilitam extorsão, assédio, vingança pornográfica e outras formas de violência digital.

Especialmente para crianças e adolescentes, que muitas vezes aparecem em fotos públicas em redes sociais, a combinação de IA com nudificação cria um cenário de exploração e abuso potencial em escala. Autoridades em San Francisco e em outras jurisdições apontam que esse tipo de aplicativo pode alimentar redes de tráfico humano e alimentar bancos de imagens usados para exploração sexual.

Ao proibir funções ocultas e exigir moderação ativa, a Apple tenta reduzir a circulação desse tipo de ferramenta em seu ecossistema. A medida também antecipa possíveis ações regulatórias mais duras sobre plataformas que permitirem a distribuição de apps claramente voltados à exploração digital.

Fonte: matéria original